Hayırlı olsun. Yüksek matematikten kastım difransiyel matematik ("yüksek derecede matematik bilmek" demek istemedim).
Ama kendi kendinize araştıracaksanız deep learning ile başlayın. Deep learning temelli bir Javascript kütüphanesi de var. Yapay sinir ağları diyorlar galiba.
https://github.com/karpathy/convnetjs