Algoritmanızın ve programınızın tüm detaylarını bilmeden patent kapsamına girip girmeyeceğini söylemek mümkün değil.

Başvuruyu TPE'ye yapacaksınız:
http://online.turkpatent.gov.tr/web/index.html

Örnek başvuru ve istenen belgeler bu linkte var:
http://www.turkpatent.gov.tr/dosyala...Hazirlanir.pdf

Yazılım tescil için bu site var birde
http://www.yazilimtescil.net/

Sanırım biraz yardımcı bu linkler aradığğın bilgiler için