Merhaba
Aslında sadece relay ile alakalı değil,
- Relay açık ise zaten bu ilk sorun bunu kapatmak zorundasınız;

- Bazen aynı domain boş bir sunucuda veya mail serverda oluşturulup sizin mailiniz oluşturulup gönderilebiliyor, dns ve ptr kontrolü yapmayan yerleere sizin adresinizden miş gibi bu şekilde kolaylıkla mail atabilirler
bunun bir nebze önüne geçmek için domaininizin dnslerinde;
_dmarc.sizinsayfaniz.com. TXT v=DMARC1; p=reject; adkim=s; aspf=s
_domainkey.sizinsayfaniz.com. TXT o=-
sizinsayfaniz.com TXT v=spf1 mx -all
sizinsayfaniz.com TXT v=spf2.0/mfrom,pra mx -all
default._domainkey.sizinsayfaniz.com. TXT v=DKIM1;p=****
şeklinde kayıtlarınızı girdiğinizde bu adresten gönderim yetkisinin sadece sizin sunucunuzda olduğunu alıcılara bildirmiş olursunuz.

- Kendi sunucunuzda farklı kişilerin adresini taklit ederek size gönderenleri engellemek içinde gelen mailler için ptr kontrolünü açmak doğru bir seçenek olucaktır.
- Mail sunucu ayarlarında Adress Spoofing ayarlarından da sadece kimliği doğrulanmış kullanıcıların göndermesine izin ver ayarını yapmak gerekiyor

- Diğer bir sahtecilikde aslında sizin mail adresinizden gödermeden mail gönderen adını "sizinsayfaniz.com <abc@denemefarkliadres.tr>" şeklinde ilettiğinde outlook veya diğer birçok mail programı <> işaretinden önceki kısmı yani ismi gösteriyor ve oraya istediği maili yazabiliyor, bunu önlemek içinde mecruben bir spam önleme uygulaması kullanmanız lazım.
Mail enable için kullandığım spam engelleme ayarlarını isterseniz https://kisa.web.tr/C9219 safyamdan inceleyebilirsiniz.