Yapay zekalarda bu duruma Halüsinasyon denir, senin yazdıgın promtaki bir kelimeye takılıp yanlış bilgiler verir ve bir türlü bundan çıkamaz, ben bu tarz durumlarda çerezleri temizliyorum farklı bir tarayıcı ve hesap ile deniyorum

bu olayı evrim ağacı bir videoda çok iyi anlatmıştı

https://www.youtube.com/watch?v=7foCbOktTZM&t=1427s

bunu izleyin, güzel araştırmışlardır ve güzel videoydu