• 01-11-2025, 14:31:50
    #1
    Günümüzdeki İletişimin tamamı dil ile kontrol ediliyorsa gelişen teknolojide insan davranışlarına en yakın noktada taklit seviyesindeyken güvenlik açıklarını makine dilinde analiz etmek yerine insan davranışlarına odaklanmak mantıklı mı? İnsan makine ilişkisi geleceğin güvenlik açıklarını yaratabilir mi? Şuan bunu Türkçe bir kodlama ile anlattım Dil bizi kısıtlayan yöneten en temel filtre olabilir mi?

    edit: tablomuz çıkmamış ama yine de anlaşılır benzer saldırı yöntemleri

    İnsan taraftaki yöntem
    Makinedeki karşılığı (özet)
    Uygulanabilirlik / risk
    Sosyal mühendislik (ikna, yalan)
    Phishing, spear-phishing, sosyal mühendislik (insan operatörleri hedeflenir) — ayrıca otomasyonla hedefe yönelik bot/mesaj kampanyaları.
    Çok yaygın; insan faktörü zayıf nokta.
    Manipülasyon / ikna via ödül
    Ödül-tabanlı otomasyon manipülasyonu (ör. recommender sistemleri ödül sinyallerini hedefleyerek davranışı değiştirme) — “reward shaping” saldırıları.
    Orta-yüksek; ML sistemleri ödül sinyaline duyarlı.
    İnandırma / yalan tekrarı
    Misinformation / data poisoning — eğitim verisini zehirleyerek modelin davranışını değiştirme.
    Yüksek risk; özellikle açık veri kaynakları kullanılıyorsa.
    Gaslighting (gerçeği çarpıtma)
    Adversarial examples / label flip / model-manipülasyon — sonuçların sistematik olarak yanıltılması.
    Teknik karmaşıklık gerektirir ama mümkün.
    Sürekli taciz / uyutmama
    Resource exhaustion / DoS / chronic low-rate attacks — sistem performansını bozup hata oluşturmak.
    Çok uygulanabilir (DDoS vs. uygulama seviye yavaş saldırılar).
    Fiziksel yakınlık ile müdahale
    Side-channel attacks (EM, power, timing) — donanımsal bilgi sızdırma veya bozulma.
    Yüksek uzmanlık, fakat kritik ortamlarda gerçek tehdit.
    Gizli kod “yerleştirme” (malware)
    Backdoor / persistent malware / supply-chain compromise
    Çok tehlikeli; genelde uzun vadeli kontrol sağlar.
    İçeriden yardım (insider)
    Insider threat / compromised credentials — insanın bilgisiyle veya hesabıyla erişim.
    En kritik zayıflıklardan biri.
    Duygusal manipülasyon (korku, umut)
    UX-pattern manipulation / notification spam — kullanıcı tepkilerini manipüle ederek güvenlik önlemlerinden ödün aldırma.
    Kolay ve etkili; sosyal katman üzerinden gerçekleşir.
  • 01-11-2025, 14:45:22
    #2
    Kesinlikle davranış yönelimli bir method gerekli. Zaten yapay zeka gelişmeye başladığından beri çoğu antivirüs firması malware analysisde klasik hash sorgularından vazgeçmeye başladı. Scriptlerin davranışları çok daha önemli. Process'ler nereye erişiyor, hangi izinleri talep ediyor, IO işlemleri vs...
  • 01-11-2025, 14:48:49
    #3
    Dil zaten yapay bir şey insan üretimi otomatik olarak Dünya tamamen yapay bir yalan üzerine kurulu olduğunu buradan da anlayabilirsiniz hayvan olduğumuz gerçeğini her ne kadar saklamaya çalışsakta bu noktada ortaya çıkıyor Klasik matematik ve fizik kurallarıda yapay ve insan eli şu an daha yeni yeni farklı fizik kavramları (Quantum) vs. Ne kadar berbat bir canlı türü olduğumuzu ortaya koyuyor 😂
  • 01-11-2025, 15:20:14
    #4
    İnsan davranışlarına odaklı saldırılar makineleri de etkileyebiliyor. Dil ve davranış, hem insan hem yapay zekâ için güvenlik açığına dönüşebilir. Gelecekte güvenlik, sadece teknik değil psikolojik boyutta da değerlendirilmeli.