• 16-12-2024, 20:43:37
    #1
    Selamlar,

    Bir sistem üzerinde çalışıyorum lakin bazen bazı karakteristik yapısı uygun bulunmayan varlıklar tarafından sistem istismara uğramakta.

    Adamlar için kara liste yapmayı deneyince bu seferde örneğin p*ç adındaki küfürü p1ç olarak yazmaktalar.Ne kadar ilginç?
    Her neyse,bu tür durumları nasıl algılayabiliriz?
    İlk amacım kara liste yerine bütün küfürleri bulmak ardından daha sonrasında şu şekilli olarak yazılan küfürleri algılamaya çalışırız diye düşünmekteyim.

    Saygılarımla,Sağlıcakla Kalın.
    Ayırdığınız vakit için teşekkür ederim.
  • 16-12-2024, 20:45:44
    #2
    Regnos.com
    Kara liste yap. Sonra her yazıyı onaydan geçir . Onay yaparken tespit ettiklerini işaretle böylece listrn zenginleşir. Yada yapay zekayada sordurabilirsin.
  • 16-12-2024, 22:15:58
    #3
    import openai
    import re
    
    class ChatModerator:
        def __init__(self, api_key):
            openai.api_key = api_key
            
        def check_message(self, message):
            try:
                response = openai.ChatCompletion.create(
                    model="gpt-3.5-turbo",
                    messages=[
                        {"role": "system", "content": "Sen bir içerik denetleyicisin. Mesajın küfür, hakaret veya uygunsuz içerik barındırıp barındırmadığını kontrol et. Sadece True veya False döndür."},
                        {"role": "user", "content": f"Bu mesaj uygunsuz mu: '{message}'"}
                    ],
                    temperature=0,
                    max_tokens=5
                )
                
                result = response.choices[0].message.content.strip().lower()
                return result == "true"
                
            except Exception as e:
                print(f"API hatası: {e}")
                return False
    
    class ChatRoom:
        def __init__(self, api_key):
            self.moderator = ChatModerator(api_key)
            self.messages = []
            
        def send_message(self, username, message):
            if self.moderator.check_message(message):
                print(f"[SİSTEM] {username}'in mesajı uygunsuz içerik nedeniyle engellendi.")
                return False
            
            self.messages.append({
                "username": username,
                "message": message
            })
            print(f"{username}: {message}")
            return True
    
    # Kullanım örneği
    if __name__ == "__main__":
        API_KEY = "chatgpt api keyi yaz kanka"
        chat = ChatRoom(API_KEY)
        
        while True:
            username = input("Kullanıcı adı: ")
            if username.lower() == "quit":
                break
                
            message = input("Mesaj: ")
            if message.lower() == "quit":
                break
                
            chat.send_message(username, message)

    ah yapay zeka nelere kadirsin.
  • 16-12-2024, 22:19:06
    #4
    NaveBilisim adlı üyeden alıntı: mesajı görüntüle
    import openai
    import re
    
    class ChatModerator:
        def __init__(self, api_key):
            openai.api_key = api_key
            
        def check_message(self, message):
            try:
                response = openai.ChatCompletion.create(
                    model="gpt-3.5-turbo",
                    messages=[
                        {"role": "system", "content": "Sen bir içerik denetleyicisin. Mesajın küfür, hakaret veya uygunsuz içerik barındırıp barındırmadığını kontrol et. Sadece True veya False döndür."},
                        {"role": "user", "content": f"Bu mesaj uygunsuz mu: '{message}'"}
                    ],
                    temperature=0,
                    max_tokens=5
                )
                
                result = response.choices[0].message.content.strip().lower()
                return result == "true"
                
            except Exception as e:
                print(f"API hatası: {e}")
                return False
    
    class ChatRoom:
        def __init__(self, api_key):
            self.moderator = ChatModerator(api_key)
            self.messages = []
            
        def send_message(self, username, message):
            if self.moderator.check_message(message):
                print(f"[SİSTEM] {username}'in mesajı uygunsuz içerik nedeniyle engellendi.")
                return False
            
            self.messages.append({
                "username": username,
                "message": message
            })
            print(f"{username}: {message}")
            return True
    
    # Kullanım örneği
    if __name__ == "__main__":
        API_KEY = "chatgpt api keyi yaz kanka"
        chat = ChatRoom(API_KEY)
        
        while True:
            username = input("Kullanıcı adı: ")
            if username.lower() == "quit":
                break
                
            message = input("Mesaj: ")
            if message.lower() == "quit":
                break
                
            chat.send_message(username, message)

    ah yapay zeka nelere kadirsin.
    Değerli desteğiniz için teşekkür ederim,şuanki sistemimde bunu kullanıyorum.Lakin sistemi yavaş yavaş açmaya başladık ve dakikada 100 tane istek atmamız gerekebiliyor.Bu durumda APİ Masrafları gözümüzü korkutuyor. Ve bazen bizim oldukça tartıştığımız konuladan birisi olan "yapay zeka halisülasyon görüyor" dediğimiz konu olan küfür içermemesine rağmen küfür olmayan şeyleri küfür olarak algılayabiliyor.Tabii bu göz ardı edilebilir lakin cebimizi yakma kısmı can sıkıcı

    Tekrardan ayırdığınız vakit ve öneri için teşekkür ederim.
  • 16-12-2024, 22:24:15
    #5
    soylenmezsmt adlı üyeden alıntı: mesajı görüntüle
    Değerli desteğiniz için teşekkür ederim,şuanki sistemimde bunu kullanıyorum.Lakin sistemi yavaş yavaş açmaya başladık ve dakikada 100 tane istek atmamız gerekebiliyor.Bu durumda APİ Masrafları gözümüzü korkutuyor. Ve bazen bizim oldukça tartıştığımız konuladan birisi olan "yapay zeka halisülasyon görüyor" dediğimiz konu olan küfür içermemesine rağmen küfür olmayan şeyleri küfür olarak algılayabiliyor.Tabii bu göz ardı edilebilir lakin cebimizi yakma kısmı can sıkıcı

    Tekrardan ayırdığınız vakit ve öneri için teşekkür ederim.
    Hocam alıyorsunuz bi kelime listesi yapıyorsunuz regexle en karışık patternları yakalıyorsunuz ve redis falan kullanarak cacheyi kalıcı hale getiriyorsunuz. Tabii isterseniz makine öğrenimi yapıp pattern tespiti yaptırırsınız veyahut kullanıcı raporlama sistemi yaptırıp küfür listesi güncellersiniz hepsi ayrı ayrı bir çözüm önerisi.
    https://www.veribilimiokulu.com/pyth...ring-matching/
    Fuzzymatches diye birşey varmış bak işine yarayabilir.
  • 16-12-2024, 22:26:58
    #6
    NaveBilisim adlı üyeden alıntı: mesajı görüntüle
    Hocam alıyorsunuz bi kelime listesi yapıyorsunuz regexle en karışık patternları yakalıyorsunuz ve redis falan kullanarak cacheyi kalıcı hale getiriyorsunuz. Tabii isterseniz makine öğrenimi yapıp pattern tespiti yaptırırsınız veyahut kullanıcı raporlama sistemi yaptırıp küfür listesi güncellersiniz hepsi ayrı ayrı bir çözüm önerisi.
    https://www.veribilimiokulu.com/pyth...ring-matching/
    Fuzzymatches diye birşey varmış bak işine yarayabilir.
    Mükemmelsin hocam,çok teşekkür ederim. Bundan sonraki süreçlerde kara liste yapacağım FuzzyWuzzy(sizin ilettiğiniz bağlantıdaki kütüphane ile) benzerlik oranı algılanırsa bunu da kara listeye alıp böyle şüpheliye düşen kelimeleri de yapay zeka desteği ile inceleme yapacağım.

    Naçizane,geri kazanılamayan vakitinizi bana bu konuda yardımcı olmakla harcadığınız için minnettarım,teşekkürler.
  • 16-12-2024, 22:28:45
    #7
    soylenmezsmt adlı üyeden alıntı: mesajı görüntüle
    Mükemmelsin hocam,çok teşekkür ederim. Bundan sonraki süreçlerde kara liste yapacağım FuzzyWuzzy(sizin ilettiğiniz bağlantıdaki kütüphane ile) benzerlik oranı algılanırsa bunu da kara listeye alıp böyle şüpheliye düşen kelimeleri de yapay zeka desteği ile inceleme yapacağım.

    Naçizane,geri kazanılamayan vakitinizi bana bu konuda yardımcı olmakla harcadığınız için minnettarım,teşekkürler.
    Rica ederim hocam iyi çalışmalar.