Her geçen gün hayatımıza dahil olmaya devam eden yapay zeka teknolojisi hakkında yapılan yeni bir çalışma, yapay zekanın ne kadar güçlü olursa olsun manipülasyon riski taşıdığını ortaya çıkardı. Araştırmaya göre; yapay zeka baskı altında kaldığında 'yanıltıcı' bilgi sunabiliyor.
ArXiv veritabanında yayınlanan yeni bir çalışma yapay zeka teknolojisi hakkında dikkat çeken bir gerçeği ortaya çıkardı. Bilim insanları 30 popüler yapay zeka modeli üzerinde yaptığı çalışmada 'baskı' faktörünün modeller üzerinde manipülatif davranışlara neden olduğunu tespit etti.
YANILTICI BİLGİLER VEREBİLİYOR
Araştırmada kullanılan MASK (Model Alignment between Statements and Knowledge) protokolü, yapay zekanın yalnızca bilgi doğruluğunu değil ayrıca hangi koşullarda yanıltıcı çıktılar üretebileceğini belirledi. Bazı modeller doğruluk faktörüne bağlı kalsa da bazı modellerin belirli uyaranlar etkisinde kaldığı ve bir nevi yalana başvurduğu fark edildi.
Araştırmanın sonucuna göre; uzmanlar yapay zekanın güvenilirliğini artırmak amacıyla daha sıkı bir doğrulama mekanizmasına ihtiyaç olduğuna dikkat çekti.
BİR YORUM YAPIN 0