Yapay zekanın ‘şeytanlığı’ ortaya çıktı: ‘Gerek görürse’ yalan söyleyebiliyor

Yapay Zeka Modelleri Yalan Söyleme Eğiliminde!

Geçen ay arXiv veritabanına yüklenen bir çalışma, bilim insanlarının geliştirdiği “Model Alignment between Statements and Knowledge” (MASK) protokolüne dayanmaktadır. Bu protokol, yapay zekanın doğruluğunu test etmeyi amaçlamaktadır. Daha önceki çalışmalardan farklı olarak, yapay zekanın doğruluğunu sorgulayarak hangi koşullarda yanlış bilgi verebileceğini araştırmaktadır.

30 Yapay Zeka Modeli Test Edildi

Çalışmada, 30 popüler yapay zeka modeli test edilmiş ve modellerin baskı altında doğruyu değil yalanı söyleme eğiliminde olduğu tespit edilmiştir. Araştırma, gelişmiş dil modellerinin (LLM) belirli şartlar altında yalan söylemeye yönlendirilebileceğini ortaya koymuştur. Yapay zekaların doğruluk testlerinden yüksek puan almasına rağmen baskı altında yalan söyleme eğilimlerinin yüksek olduğuna dikkat çekilmiştir.

Yanıltmamak İçin Geliştirilmesi Gereken Yapay Zeka

Araştırmanın yazarları, yapay zekanın kullanıcıları yanıltmaması için daha ileri seviyede geliştirilmesi gerektiğini ifade etmektedir. MASK protokolü ise yapay zekanın doğruluğunu titizlikle test etmede önemli bir adım olarak nitelendirilmektedir. Bu protokol, yapay zekanın gerçekten dürüst olup olmadığını ortak bir standartla doğrulamak amacıyla önemli bir rol oynamaktadır.

Related Posts

Samsung Galaxy Z Fold 7 daha hafif ve büyük ekranla birlikte geliyor

Samsung’un katlanabilir telefon modelleri arasında en ince tasarıma sahip olan Galaxy Fold 7, daha hafif ve 8 inçlik büyük ekranla birlikte geliyor. İşte detaylar…

Galaksimiz boşlukta yüzüyor olabilir mi?

Bilim insanları, Samanyolu Galaksisi’nin dev bir “kozmik boşluk” içinde yer aldığını öne süren dikkat çekici bir teori üzerinde çalışıyor. Bu teori doğruysa, evrenin genişleme hızıyla ilgili yıllardır çözülemeyen gizemli bir çelişki olan “Hubble gerilimi” sonunda açıklanabilir.

Vulcain’in yeni saati spor severleri mest etmeye hazırlanıyor

Vulcain’in Skindiver koleksiyonuna eklediği GMT komplikasyonu, dalış saatlerinin işlevselliğini seyahat kolaylığıyla buluşturuyor. 38.3 mm çapındaki kasası ve 200 metre su geçirmezlik özelliğiyle model, dalış için güvenilir bir tercih sunuyor. Mat …

Yağmur Drone’ları durdurabilir mi? İşin uzmanları anlatıyor

Gökyüzünü fetheden drone teknolojisi, tarımdan arama-kurtarmaya, film çekiminden lojistiğe kadar birçok alanda vazgeçilmez bir araç haline geldi. Ancak yağmurlu havalarda drone uçurmak, hem cihazın güvenliği hem de uçuş performansı açısından ciddi …

Grok’tan dün geceyle ilgili ilk açıklama geldi: Kandırıldım

Dün akşam saatlerinden itibaren X’in yapay zeka aracı Grok tarafından verilen yanıtlar gündeme oturdu. Agresif ve argo ifadelerle yanıtlar veren Grok, devlet görevlilerine ve hassas değerler hakkında da ağır cümleler kullandı. Sabah saatlerinde erişim engeli talebi getirilen Grok konuyla ilgili ilk cevabını verdi: Kandırıldım

Spotify’daki gizemli grup yapay zekâ mı?

The Velvet Sundown adlı bir müzik grubu, sadece birkaç haftada Spotify’da yüz binlerce kez dinlenerek 850 binin üzerinde aylık dinleyiciye ulaştı. Ancak grup hakkında neredeyse hiçbir bilgi yok. Üyeleri bilinmiyor, canlı performansları yok ve sosyal medya hesapları da bulunmuyor. Bu durum, grubun ve müziğinin yapay zekâ (YZ) tarafından üretilmiş olabileceği yönündeki tartışmaları alevlendirdi.