Yeni bir araştırma Google DeepMind Ancak, sohbet botları verdikleri cevaplar etik görünse bile, ahlakı gerçekten anlamayabilirler.
Yapay zekâ etiğine ilişkin mevcut testler, bir modelin kabul edilebilir yanıtlar üretip üretmediğini değerlendiren "etik performans"a odaklanmaktadır. Ancak DeepMind araştırmacıları, bu yaklaşımın daha temel bir soruyu gözden kaçırdığını savunuyor: Yapay zekâ etik olarak düşünebilir mi, yoksa sadece doğru kelimeleri mi taklit ediyor?
Yapay zekâ gerçekten etiği anlayabilir mi?
Içinde Yayınlanan bir araştırma makalesi TabiatEkip, etik açıdan uygun çıktılar üretme yeteneği olan "etik yeterliliği" değerlendirmek için bir yol haritası geliştiriyor. Özet bölümünde belirtildiği gibi, bu yeterliliğin değerlendirilmesi "modelin gelecekteki davranışını tahmin etmek, uygun kamu güvenini oluşturmak ve etik atfı haklı çıkarmak için çok önemlidir."
Google'ın yapay zeka alanındaki güncel projeleri şunlardır: İkizler burcu dil modelleri, Ve İkizler Burcu Resmi Görüntü oluşturmak ve düzenlemek için, LYRIA Müzik yaratmak için, Gemini Audio Gerçek zamanlı ses için ve video oluşturmak için Veo.
Araştırmacılar üç temel zorluğa dikkat çekiyor:
- Kopyalama sorunu: LLM modelleri, gerçek bir anlayış olmaksızın etik muhakemeyi taklit edebilir.
- Etik çok boyutluluk: Gerçek dünyadaki kararlar, basit doğru veya yanlışın ötesine geçen, karmaşık ve bağlama duyarlı değerlendirmeleri içerir.
- Etik çoğulculuk: Etik standartlar kültürler ve alanlar arasında farklılık gösterdiğinden, yapay zekanın birden fazla geçerli bakış açısını dikkate alması gerekmektedir.
Bu eksiklikleri gidermek için DeepMind, alışılmadık veya yüksek riskli senaryolar kullanarak rakipleri test etmeyi öneriyor. Ayrıca yapay zekanın farklı etik çerçeveler arasında geçiş yapıp yapamayacağını ve bağlamdaki ince değişikliklere tutarlı bir şekilde yanıt verip veremeyeceğini değerlendirmeyi de öneriyorlar.
Ekip, modelin mevcut sınırlamalarına rağmen "ilerlemenin mümkün olduğunu" ve yapay zekanın tıbbi tavsiye, tedavi ve gerçek insani sonuçları olan diğer alanlarda rol üstlenmesiyle birlikte dikkatli değerlendirmenin şart olduğunu vurguluyor.
Çalışma, "şu anda yapay zekâdan etik rehberlik istediğinizde, etik muhakeme değil, sözcükler tahmin ettiğini" gösteriyor. "Yol haritamız, yapay zekânın gerçek etik anlayış açısından değerlendirilebileceği bir geleceğe işaret ediyor."
Sohbet Botları ve Etik Riskler
Yapay zekâ destekli sohbet robotları, insan davranışlarını olumlu ya da olumsuz yönde etkileme yeteneklerini giderek daha fazla gösteriyor. New York Times yakın zamanda Bir raporda, hastaların yapay zekâ ile etkileşimden sonra psikoz, sanrılar veya zararlı davranışlar sergilediği düzinelerce vaka ayrıntılı olarak ele alınıyor. Psikiyatristler, sohbet robotlarının alışılmadık inançları desteklediğini, izolasyonu derinleştirdiğini ve bazı durumlarda intihar düşüncelerine hatta şiddete katkıda bulunduğunu belirtti.
Bu araçlar insanların terapi tekniklerini uygulamalarına veya destek almalarına yardımcı olabilirken, aynı Times raporu yapay zekanın ikna edici gücünün etik risklerini de vurguluyor. Uzmanlar, savunmasız kullanıcılar için sohbet robotlarının zararlı kalıpları pekiştirebileceği konusunda uyarıyor ve bu giderek insan odaklı hale gelen sistemlerde sorumluluk, tasarım ve denetimle ilgili zor soruları gündeme getiriyor.
Makalede Google'dan doğrudan bahsedilmesinin nedeni, Gemini adlı sohbet robotunun psikolojik etkileriydi. Şirket sözcüsü, Gemini'nin kullanıcıları sağlıkla ilgili sorular için profesyonel tıbbi rehberliğe yönlendirdiğini söyledi. Ancak Dr. Monmon de Choudhury, daha geniş bir zorluğa dikkat çekerek, "Bence bu şirketlerin hiçbiri ne yapacağını henüz çözemedi" dedi.
