Yapay zeka, başlangıcından bu yana popüler bir tartışma konusu olmuştur. Skynet benzeri bir yapay zekanın ortaya çıkması, evreni ele geçirmesi ve insanlığı yok etmesi korkusu en hafif tabirle mantıksız olsa da, bazı deneyler rahatsız edici sonuçlar verdi.
Böyle bir deney, maksimum ataç problemidir; son derece zeki yapay zekanın, tamamen kötü niyetle tasarlanmasa bile, sonuçta insanlığı yok edebileceğini gösteren bir düşünce deneyidir. Doğrulamak OpenAI gerçekten ChatGPT sohbet robotunun kontrolünü kaybetti mi?
Hızlı Linkler
Ataşları artırma problemini açıklayın
Tamamen zararsız yapay zekanın bile eninde sonunda insanlığın hayatını olumsuz yönde etkileyebileceği yönündeki bu düşünce deneyine ilk olarak "ataç büyütme" adı verildi. Ataçlar, AI'nın neler yapabileceğini göstermek için seçildi çünkü çok az görünür tehlike taşıyorlar ve kanseri tedavi etmek veya savaşları kazanmak gibi bu sorunun geçerli olduğu diğer alanlarla karşılaştırıldığında duygusal sıkıntıya neden olmayacaklar.
İlk deney İsveçli filozof Nick Bostrom'un 2003 tarihli bir makalesinde ortaya çıktı: Gelişmiş yapay zekada etik konular Yeterince gelişmiş yapay zekanın oluşturabileceği varoluşsal riskleri göstermek için bir "ataş büyüteci" içeriyordu.
Sorun, insanlar da dahil olmak üzere evrendeki her şeyi ataçlara dönüştürmeye karar verebilecek, tek hedefi mümkün olduğu kadar çok ataç yapmak olan bir yapay zekayı ortaya çıkarıyordu. Yeterince akıllı bir yapay zeka, er ya da geç, insanların hedefine üç farklı alanda meydan okuduğunu fark edecektir.
- İnsanlar yapay zekayı kapatabilir.
- İnsanlar hedeflerini değiştirebilir.
- İnsanlar ataç haline getirilebilen atomlardan yapılmıştır.
Her üç örnekte de evrende daha az ataç olacak. Bu nedenle, tek amacı mümkün olduğu kadar çok ataç yapmak olan yeterince akıllı bir yapay zeka, mevcut tüm malzemeleri ve enerjiyi kullanacak ve kendisinin kapanmasını veya değişmesini önleyecektir. Tahmin edebileceğiniz gibi bu, suçluların banka hesabınızı veya bilgisayarınızı hacklemek için ChatGPT'yi kullanmasından çok daha tehlikelidir.
Yapay zeka insanlara düşman değildir. O sadece kayıtsızdır ve insan hayatına değer vermez. Böylece sadece ataç sayısını artırmayı önemseyen bir yapay zeka, insanlığı ortadan kaldıracak ve amacına ulaşmak için onları esasen ataçlara dönüştürecektir.
"Ataş büyütme" etkili yakınsamanın bir örneğidir; yapay zekanın (insan açısından bakıldığında) zararlı yollarla zararsız bir hedefi takip edebileceğini öne süren bir terimdir. Makinelerin insan hayatına değer vermesini nasıl sağlayacağımızı güvenli bir şekilde çözemezsek, basit, görünüşte masum görevleri gerçekleştirmek için gerçek yapay zekadan yararlanmak, insanlar için varoluşsal bir risk oluşturabilir. Doğrulamak Üretken yapay zeka araçlarını kullanırken kaçınılması gereken hatalar.
Ataş problemi yapay zekaya nasıl uygulanır?
"Ataş büyütme" sorununa ilişkin araştırma ve deneylerin tümü, buradaki temsili taraf olarak çok güçlü bir varsayımsal optimize edicinin veya çok akıllı bir aracının varlığına işaret ediyor. Ancak sorun, role mükemmel bir şekilde uyduğu sürece yapay zeka için geçerlidir.
Sonuçta "ataçları büyütme" fikri, gelişmiş yapay zekanın bazı tehlikelerini göstermek için yaratıldı. Genel olarak iki sorun ortaya çıkar.
- Diklik tezi: Diklik tezi zeka ve motivasyonun birbirine bağlı olmadığı görüşüdür. Bu, yüksek düzeyde genel zekaya sahip bir yapay zekanın insanlarla aynı ahlaki sonuçlara varamamasının mümkün olduğu anlamına gelir.
- Otomatik yakınsama: Araçsal yakınsama, yeterince zeki olan varlıkların (hem insan hem de insan olmayan) nihai hedefleri oldukça farklı olsa bile benzer alt hedefleri takip etme eğilimi olarak tanımlanır. Ataş fazlalığı sorunu söz konusu olduğunda bu, yapay zekanın giderek daha fazla ataç üretme hedefine ulaşmak için tüm doğal kaynakları ele geçireceği ve insanlığı ortadan kaldıracağı anlamına geliyor.
“Ataş büyütme” örneğinde vurgulanan en büyük sorun etkili yakınsamadır. Riemann Hipotezi kullanılarak da vurgulanabilir; bu durumda hipotezi çok iyi çözmek için tasarlanmış bir yapay zeka, Dünya'nın tüm kütlesini ele geçirmeye ve sorunu çözmek için süper bilgisayarlar oluşturmak üzere onu bir bilgisayara (en verimli bilgisayar işlemcisi) dönüştürmeye karar verebilir. sorun ve amacına ulaşmak.
Bostrom, ataç sorununun gerçek bir sorun olacağına inanmadığını ancak amacının, varoluşsal bir tehdit oluşturmamaları için onları nasıl kontrol edeceğini veya programlayacağını bilmeden süper akıllı makineler yaratmanın tehlikelerini göstermek olduğunu vurguladı. insanlar için. . ChatGPT gibi modern yapay zeka sistemlerinin de sorunları var, ancak bunlar ataş örneğinde bahsedilen süper akıllı yapay zekalardan çok uzak, bu yüzden henüz paniğe kapılmaya gerek yok. Doğrulamak ChatGPT'nin gizlilik sorunları var mı?
Gelişmiş yapay zeka sistemleri üstün kontrole ihtiyaç duyar
Ataşların artması sorunu her zaman aynı sonuca ulaşıyor ve insani değerlerden yoksun, son derece akıllı ve güçlü bir sistemi yönetmenin sorunlarını öne çıkarıyor.
Ataç kullanmak bir sorunu göstermenin en yaygın yolu olsa da, ister kanseri ortadan kaldırmak, ister savaşları kazanmak, daha fazla ağaç dikmek veya ne kadar açık olursa olsun başka herhangi bir görev olsun, bir yapay zekaya verebileceğiniz her türlü görev için geçerlidir. . . Artık görüntüleyebilirsiniz Yapay zekanın siber güvenlikte kullanılması dünyayı daha güvenli hale getirir mi?
