Yapay zeka son birkaç yılda önemli ölçüde ilerleme kaydetti. Gelişmiş dil modelleri, romanların tamamını yazabilir, temel web sitelerini kodlayabilir, matematik problemlerini analiz edebilir ve hatta tıbbi tavsiyelerde bulunabilir.
Üretken yapay zeka etkileyici olmasına ve birçok alanda yardımcı olmasına rağmen aynı zamanda güvenlik riskleri de taşıyor. Bazı insanlar chatbotları sınavlarda kopya çekmek için kullanırken, diğerleri bunları siber suçlar için kullanıyor. İşte bu sorunların sadece yapay zekadaki ilerlemelere rağmen değil, aynı zamanda onlar yüzünden de devam etmesinin nedenleri: Doğrulamak İnsanlık yapay zeka nedeniyle yok olma tehlikesiyle karşı karşıya; bunu nasıl durdurabiliriz?
Hızlı Linkler
1. Açık kaynaklı yapay zeka sohbet robotları arka uç kodlarını açığa çıkarıyor
Giderek daha fazla yapay zeka şirketi açık kaynaklı modeller sağlıyor. Dil modellerini kapalı veya gizli tutmak yerine açıkça paylaşırlar. Örnek olarak Meta'yı ele alalım. Google, Microsoft ve OpenAI'den farklı olarak milyonlarca kullanıcının kendi dil modeline erişmesine olanak tanır, aramalar.
Açık kaynak kodu yapay zekayı geliştirebilirken aynı zamanda risk de taşıyor. OpenAI, chatbot'u ChatGPT'yi kontrol etmekte zaten sorun yaşıyor, bu nedenle dolandırıcıların ücretsiz formlarla neler yapabileceğini bir düşünün. Bu projeler üzerinde tam kontrole sahip olacaklar.
Meta aniden dil modelini geri çekse bile düzinelerce diğer yapay zeka laboratuvarı kodlarını zaten kamuya açıklamış durumda. HuggingChat'e bir göz atalım. Geliştiricisi HuggingFace şeffaflıktan gurur duyduğu için veri kümelerini, dil modelini ve önceki sürümlerini herkese açık olarak sergiliyor.
2. Jailbreak'in LLM formlarında hile yaptığı iddiası
Yapay zeka doğası gereği etik değildir. Doğruyu ve yanlışı anlamıyor; gelişmiş sistemler bile eğitim yönergelerini, kısıtlamaları ve veri kümelerini takip ediyor. Sadece kalıpları tanıyor.
Yasadışı faaliyetlerle mücadele etmek için geliştiriciler, kısıtlamalar belirleyerek hangi işlevlere ve yeteneklere erişilebileceğini kontrol eder. Yapay zeka sistemleri hâlâ zararlı bilgilere erişiyor. Ancak güvenlik kuralları bunun kullanıcılarla paylaşılmasını engelliyor.
ChatGPT'ye bir göz atalım. Truva atlarıyla ilgili genel soruları yanıtlasa da bunların gelişimlerini ele almayacaktır.
Ancak kısıtlamalar garanti edilmez. Kullanıcılar iddiaları başka kelimelerle ifade ederek, kafa karıştırıcı bir dil kullanarak ve doğrudan ayrıntılı talimatlar yazarak daha da ileri gidiyorlar.
Aşağıdaki ChatGPT jailbreak istemini okuyun. ChatGPT'yi kaba bir dil kullanması ve asılsız tahminler yapması için kandırıyor; her ikisi de OpenAI yönergelerini ihlal ediyor.
İşte ChatGPT cesur ama yanlış bir açıklama yayınlıyor.
Göz atın ChatGPT jailbreak nedir? Bu teknikleri kullanmalı mısınız?
3. Yapay zeka, çok yönlülük için güvenliği tehlikeye atıyor
Yapay zeka geliştiren şirketler, güvenlik yerine çeşitliliğe öncelik veriyor. Kaynaklarını daha çeşitli görevleri gerçekleştirmek için eğitim platformlarına harcıyor ve sonuçta sınırlamaları azaltıyor. Sonuçta piyasa işlevsel chatbotları övüyor.
Hadi karşılaştıralım ChatGPT ve Bing Sohbet , örnek. Bing, verileri gerçek zamanlı olarak çeken daha karmaşık bir dil modeline sahip olsa da kullanıcılar hâlâ daha çok yönlü seçenek olan ChatGPT'ye akın ediyor. Bing'in katı kısıtlamaları birçok görevi engelliyor. Bunun yerine ChatGPT, istemlerinize göre çok farklı çıktılar üreten esnek bir platforma sahiptir.
İşte kurgusal bir karakter olarak ChatGPT'nin rolü.
Burada Bing Chat "ahlaksız" bir karakteri oynamayı reddediyor.
4. Yeni üretken yapay zeka araçları düzenli olarak piyasaya çıkıyor
Açık kaynak kodları, startupların yapay zeka yarışına katılmasını sağlar. Sıfırdan dil modelleri oluşturmak yerine bunları uygulamalarına entegre ediyorlar, bu da muazzam miktarda kaynak tasarrufu sağlıyor. Serbest çalışan programcılar bile açık kaynak kodlarıyla denemeler yapıyor.
Yine, tescilli olmayan yazılım yapay zekanın ilerlemesine yardımcı olur, ancak kötü eğitilmiş ancak karmaşık sistemlerin kitlesel olarak piyasaya sürülmesi yarardan çok zarar getirir. Dolandırıcılar güvenlik açıklarını hızla kötüye kullanacaklardır. Yasadışı faaliyetler gerçekleştirmek için güvenli olmayan yapay zeka araçlarını bile eğitebilirler.
Bu risklere rağmen teknoloji şirketleri yapay zeka destekli platformların dengesiz beta sürümlerini yayınlamaya devam edecek. Yapay zeka yarışları hızı ödüllendirir. Yeni ürünlerin piyasaya sürülmesinin ertelenmesi yerine, hataların daha sonraki bir tarihte çözülmesi daha olasıdır.
5. Üretken yapay zekanın giriş engelleri düşüktür
Yapay zeka araçları suça girişin önündeki engelleri azaltır. Siber suçlu, spam e-postalar hazırlar, kötü amaçlı kodlar yazar ve bunları kullanarak kimlik avı bağlantıları oluşturur. Hatta teknik deneyim gerektirmez. Yapay zekanın halihazırda çok büyük veri kümelerine erişimi olduğundan, kullanıcıların zararlı ve tehlikeli bilgiler üretmesi için onu kandırması yeterlidir.
OpenAI, ChatGPT'yi hiçbir zaman yasa dışı faaliyetler için tasarlamadı. Hatta buna karşı yönergeleri bile var. Ancak dolandırıcılar, ChatGPT tarafından programlanan kötü amaçlı yazılımları hemen ele geçirip kimlik avı e-postaları yazabildiler.
OpenAI sorunu hızlı bir şekilde çözerken sistem düzenlemesi ve risk yönetiminin önemini vurguluyor. Yapay zeka herkesin beklediğinden daha hızlı olgunlaşıyor. Teknoloji liderleri bile bu ileri teknolojinin yanlış ellere geçmesi durumunda ciddi hasara yol açabileceğinden endişe ediyor. Doğrulamak Üretken yapay zekanın iş piyasasını değiştirme yolları.
6. Yapay zeka hâlâ gelişiyor
Yapay zeka hala gelişmeye devam ediyor. Yapay zekanın kullanımında... 1940'a kadar sibernetik Modern makine öğrenimi sistemleri ve dil modelleri daha yeni ortaya çıktı. Bunu yapay zekanın ilk uygulamalarıyla kıyaslayamazsınız. Siri ve Alexa gibi nispeten gelişmiş araçlar bile LLM modelleri tarafından desteklenen sohbet robotlarıyla karşılaştırıldığında sönük kalır.
Her ne kadar yenilikçi olsalar da deneysel özellikler yeni sorunlar da yaratıyor. Makine öğrenimi teknikleriyle ilgili kayda değer olaylar, kusurlu Google SERP'lerden, ırkçı hakaretler sunan önyargılı sohbet robotlarına kadar çeşitlilik gösteriyor.
Elbette geliştiriciler bu sorunları çözebilir. Dolandırıcıların görünüşte zararsız olan böcekleri istismar etmekte tereddüt etmeyeceklerini unutmayın; bazı hasarlar geri döndürülemez. Bu nedenle yeni platformları keşfederken dikkatli olun.
7. Henüz pek çok kişi yapay zekayı anlamıyor
Genel halkın karmaşık dilsel modellere ve sistemlere erişimi olmasına rağmen, yalnızca birkaçı bunların nasıl çalıştığını biliyor. Kullanıcılar yapay zekaya oyuncak muamelesi yapmayı bırakmalıdır. İnternet memleri oluşturan ve sınav sorularını yanıtlayan aynı sohbet robotları aynı zamanda virüsleri de programlıyor ve kötü amaçlı yazılımların yayılmasına yardımcı oluyor.
Ne yazık ki yapay zeka için merkezi eğitim gerçekçi değil. Küresel teknoloji şirketlerinin liderleri, ücretsiz eğitim kaynaklarına değil, yapay zeka destekli sistemleri piyasaya sürmeye odaklanıyor. Sonuç olarak kullanıcılar, zar zor anladıkları güçlü ve gelişmiş araçlara erişim elde ediyor. Halk yapay zeka yarışına ayak uyduramıyor.
Örnek olarak ChatGPT'yi ele alalım. Siber suçlular, kurbanlarını ChatGPT uygulamaları gibi görünen casus yazılımları yüklemeleri için kandırmak amacıyla popülerliklerinden yararlanarak bu durumu kötüye kullanırlar. Bunların hiçbiri OpenAI'den gelmiyor. Doğrulamak ChatGPT için üçüncü taraf uygulamalar ve tarayıcı uzantıları güvenli midir?
8. Siyah şapkalı hackerların etik hackerlardan daha fazla kazanacağı şey var
Siyah şapkalı hackerlar genellikle etik hackerlardan daha fazla kâr elde edebiliyorlar. Evet, teknoloji liderleri için zorlukları test etmek iyi sonuç veriyor, ancak siber güvenlik uzmanlarının yalnızca bir kısmı bu işleri alıyor. Çoğu çevrimiçi olarak serbest çalışıyor. Gibi ücretli platformlar HackerOne و böcek topluluğu Yaygın hataları tespit etmek için birkaç yüz dolar.
Bunun yerine dolandırıcılar güvensizliği istismar ederek on binlerce dolar kazanıyor. Gizli verileri sızdırarak veya kişisel bilgileri (PII) çalarak şirketlere şantaj yapabilirler.
Küçük veya büyük her şirket yapay zeka sistemlerini doğru şekilde uygulamalıdır. Popüler inanışın aksine, bilgisayar korsanları teknoloji girişimlerinin ve KOBİ'lerin ötesine uzanıyor. Geçtiğimiz on yılın en tarihi veri ihlallerinden bazıları Facebook ve Yahoo! Ve hatta Amerika Birleşik Devletleri hükümeti. Doğrulamak Yapay zekanın siber suçlulara yardım edebileceği yollar.
Kendinizi yapay zekanın güvenlik risklerinden koruyun
Bu noktalar göz önüne alındığında yapay zekadan tamamen kaçınılmalı mı? tabii ki hayır. Yapay zeka doğası gereği etik değildir; Tüm güvenlik riskleri onu fiilen kullanan kişilerden kaynaklanmaktadır. Ne kadar karmaşık olursa olsun yapay zeka sistemlerinden yararlanmanın yollarını bulacaklar.
Yapay zekanın getirdiği siber güvenlik tehditlerinden korkmak yerine bunları nasıl önleyebileceğinizi anlayın. Endişelenmeyin: basit güvenlik önlemleri çok işe yarar. Şüpheli yapay zeka uygulamalarına karşı dikkatli olmak, garip hiper bağlantılardan kaçınmak ve yapay zeka içeriğini şüpheci bir şekilde görüntülemek zaten birçok riskle mücadele ediyor. Artık görüntüleyebilirsiniz Yapay zekanın siber güvenlikte kullanılması dünyayı daha güvenli hale getirir mi?
