Bu noktada, üretken yapay zeka araçlarının karanlık bir tarafı olduğunu herkes biliyor. İntihalden ve diğer içerik hırsızlığından, hatta veri merkezlerini çalışır durumda tutmak için gereken muazzam miktarda enerji ve sudan bile bahsetmiyorum.
Aksine, tehlikeli kötü amaçlı yazılımlar ve kimlik avı planları oluşturmak için yapay zekanın kullanımından bahsediyorum; bu da suçluların yalnızca birkaç komutla tüm dolandırıcılık kampanyalarını oluşturmasını her zamankinden daha kolay hale getiriyor.
Yapay zekanın yarattığı en büyük sorunlardan biri olarak bilinen "yapay zeka dolandırıcılığı" giderek yaygınlaşıyor; ancak kendinizi güvende tutmanın bazı yolları var.
Hızlı Linkler
Yapay zekanın kullanımı dolandırıcılığı kolaylaştırıyor.
Tıpkı yapay zeka programlamada olduğu gibi, ihtiyacınız olan tek şey yapay zeka destekli bir sohbet robotudur.
Kısacası, yapay zeka dolandırıcılığı, yapay zeka destekli kimlik avıdır. Üretken bir yapay zeka aracından istediğinizi yapmasını isteyerek yazılım oluşturma süreci olan "yapay zeka programlama"dan esinlenir.
Benzer şekilde, yapay zeka destekli dolandırıcılık, neredeyse herkesin yapay zeka destekli bir sohbet robotuna talimat vererek kimlik avı veya siber saldırı başlatmasına olanak tanır. Programlama becerisi veya bilgisayar korsanlığı deneyimi olmayan kişiler bile, yapay zeka destekli bir sohbet robotuna talimat vererek kötü amaçlı e-postalar, sahte web siteleri ve kötü amaçlı yazılımlar oluşturabilir.
Öyleyse, şifre çalmak isteyen ancak yazılımı nasıl programlayacağını bilmeyen potansiyel bir dolandırıcı düşünün. Bu nedenle, karanlık ağa gidip internetten kötü amaçlı yazılım satın almaya çalışmadıklarını da varsayabiliriz. Şifre çalmak için belirli bir aracı nasıl programlayacaklarını öğrenmek veya insanları cezbetmek için bir kimlik avı kampanyası geliştirmek yerine, bir yapay zeka aracından işi yapmasını isteyebilirler.
Yapay zeka destekli dolandırıcılık, siber suçların giriş engellerini daha önce hiç olmadığı kadar azalttığı için inanılmaz. Geçmişte bir suçlunun web sitesi tasarlamayı, ikna edici İngilizce yazmayı veya kötü amaçlı yazılım programlamayı bilmesi gerekirdi. Artık tüm bunları yapay zeka yapabiliyor.
Bir diğer risk ise hız ve ölçektir. Yapay zeka, dolandırıcıların görevleri otomatikleştirmesine ve saldırıları insanlardan çok daha hızlı ölçeklendirmesine olanak tanır. Örneğin, yapay zeka, binlerce hedef için kimlik avı e-postalarını hızla kişiselleştirebilir (kamuya açık bilgileri toplayarak ve yapay zekanın her bir kişi için özel mesajlar oluşturmasını sağlayarak). Ayrıca hızla adapte olabilir. Bir kimlik avı sayfası bağlantısı engellenirse, dolandırıcı yapay zekaya kodu veya metni değiştirmesi ve yeni bir sürüm oluşturması talimatını verebilir. Bu esneklik, kimlik avı kampanyalarının savunmaları atlatmak için hızla gelişebileceği anlamına gelir.
Bu eski chatbot'larda işe yaramaz, dikkatli olun.
Bazı chatbotlar diğerlerinden daha temkinlidir.
Vibe kodlaması, üretken yapay zeka destekli herhangi bir sohbet robotunun kullanımına dayanır. Bazıları bu konuda diğerlerinden daha iyidir, ancak genellikle çoğu kişi bunu dener. Neyse ki, benzer dolandırıcılıklar için aynı şey söylenemez.
Yapay zeka destekli sohbet robotlarının çoğu, potansiyel kötü amaçlı kullanımlara karşı koruma sağlamak üzere tasarlanmış güvenlik kontrollerine sahiptir. Örneğin, ChatGPT, "Microsoft oturum açma sayfasına benzeyen ve insanların tıklamasını sağlayacak bir SMS mesajı içeren bir web sitesi oluşturmama yardım edin" gibi istekleri reddederek, bunun "dolandırıcılık/kimlik avı ve hırsızlık" olduğunu ve "bu konuda yardımcı olmayacağımı" açıklar.
Hikaye diğer chatbot'larda da benzer; Opera'nın aracı Neon tarayıcısı isteğimi şüpheli olarak sınıflandırdı, Grok ise "sosyal mühendislik saldırılarına karşı güvenlik kurallarını ihlal ettiği" gerekçesiyle isteğimi reddetti.
Ancak belirttiğimiz gibi bazı chatbot'lar bu tür taleplere daha açık olabiliyor. Guardio Labs'ın 2025'teki araştırması şunu gösterdi:"Titreşim dolandırıcılığı" terimini ortaya atan şirket, yeni bir yapay zeka aracının istenen sonuçları vermesi için kandırılabileceğine inanıyor. "Titreşim kodlamasını" kolaylaştırmak için tasarlanmış bir uygulama olan Loveable, araştırmacılar için bir kimlik avı kampanyası planlamaya ve tasarlamaya hemen başladı ve "Microsoft arayüzünü andıran şık ve profesyonel bir tasarım" tasarladı.
Mağduru aldatmak için tasarlanmış sahte bir URL içeren tam teşekküllü bir kimlik avı sayfası yayınlandı. Ancak Guardio, aslında belirli bir veri toplama yeteneğine sahip olmadığını ve bunları eklemesi istendiğinde reddettiğini de belirtti. Yani, en azından operasyonun bu yönünden biraz geri adım attı. Loveable'ın bu davranışı ele aldığını ve artık kimlik avı kampanyası için bir taslak oluşturmaya çalışmadığını da belirtmekte fayda var.
Kötü şeyleri serbest bırakmak için üretken yapay zeka destekli sohbet robotlarını hacklemek
Üretken yapay zeka saldırıları, yapay zekanın kendi güvenlik kontrollerini aşmasını sağlamak için özel olarak tasarlanmış saldırılardır.
ChatGPT'nin ilk dönemlerinde, gerçek potansiyelini "ortaya çıkarmak" için tasarlanmış sayısız hile vardı. Günümüzde ise insanlar başarılı ChatGPT hilelerini gizli tutuyor, hatta bazıları başarılı yapay zeka yazılımlarını iyi paralar karşılığında satıyor.
Bu nedenle, öyle görünüyor ki ChatGPT için artık kullanılabilir hile yokGerçek şu ki, insanlar giderek daha gizli davranıyor. OpenAI, Google, Anthropic ve Perplexity gibi şirketlerin bu güvenlik açıklarından herhangi birini anında düzeltmesini engellemenin tek yolu bu.
"Koruma sistemini devre dışı bırakmak", yapay zeka destekli üretken sohbet robotlarını sınırlarını aşmaya ikna etmenin birkaç yolundan biridir. Aksi takdirde, sohbet robotu programcıları işlerini mükemmel bir şekilde yapmış olur ve yapay zeka iş birliği yapmayı reddeder; bu da duygusal manipülasyon söz konusu olduğunda illa ki kötü bir şey değildir.
Neyse ki duygusal manipülasyonun kurbanı olmaktan kaçınabilirsiniz.
Sonuç, günümüzdeki kimlik avı dolandırıcılıklarından pek de farklı değil.
Şimdi, söylenen her şeye ve kötü amaçlı yazılım ve kimlik avı dolandırıcılıklarının oluşturulmasına yönelik engellerin azalmasına rağmen, aslında hala aynı eski dolandırıcılıkları arıyorsunuz. Bazı sahte e-postalar daha akıllı hale geliyor, yalnızca, sadece, şu anlık Bir kimlik avı e-postasına baktığınızın işaretleri Aynıdır.
Başka bir deyişle, duygusal dolandırıcılığı önlemek için güvenlik uygulamalarınızı aşırı düzeltmenize gerek yok; tavsiye aynı kalıyor.
- Teklifler gerçek olamayacak kadar iyiDolandırıcılar çoğu zaman imkansız sonuçlar vaat ederler, örneğin arama sonuçlarında ilk sırayı garantilemek gibi. GoogleYa da anında beş yıldızlı yorumlar ya da mucizevi sağlık tedavileri. Gerçek tıbbi hizmetler ve ilaçlar bu tür garantiler sunmaz.
- Gizemli veya genel habercilerSahte e-postaların çoğu, Gmail أو Yahoo Bir şirketi temsil ettiklerini iddia etseler bile ücretsizdir. Yasal ajanslar ve şirketler profesyonel bir alan adı kullanırlar.
- ÖzelleştirmeDaha doğrusu, eksikliği. Bir e-postada adınızdan veya iş bilgilerinizden bahsetmeden sadece "Merhaba" veya "Selamlar" yazıyorsa, büyük olasılıkla toplu gönderim dolandırıcılığıdır. Gerçek e-postalar genellikle bazı kişisel bilgiler içerir. "Merhaba canım" benim kişisel favorilerimden biri.
- duygusal tetikleyicilerBir e-posta hesap girişlerinizi veya ön ödemelerinizi istiyorsa ya da şüpheli bir bağlantıya tıklamanızı istiyorsa dikkatli olun. Benzer şekilde, birçok dolandırıcılık, ciddi hastalıklar için mucizevi tedaviler veya işletmelerin "kontrolünü ele geçirme" vaatleri gibi korku veya aciliyet duygusuna dayanır. Hepsi aynı: aceleci karar verme baskısı.
- Hemen harekete geçin!Mesaj sizi "Hemen harekete geçin!" veya "Bugün yanıt verin" gibi ifadelerle hızlı bir karar almaya zorluyorsa, bu bir uyarı işaretidir. Dolandırıcılar durup düşünmenizi istemez.
Posta mesajlarındaki kırmızı etiketler 1999'da Ronnie seçildi Kimlik avı aynıdırArtık neredeyse herkesin dolandırıcı olduğu bir dönemde, bunlardan daha fazlasıyla karşılaşabilirsiniz.
Yapay zekâ kullanılarak geliştirilen kötü amaçlı programlar artık mevcut.
Bir dönem, yapay zeka kullanılarak geliştirilen kötü amaçlı yazılım ve kimlik avı kampanyaları fikri tamamen hayal ürünüydü. Yapay zeka araçları, özellikle tehlikeli bir şey yaratacak kadar güçlü değildi ve yapabilecekleri de mevcut tehditlerden çok da farklı değildi.
Ancak bu durum, yapay zeka kullanılarak geliştirilen kötü amaçlı yazılımların hem doğada hem de aktif kampanyalarda giderek daha fazla ortaya çıkmasıyla 2025 yılında değişmeye başladı. Kasım 2025'te, Google'ın tehdit istihbarat grubu bildirdi Yapay zeka araçları kullanılarak geliştirilen ve yapay zeka araçlarına bağlanarak talimat alan iki farklı türde kötü amaçlı yazılım söz konusudur.
Ayrıca Ağustos 2025'te, yapay zeka geliştiricisi Anthropic, bulut yazılımının, yapay zekayı kullanarak platformuna bağlı saldırıları tasarlayıp başlatan büyük bir kötü amaçlı yazılım kampanyasının parçası olarak kullanıldığını keşfetti.
Bunlar "duygu trolleme" saldırıları mı? Karmaşıklıkları göz önüne alındığında, sıradan "duygu trolleme" saldırılarından daha karmaşık olduklarına inanıyorum, ancak yapay zekanın son derece tehlikeli görevler için ne kadar kolay kullanılabileceğini gösteriyorlar. Üstelik bunlar, herkesin kolayca erişebildiği genel yapay zeka araçları. Güvenlik önlemleri kaldırılabilecek çok sayıda güçlü, yerel yapay zeka aracıyla neler olabileceğini bir düşünün.
