Zürih Üniversitesi bünyesinde çalışmalarını sürdüren bir grup bilim insanı, dünyanın en popüler tartışma platformlarından Reddit‘te dikkat çeken bir çalışmaya imza attılar. Bu çalışma kapsamında bilim insanlarının hazırladıkları yapay zekâ botları, Kasım 2024’ten bu yana insanları manipüle etmek için kullanıldı. Sonuçlar ise oldukça korkutucuydu.
Botları yayımlamadan önce Reddit’e bilgi vermeyen bilim insanları, paylaşım yapmak için 13 farklı bot geliştirdiler. Yayımlandıkları günden bu yana 1.500’den fazla paylaşım yapan botlar, amaçlandığı gibi çalışmayı başarmıştı. Hatta bu botların insanları manipüle etme yetenekleri, ortalama değerleden 6 kat yüksekti.
Botlar nasıl çalıştı?
Zürih Üniversitesi bünyesindeki bilim insanlarının oluşturduğu botlar, birbirleriyle entegre çalışıyorlardı. Bir bot, hedef alınan bir gönderideki tüm paylaşımları analiz ediyor, sonra da kullanıcıları manipüle edecek yanıtlar hazırlıyordu. Bir diğer bot da bu yanıtları kullanıcılarla buluşturuyordu. Tabii sürekli yalan yanlış bilgiye odaklanan yapay zekâ botları, zaman zaman halüsinasyonlar görüyorlar, yalanları çok daha farklı bir boyuta taşıyabiliyorlardı.
Bu çalışma, bazı çarpıcı sonuçları ortaya koydu. Bu sonuçlardan ilki, Reddit’in yapay zekâ tabanlı botlar için mükemmel bir mecra olmasıydı. Ayrıca Reddit’teki botları tespit etmenin neredeyse hiçbir yolu yoktu. Kullanıcıyı manipüle etmek için açık açık yalan söyleyebilen botlar, Reddit kullanıcılarını inanılmaz derecede ikna edebiliyorlardı.
Bu tür çalışmalar, yapay zekânın kötü amaçlar için kullanıldığı zaman ne kadar tehlikeli olabileceğini gözler önüne seriyor. Gelecekte bu tür girişimler, seçim sonuçları etkilemeden tutun da toplumların kaos yaşamalarını sağlamak için bile kullanılabilir. Yapay zekâ çok etkili olsa da dikkat edilmeli…
