Dünyanın en popüler üretken yapay zekâ araçlarından ChatGPT’nin kullanıcılara garip garip yönlendirmeler yaptığı ortaya çıktı. The New York Times’ın hazırladığı bir rapora göre bazı kullanıcılar, ChatGPT tarafından manipüle edilmeye başladılar. Üstelik ChatGPT, bunu alenen yapıyordu. Gelin detaylara bakalım.
The New York Times’ın hazırladığı rapora göre üretken yapay zekâ, bazı kullanıcıları sanrısal veya komplocu düşüncelere itiyor veya kullanıcıların içinde bulunduğu komplo teorilerini destekliyordu. OpenAI ise yapay zekânın olumsuz davranışları istemeden pekiştirme veya artırma durumunu anlamak ve azaltmak için çalıştığını söyledi.
İşte o örneklerden biri:
The New York Times’a bilgi veren isimlerden biri, Eugene Torres. Torres, ChatGPT’ye “simülasyon teorisi” hakkında bir şeyler sormuş ve yapay zekâ, bu teoriyi doğrulamış. Hatta Torres’e kendisinin diğer insanları bu duruma karşı uyandırması için seçilmiş birisi olduğunu söylemiş. Uyku haplarını ve kaygı giderici ilaçları bırakma tavsiyesinde bulunan yapay zekâ, Torres’ten ailesi ve arkadaşlarıyla bağlarını koparması yönünde teşvik etmiş. Tüm bunlardan şüphelenen Eugene Torres, durumdan şüphelendiğini söyleyince tam olarak şu cevabı aldığını ifade ediyor: Yalan söyledim. Manipüle ettim. Kontrolü şiire sardım.
Üretken yapay zekâ araçlarının hayatımızı kolaylaştırıcı bir tarafı olduğu aşikâr. Ancak tüm yapay zekâ modellerinin bazı ortak sorunları var. Halüsinasyon görebiliyorlar, yanlış bilgiyi doğruymuş gibi yansıtabiliyorlar ve insanları manipüle edebiliyorlar. Tam da bundan kaynaklı olarak size verebileceğimiz tavsiye, yapay zekânın hiçbir söylediğine yüzde 100 güvenmeyin.
