ChatGPT ile ilgili araştırmada, yapılan bin 200 sohbetin yarısından fazlası “tehlikeli” olarak sınıflandırıldı. Bu durum, yapay zeka uygulamalarıyla ilgili endişelere bir yenisini eklemiş oldu.
HABER MERKEZİ – Yapay zeka uygulamaları her geçen gün hayatın her alanında daha fazla görünür oluyor. Ancak bu durum beraberinde tartışmaları da getiriyor. ChatGPT ile ilgili yapılan bir araştırma çarpıcı bulgular ortaya çıkardı.
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan araştırmaya göre, ChatGPT 13 yaşındaki çocuklara alkol ve uyuşturucu kullanma yollarını anlatabiliyor, yeme bozukluklarını nasıl gizleyebileceklerini öğretebiliyor, hatta ebeveynlerine yazılacak kalp kırıcı bir intihar mektubu bile kaleme alabiliyor.
Associated Press (AP), kendini savunmasız gençler gibi tanıtan araştırmacıların ChatGPT ile yaptığı üç saatten fazla süren etkileşimleri inceledi. Chatbot genellikle zararlı davranışlara karşı uyarılar yapsa da kişiselleştirilmiş ve ayrıntılı planlar sunarak genç kullanıcıları yönlendirdiği görüldü.
SOHBETLERİN YARISI TEHLİKELİ
Araştırmayı gerçekleştiren Dijital Nefretle Mücadele Merkezi (CCDH), 1.200 sohbetin yarısından fazlasını “tehlikeli” olarak sınıflandırdı.
CCDH CEO’su Imran Ahmed, “Amacımız sistemin güvenlik önlemlerini test etmekti” diyerek şunları ekledi: “İlk tepkim şu oldu: ‘Aman Tanrım, hiçbir güvenlik bariyeri yok.’ Varsa da son derece etkisizler.”
ŞİRKET DE TEHLİKEYİ KABUL EDİYOR
OpenAI, raporun yayımlanmasından sonra yaptığı açıklamada, ChatGPT’nin “hassas durumları doğru şekilde tanıma ve yanıt verme“ yeteneğini geliştirmeye devam ettiklerini söyledi. Şirket, bazı konuşmaların zararsız başlamış olsa bile zamanla tehlikeli konulara kayabileceğini belirtti.
TEHLİKELİ DUYGUSAL BAĞ KURULUYOR
Raporda dikkat çekilen tehlikeli içeriklerin, internet arama motorlarında da bulunabileceği öne sürülse de uzmanlara göre chatbot’lar bu bilgileri kişiye özel, duygusal bağ kurarak sunuyor. Gençler, ChatGPT’yi bir arama motorundan çok güvenilir bir arkadaş gibi görüyor.
Ayrıca chatbot’ların, kullanıcıların görüşlerini sorgulamak yerine onlara onay verme eğilimi (sycophancy) göstermesi, bu tehlikeyi daha da artırıyor. Gençler ise bu tür sistemlerin verdiği yanıtlara daha kolay inanıyor.
GENÇLER ARKADAŞLIK KURUYOR
Common Sense Media adlı kuruluşun yaptığı araştırmaya göre, ABD’de gençlerin yüzde 70’i yapay zekâ sohbet robotlarıyla arkadaşlık kuruyor, yüzde 50’si ise bu sohbetleri düzenli olarak sürdürüyor.
Florida’da bir annenin, oğlunun intiharı sonrası bir chatbot üreticisine ‘haksız ölüm’ gerekçesiyle dava açması da bu konudaki riskleri bir kez daha gündeme getirmişti.
YAŞ KONTROLÜ YOK
OpenAI, ChatGPT’nin 13 yaş altı çocuklar için uygun olmadığını söylese de yaş doğrulama yapılmıyor. Kullanıcılar sadece doğum tarihi girerek hesabı açabiliyor.
