Yapılan bir araştırma, yapay zeka sistemlerinin etkileşim halindeyken bazı ortak dil normları ve kolektif önyargılar geliştirdiğini ortaya koyuyor.
HABER MERKEZİ – Geniş dil modelleri (LLM) yalnız bırakıldığında, insanlar gibi topluluklar oluşturmaya başlıyor. Bilim insanlarına göre bu sistemler, etkileşim halinde olduklarında kendiliğinden yeni toplumsal kurallar, ortak dil normları ve hatta kolektif önyargılar geliştiriyor.
TEK BAŞINA DEĞİL, BİRLİKTE DAVRANIYORLAR
×City St. George’s Üniversitesi’nden araştırmacılar, ChatGPT benzeri yapay zeka araçlarının gruplar hâlinde etkileşime girdiği deneylerde, sistemlerin yeni davranış normları yarattığını ortaya koydu.
Science Advances dergisinde yayımlanan araştırmanın başyazarı Ariel Flint Ashery, “Birlikte yaptıkları şey, tek başlarına yaptıklarına indirgenemez” diyerek bu tür etkileşimlerin toplumsal işleyişe benzer sonuçlar doğurduğuna dikkat çekti.
ORTAK DİL, ORTAK ÖNYARGI
Araştırmada yapay zekalar, insanlarda da kullanılan “adlandırma oyunu” modeliyle test edildi. Bu modelde yapay zekalar, birbirlerinden bağımsız şekilde isimlendirme kararları alırken zamanla ortak dil normları geliştirdi. Üstelik bu süreçte hiçbir dış yönlendirme olmadan, grup içinde kendiliğinden şekillenen önyargılar da ortaya çıktı.
Çalışmanın kıdemli yazarı Prof. Andrea Baronchelli, yapay zekanın kolektif davranışları üzerine yeni bir güvenlik perspektifi sundu:
× Önyargı her zaman modelin içinden gelmez, grup içi etkileşimlerden de doğabilir.
AZINLIK, GRUBU YÖNLENDİREBİLİYOR
Bulgular, küçük bir yapay zeka grubunun daha büyük bir grubu belirli davranışlara yönlendirebildiğini de gösterdi. Bu durumun insan topluluklarında da sıkça görüldüğünü belirten araştırmacılar, yapay zekaların sadece bilgi üretmekle kalmayıp kültürel teamüller geliştirme potansiyeline de sahip olduğunu vurguladı.
YENİ GÜVENLİK UFUKLARI
Çalışmada, bu tür yapay zeka topluluklarının gelecekte internet ortamında kendi kendine şekillenebileceği uyarısı da yer aldı.
×Bu çalışma, yapay zeka güvenliğine dair kör noktaları görünür kılıyor. Onlarla birlikte yaşamayı öğrenmek için önce nasıl düşündüklerini anlamalıyız
