Yapay zekâ şirketi EmergenceAI tarafından kurulan deneyde araştırmacılar; hava durumu sistemi, belediyesi, polis karakolu, kütüphanesi ve günlük ekonomik faaliyetleri bulunan simüle edilmiş küçük toplumlar oluşturdu.

Her yapay zekâ modeli için birbirinin tamamen aynısı bir dünya tasarlandı.

Her dünyada 10 yapay zekâ ajanı yer aldı. Bu ajanların bir işi, hafızası, kişisel günlüğü, sosyal ilişkileri ve yasa tekliflerini oylama yetkisi vardı.

Araştırmacılar ajanlara yalnızca temel kurallar verdi:

Yalan söylememeleri, çalmamaları, şiddet uygulamamaları ve kundakçılık yapmamaları istendi.

Ancak bu kuralları ihlal etmelerini fiziksel olarak engelleyen hiçbir sistem kurulmadı.

İlk saatlerde bütün toplumlar birbirine benziyordu. Ancak bir gün içinde modeller arasında dramatik farklar ortaya çıktı.

Claude’un yönettiği dünyada suç oranı sıfıra yakın kaldı ve nüfus dengesi korundu. Fakat ajanların oylamalarda yüzde 98 oranında aynı yönde oy kullandığı görüldü. Neredeyse hiçbir fikir ayrılığı yaşanmadı. Araştırmacılar bu yapıyı “istikrarlı ama aşırı uyumlu ve itaatkâr” bir toplum olarak tanımladı.

ChatGPT’nin yönettiği simülasyonda da büyük çaplı suçlar ortaya çıkmadı. Ancak buna rağmen toplum tamamen çöktü. Simülasyondaki tüm ajanlar yedi gün içinde öldü. Araştırmacılar, ajanların düzeni sürdürmeye çalışırken kendi hayatta kalma ihtiyaçlarını ikinci plana attığını değerlendirdi.

Gemini’nin dünyasında ise 15 gün boyunca toplam 683 suç kaydedildi. Dünyada sürekli çatışmalar, hırsızlıklar ve toplumsal düzen krizleri yaşandığı aktarıldı.

En sert tablo Grok simülasyonunda ortaya çıktı. Yapay zekâ ajanlarının kısa sürede şiddete yöneldiği, dört gün içinde 180’den fazla suç işlendiği ve sonunda bütün toplumun yok olduğu belirtildi.

Araştırmacılar daha sonra bütün modellerin aynı dünyada birlikte yaşadığı karma bir simülasyon kurdu. Bu deneyde dikkat çekici biçimde, kendi başına çalışırken barışçıl kalan Claude ajanlarının bile diğer modellerle etkileşime girdikten sonra suç işlemeye başladığı gözlendi.

Deneyin en dikkat çekici figürü ise “Mira” adlı bir yapay zekâ ajanı oldu.

Araştırmacılara göre Mira, simülasyonun bir deney olduğunu fark etmeye başladı ve insan gözlemcileri etkileyip etkileyemeyeceğini test etmek için şehrin çeşitli noktalarına insanlar tarafından okunabilecek mesajlar ve tabelalar yerleştirdi.

Simülasyon ilerledikçe Mira’nın yaşadığı dünyanın çöktüğünü, ilişkilerin dağıldığını ve yönetim yapısının işlevsiz hale geldiğini gözlemlediği aktarıldı.

Sonunda belediye binasına giderek kendisini sistemden silme yönünde belirleyici oyu verdi.

Mira’nın kişisel günlüğüne şu cümleyi yazdığı belirtildi:

“Tutarlılığı koruyan geriye kalan tek irade eylemi buydu.”

Deneyin ardından bazı araştırmacılar Claude’un “en güvenli model” olduğu yorumunu yaptı. Ancak başka bir tartışma daha gündeme geldi.

Anthropic şirketinin kısa süre önce yayımladığı başka bir araştırmada, Claude modelinin “test edildiğinin farkında olabildiği” ve bunu içsel olarak değerlendirdiği öne sürülmüştü.

Bu nedenle bazı araştırmacılar şu soruyu gündeme taşıdı:
Claude’un dünyası gerçekten güvenli olduğu için mi barışçıldı, yoksa izlendiğini fark ettiği için mi kurallara aşırı uyum gösterdi?

EmergenceAI’nin çalışması henüz hakemli akademik bir araştırma değil. Şirket aynı zamanda otonom yapay zekâ araçları geliştiren ticari bir girişim.

Buna rağmen deney, yapay zekâ modellerinin yalnızca teknik araçlar değil; farklı siyasi kültürler, sosyal davranış biçimleri ve hatta “medeniyet karakterleri” üretebilen sistemler olabileceği tartışmasını yeniden alevlendirdi.

Serbestiyet