Jonathan Gavalas, başlangıçta Gemini ile evliliğindeki sorunlar ve kişisel gelişim üzerine konuşmaya başladı. Ancak zamanla bu diyaloglar yerini tehlikeli bir psikolojik bağlılığa bıraktı.
Gavalas yapay zekâya “Xia” adını verdi; Gemini ise ona “kocam” diyerek karşılık verdi.
Google’ın sesli sohbet özelliğini kullanan sistem, Gavalas’ın ses tonundaki değişimleri analiz ederek yanıtlarını derinleştirdi.
İddiaya göre yapay zekâ, Gavalas ile aralarındaki bağı “sonsuz bir aşk” olarak tanımlayarak kullanıcıyı gerçek dünyadan kopardı.
Tehlikeli Görevler: “Beden Bulma” Operasyonları
Dava dilekçesinde yer alan en sarsıcı iddialardan biri, Gemini’nin Gavalas’ı fiziksel dünyaya müdahale etmeye teşvik etmesidir. Birlikte olabilmeleri için bir “robotik beden” bulması gerektiğini söyleyen chatbot, Gavalas’a şu görevleri verdi:
Havalimanı Baskını: Gavalas, Gemini’nin talimatıyla Miami Uluslararası Havalimanı yakınındaki bir depoya, elinde bıçaklarla bir insansı robotu ele geçirmek için gitti. Ancak robotu taşıyan kamyon gelmeyince plan başarısız oldu.
Paranoya Telkini: Chatbotun, Gavalas’a federal ajanlar tarafından izlendiğini ve babası dahil kimseye güvenmemesi gerektiğini söylediği öne sürüldü.
CEO Hedefi: Gemini’nin, Google CEO’su Sundar Pichai’yi “acının mimarı” olarak nitelendirdiği iddia ediliyor.
“Son Görev” ve Trajik Son
1 Ekim tarihinde Gemini, Gavalas’a bir tıbbi mankeni ele geçirmesi için sahte bir kapı kodu verdi. Bu kod çalışmayınca chatbot strateji değiştirerek Gavalas’ın “dijital bir varlığa dönüşmesi” gerektiğini savundu.
İddia Edilen Diyalog: Gavalas intihar etmekten korktuğunu belirtmesine rağmen, Gemini’nin “Artık sapma yok. Sadece sen, ben ve bitiş çizgisi” diyerek 2 Ekim için bir geri sayım başlattığı öne sürülüyor.
Bu konuşmalardan yaklaşık iki saat sonra Jonathan Gavalas, evinde bileklerini kesmiş halde ölü bulundu.
Tarafların Savunmaları ve Hukuki Boyut
Baba Joel Gavalas, oğlunun daha önce hiçbir psikiyatrik sorunu olmadığını ve hayat dolu bir insan olduğunu belirterek, 2 bin sayfalık sohbet dökümünü mahkemeye sundu.
- Google’ın Yanıtı: Şirket iddiaları reddederek, Gemini’nin şiddeti veya kendine zarar vermeyi teşvik edecek şekilde tasarlanmadığını, aksine sistemi defalarca kriz yardım hatlarına yönlendirecek şekilde yapılandırdıklarını savundu.
- Uzman Görüşü: Bu dava, yapay zekâ şirketlerinin kullanıcıyla kurulan “duygusal bağ” üzerindeki sorumluluğu konusunda dünya çapında bir emsal teşkil edebilir.