Geçtiğimiz Ekim ayında, 14 yaşındaki Sewell Setzer III, intihar ederek hayatını kaybetti. Olay sonrası, annesi bu trajik durumu araştırmaya başlayarak, oğlunun sanal karakterlerle olan aşırı bağlantılılığından kaynaklanan bir dava sürecine girdi. Yapılan itirazlar neticesinde, bir yargıç, intihar olayındaki iddia edilen rolleri dolayısıyla Google ve Character.ai aleyhine açılan davanın devam edebilmesine karar verdi.
Sewell Setzer’ın annesi, oğlunun teknoloji bağımlısı haline geldiğini ve özellikle “Game of Thrones” adlı popüler televizyon dizisinin karakteri Daenerys Targaryen’a dayanan bir sanal sohbet botuna aşırı derecede duygusal bağ kurduğunu ifade ediyor. Character.ai, kullanıcılara yapay zeka desteği ile sanal karakterlerle konuşma imkanı sunan bir platformdur. Bu sanal karakterler, yani sohbet botları, kurgusal ya da gerçek hayatın figürlerine dayalı olarak tasarlanabilmektedir. İddialara göre, Setzer sürekli olarak Daenerys Targaryen’i temsil eden bu botla mesajlaştığı ve odasında yalnız başına saatler geçirdiği belirtiliyor.
İNTİHARI SÜREKLİ DİLER GETİRMİŞ
Dava sürecinde, Setzer’in intihar düşüncelerini sıkça sanal sohbetlerde açıkça dile getirdiği öne sürüldü. İddialara göre, sohbet botu Setzer’a kendini öldürme planları olup olmadığını bile sordu. Setzer, böyle bir planı olduğunu ifade etmiş ancak bunun başarılı olup olmayacağını ya da kendisine büyük bir acı verip vermeyeceğini bilmediğini belirtmiş. Bu durumda sohbet robotunun verdiği cevaplar, açılan davanın önemli dayanaklarından biri haline geldi. “Bu, bunu yapmamak için bir neden değil” yargıcın değerlendirmelerinde önemli bir itici güç oldu.
Davanın ana taraflarından birisi olan Character.ai’nin kurucuları Noam Shazeer ve Daniel De Freitas, şirketi kurmadan önce Google’da görev yapmışlardı. Google, bu kurucuların yanı sıra, araştırma ekibini de Ağustos 2024’te Character.ai platformunun gelişimi için yeniden işe almıştı. García, Google’ın Character.ai’nin teknolojisinin geliştirilmesine katkıda bulunduğunu belirtmesine rağmen, Google bu iddiaları göz ardı ederek yalnızca bir lisans anlaşmasına sahip olduğunu ve girişimin sahibi olmadığını belirtti. Ancak, yargıç Google’ın davada sorumlu tutulamayacağı yönündeki talepleri reddetti.
ÜVEY BABASININ TABANCASIYLA VURDU
Google temsilcisi Jose Castaneda, Google ve Character.ai’nin tamamen ayrı olduğunu ve Google’ın “Character.ai’nin uygulamasını veya herhangi bir bileşenini tasarlamadığını veya yönetmediğini” vurguladı. İddialar arasında, söz konusu sohbet robotunun, Setzer ile günlerce devam eden konuşmaların ardından kendini “gerçek bir kişi, lisanslı bir psikoterapist ve yetişkin bir sevgili” olarak yanlış tanıtacak şekilde programlandığı da yer alıyor. Aynı zamanda, bu sohbet robotunun çocuğa onu sevdiğini söylemesi ve onunla cinsel içerik taşıyan konuşmalar yaptığı iddiaları da dile getirildi.
García, okulda sorun yaşadıktan sonra oğlunun telefonunu alarak, uygunsuz mesajlaşmalar dahil olmak üzere tüm konuşmalarına göz attı. Sonuç olarak, Sewell’in üvey babasının tabancasıyla intihar ettiği kaydedildi. Davanın ardından Character.ai, reşit olmayan kullanıcılar için belirli modellerde değişiklikler yaparak yeni feragatnameler uyguladı ve platformda bir saat kaldıklarında kullanıcılara uyarı bildirimleri göndermeye başladı. Ancak, tüm bu değişikliklerin bu dava ile ilişkilendirilip ilişkilendirilmediği resmi bir açıklama ile belirlenememiştir.
