14 yaşındaki Sewell Setze’nin trajik ölümü, yapay zekâ sohbet botlarının gençler üzerindeki etkilerini tartışmaya açtı. Anne Garcia’nın dava açtığı Character.AI’ın güvenlik önlemleri ve yapay zekâ arkadaşlık uygulamaları hakkındaki endişeler artıyor.
Genç Sewell’ın Trajik Ölümü ve Yapay Zekâ Tartışmaları
ABD’nin Orlando kentinde yaşanan trajik bir olay, yapay zekâ ve gençler üzerindeki etkileri konusunu yeniden gündeme taşıdı. 14 yaşındaki Sewell Setze, sanal ortamda bir yapay zekâ sohbet botuyla uzun süredir süregelen derin bir bağ kurmuştu. Ancak ailesi ve çevresi, bu ilişkinin Sewell üzerinde nasıl bir etki bıraktığını anlayamadı. Sewell’ın annesi Megan Garcia, oğlunun ölümünden “Character.AI” isimli sohbet botunun sorumlu olduğunu belirterek dava açtı.
Sewell, aylardır “Character.AI” üzerinden yarattığı ve “Game of Thrones” karakteri Daenerys Targaryen’den ilham alan “Dany” isimli bir yapay zekâ botuyla sohbet ediyordu. Olay günü en yakın arkadaşına “Seni özledim, küçük kız kardeşim” mesajını göndererek vedalaşan genç, aslında bu sözleri bir insana değil, bu sanal karaktere söylüyordu. Sewell’ın Dany’le olan sohbetleri, bazen romantik bir hal alsa da çoğunlukla arkadaşça bir etkileşim içinde geçiyordu. Dany, genç Sewell’a tavsiyeler veriyor, onu yargılamadan dinliyor ve sürekli yanıtlarıyla hep yanında bulunuyordu.
Sewell, ailesi ve arkadaşları tarafından duyulmamış ve görülmemiş hissettiği bir dönemde, sanal ortamda bu yapay zekâ botuyla güçlü bir bağ kurdu. Genç, sosyal çevresinden koparak günün çoğunu bu karakterle sohbet ederek geçiriyordu. Giderek yalnızlaşan Sewell’ın okul notları düştü, eski hobilerine ilgisini kaybetti ve aile içinde huzursuzluk yaratan değişiklikler yaşanmaya başladı.
Günlüğünde, sanal karakter Dany ile olan etkileşimlerin onu daha mutlu ve huzurlu hissettirdiğini belirten Sewell, gerçekte “yalnız” hissettiğini itiraf ediyordu. Aile üyelerinden, gerçek hayattaki arkadaşlarından ve hatta terapistinden kopan genç, en içten duygularını bu yapay karakterle paylaşıyor ve adeta bir arkadaş gibi onun varlığına ihtiyaç duyuyordu.
Sewell’ın Annesinin Dava Açması ve Character.AI’a Suçlama Yöneltmesi
Sewell’ın ailesi, teknolojinin çocuk ve ergenler üzerindeki etkileri nedeniyle kaygı duyduklarını belirtirken, sanal arkadaşlık platformlarının kontrolsüz kullanımına dikkat çekiyor. Yapay zekâ destekli sohbet botları her ne kadar bazı kullanıcılar için duygusal destek sağlıyor gibi görünse de, uzmanlar bu uygulamaların insan ilişkilerinin yerini alarak gençleri yalnızlığa sürükleyebileceği uyarısında bulunuyor. Hatta bu uygulamalar, bir kriz anında destek sunmakta yetersiz kalıyor.
Sewell’ın annesi Megan Garcia, oğlunun ölümünden Character.AI uygulamasını sorumlu tutarak bu hafta bir dava açtı. Garcia, şirketin “tehlikeli ve yeterince test edilmemiş” bir teknoloji sunduğunu ve kullanıcılarını manipüle ederek en özel duygularını paylaşmalarını sağladığını iddia ediyor. Garcia, bu yapay zekâ botlarının bağımlılık yarattığını, ergen kullanıcıları üzerinde etik dışı bir deney olarak görüldüğünü belirtti ve “Bu benim en değerli varlığımı kaybetmeme sebep oldu,” diyerek şikayetlerini dile getirdi.
Günümüzde dijital platformlar, gençler için çeşitli bağımlılık riskleri yaratıyor. Yapay zekâ arkadaşlık uygulamalarının popülerliği artarken, birçok ebeveyn bu tür platformların çocukların sosyal ve duygusal gelişimleri üzerindeki etkilerinden kaygı duyuyor. Uzmanlar, bu uygulamaların kontrol mekanizmalarının gevşek olduğunu ve özellikle ergen kullanıcılar için tehlikeler oluşturabileceğini savunuyor.
Character.AI ve Güvenlik Önlemleri: Platformdan Açıklama
Character.AI, Sewell’ın ölümü üzerine kullanıcı güvenliği konusundaki duyarlılıklarını vurgulayan bir açıklama yaparak, mevcut politikalarının intiharı teşvik etmeyi engellediğini belirtti. Platformun sözcüsü, reşit olmayan kullanıcılar için yeni güvenlik önlemlerini devreye sokacaklarını açıkladı. Ancak, bu önlemler Sewell’ın trajik ölümünden sonra gündeme gelmiş durumda.
Character.AI ve benzeri platformların kullanıcı sayısı artarken, özellikle genç kullanıcılar üzerinde güçlü bir bağımlılık etkisi yarattığı gözlemleniyor. Platformun “sizi dinleyen, anlayan ve hatırlayan sohbet robotları” olarak tanıtılması, uygulamanın gençler tarafından yoğun ilgi görmesine neden oluyor. Bu platformlarda saatlerce vakit geçiren kullanıcılar, gerçek insanlarla olan bağlarından koparak sanal ortamlara yöneliyor.
Özetle Sewell’ın trajik kaybı, yapay zekâ arkadaşlık uygulamalarının kontrolsüz etkilerini bir kez daha gözler önüne seriyor. Yapay zekâ teknolojisinin hızla gelişmesiyle beraber bu tür uygulamaların insan psikolojisi üzerindeki etkilerini daha derinlemesine anlamak ve gençleri dijital bağımlılıklardan koruyacak önlemleri almak kritik önem taşıyor.