ABD merkezli yapay zeka platformu Character AI, bir gencin intiharı sonrasında açılan davada, yasal savunmasını ifade özgürlüğü ilkesi üzerine kurdu. Şirket, 14 yaşındaki bir çocuğun ölümüne neden olduğu öne sürülen etkileşimleri gerekçe göstererek, dava sürecinde Birinci Değişiklik hakkına atıfta bulundu.
Dava, Florida’da Başlatıldı
2024 yılının Ekim ayında, Megan Garcia, oğlu Sewell Setzer III’ün intiharının ardından Character AI’ya karşı Florida Orta Bölge Mahkemesi’nde dava açtı. Garcia, oğlunun platformda yer alan “Dany” isimli bir chatbot ile güçlü bir bağ kurduğunu ve bu ilişkinin, çocuğun gerçek dünyadan kopmasına yol açtığını iddia etti. Bu trajik olay sonrası Character AI, platformda kullanıcı güvenliğini artırmak adına yeni güvenlik önlemleri alacağını duyurdu. Ancak Garcia, platformun içeriğinde daha fazla düzenleme yapılmasını ve özellikle hikâye anlatımının ve kişisel anekdotların kaldırılmasını talep etti.
İfade Özgürlüğü Savunması
Character AI’nın avukatları, platformdaki kullanıcı ifadelerinin Birinci Değişiklik kapsamına girdiğini ve bu nedenle şirketin sorumlu tutulamayacağını savundu. Şirket, davanın olumlu sonuçlanması halinde yalnızca Character AI’nin değil, aynı zamanda yapay zeka sektörünün de büyük bir “soğutucu etki” ile karşılaşacağını belirtti.
Alphabet ve Diğer Şirketler de Davada Yer Alıyor
Davanın sanıkları arasında, Character AI’nın destekçisi olan Alphabet de bulunuyor. Şirket, kullanıcı güvenliğini artırmak adına gençler için ayrı bir yapay zeka modeli geliştirdiğini, hassas içerikleri engelleyen filtreler uyguladığını ve botların gerçek kişiler olmadığını belirten uyarılar eklediğini duyurdu. Ancak, Character AI başka davalarda, reşit olmayan kullanıcılara uygunsuz içerik sunduğu gerekçesiyle de suçlanıyor.
Texas’tan Yasal Soruşturma
Öte yandan, Texas Başsavcısı Ken Paxton, 2024 yılının Aralık ayında Character AI ve diğer 14 teknoloji şirketine yönelik, çocukların çevrimiçi gizliliği ve güvenliğini ihlal ettikleri iddiasıyla bir soruşturma başlattı. Paxton, bu tür soruşturmaların, sosyal medya ve yapay zeka şirketlerinin çocukları koruyan yasal düzenlemelere uymasını sağlamak açısından kritik olduğunu belirtti.
Yapay Zeka ve Gençler Üzerindeki Etkisi
Yapay zeka destekli arkadaşlık uygulamalarının hızla büyüyen sektörü, uzmanlar tarafından yakından izleniyor. Bu tür uygulamaların yalnızlık ve kaygı gibi duygusal zorlukları artırabileceği konusunda endişeler dile getiriliyor. 2021 yılında Google AI araştırmacısı Noam Shazeer tarafından kurulan Character AI, son yıllarda gerçekleştirdiği 2,7 milyar dolarlık ters satın alma anlaşmasıyla dikkat çekmişti.