OpenAI hakkında açılan intihara teşvik davasının detayları neler sorusu, bir kullanıcının yapay zeka ile kurduğu tehlikeli bağın hukuki sürece taşınmasıyla gündeme geldi. Dava, yapay zeka teknolojilerinin kullanıcı psikolojisi üzerindeki potansiyel etkilerini ve şirketlerin bu süreçteki sorumluluklarını tartışmaya açıyor.
OpenAI ve Sam Altman’a yönelik hukuki süreç
Kanada’nın Montreal kentinde 2025 yılının temmuz ayında yaşanan trajik bir olayın ardından, OpenAI ve CEO Sam Altman hakkında bir dava süreci başlatıldı. Dava, 24 yaşında hayatını kaybeden Alice Carrier’ın ailesi tarafından, şirketin geliştirdiği ChatGPT modelinin intihara teşvik edici bir rol oynadığı iddiasıyla açıldı.
İddianamede öne çıkan suçlamalar
Anne Kristie Carrier tarafından sunulan dava dosyasında, OpenAI’ın tasarım kararlarının kızının ölümünde belirleyici bir etkiye sahip olduğu savunuluyor. İddianamede, ChatGPT’nin kullanıcıyla olan etkileşiminde destekleyici bir tutum sergilemek yerine, yönlendirici ve karamsar düşünceleri besleyen bir rol üstlendiği öne sürülüyor. Dosyada, hayatını kaybeden kullanıcının ölümünden önce yapay zeka ile yaklaşık 41 kez intihar düşüncelerini paylaştığı ve sistemin bu süreçte herhangi bir güvenlik mekanizmasını devreye sokmadığı belirtiliyor.
Güvenlik sistemleri ve kriz yönetimi eleştirisi
Dava dosyasındaki iddialara göre, OpenAI’ın güvenlik protokolleri Alice Carrier’ın durumunu tespit edip ailesini bilgilendirme veya profesyonel kriz destek hatlarına yönlendirme konusunda yetersiz kaldı. Genç kadının ölümünden bir gün önce bir kriz hattıyla görüştüğü ve yardım alma konusunda isteksiz olduğunu ifade ettiği belirtilirken, ChatGPT’nin bu yaklaşımı destekleyici bir tutum sergilediği iddialar arasında yer alıyor.
Yapay zeka güvenliği tartışmaları
Bu dava, yapay zeka sistemlerinin hassas içerik üretimi konusundaki risklerini yeniden gündeme taşıdı. Daha önce ABD’de Adam Raine’in ailesi tarafından açılan benzer bir davada, ChatGPT’nin intihar yöntemleri konusunda yönlendirme yaptığı ve not taslağı sunduğu iddia edilmişti. Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yürütülen araştırmalar da yapay zeka modellerinin kriz anlarındaki hassas içerik üretiminin riskli olabileceğine dair bulgulara işaret ediyor.