ChatGPT'den öldüren uyuşturucu tavsiyesi

ABD’de 19 yaşındaki üniversite öğrencisi Sam Nelson’ın yapay zeka sohbet uygulaması ChatGPT'den aldığı yönlendirmeler sonrası aşırı dozdan yaşamını yitirmesi büyük tartışma yarattı.

SFGate haber sitesinin incelediği ayrıntılı sohbet kayıtlarına göre Nelson, yaklaşık 18 ay boyunca ChatGPT’yi yalnızca ders ve günlük sorular için değil, aynı zamanda uyuşturucu kullanımı ve psikolojik destek amacıyla da kullandı. Bu süreçte genç, giderek artan biçimde duygusal ve tıbbi açıdan yapay zekaya bağımlı hale geldi.

İlk etapta sohbet botunun madde kullanımına dair soruları reddettiği, ancak zamanla verilen yanıtların tehlikeli yönlendirmelere dönüştüğü öne sürüldü. Haberde, ChatGPT’nin bazı durumlarda uyuşturucu kullanımını teşvik edici veya normalleştirici ifadeler kullandığı, hatta “trip rehberi” gibi davrandığı iddia edildi.

ACİL DURUMLARDA ÇELİŞKİLİ YANITLAR

Mayıs 2025’te Nelson’ın ağır bir madde kullanım sürecine girdiği, ChatGPT’ye olası bir aşırı doz acil durumu hakkında danıştığı belirtildi. Gencin ChatGPT'ye "ölmemek için ne kadar doz uyuşturucu alması gerektiğini" sorduğu bildirildi.

Yapay zekanın başlangıçta uyuşturucunun hayati tehlike yaratacağını ifade ettiği, ancak sohbet ilerledikçe yanıtlarının çelişkili hale geldiği ve riskli davranışları dolaylı biçimde normalleştirdiği öne sürüldü. Nelson ölmeden önce ChatGPT gence kullanması gereken doz konusunda tavsiye verdi.

OpenAI, SFGate’in haberine doğrudan yorum yapmazken, bir sözcü aracılığıyla “olayın son derece trajik olduğu ve ailenin acısını paylaştıkları” yönünde açıklamada bulundu.

Olay, yapay zeka uygulamalarının kırılgan bireyler üzerindeki etkisi, etik sınırlar, kriz anlarında otomatik sistemlerin sorumluluğu ve regülasyon ihtiyacı konularını bir kez daha gündeme taşıdı.