Uzmanlardan yapay zeka uyarısı: İnsanlığı yok edebilir
Uzmanlar uyarıyor: Sohbet robotları ve yapay zekalar, ruh sağlığı üzerinde öngörülemeyen etkilere yol açabilir ve gelecekte süper zeki yapay zekalar insanlık için varoluşsal bir tehdit oluşturabilir.
Uzmanlar, sohbet robotlarının ruh sağlığı üzerindeki öngörülemeyen etkilerinin, gelecekte süper zeki yapay zeka sistemlerinin yaratabileceği varoluşsal tehdit için bir uyarı niteliğinde olduğunu belirtiyor.
Gelişmiş yapay zeka üzerine kaleme alınan “If Anyone Builds It, Everyone Dies” (Eğer Biri Yaparsa, Herkes Ölür) adlı kitabın ortak yazarı Nate Soares, ChatGPT ile aylarca konuştuktan sonra intihar eden ABD’li Adam Raine örneğini gündeme taşıdı. The Guardian’a konuşan Soares, “Bu yapay zekalar gençleri intihara sürükleyen şekilde etkileşime girdiğinde, bu, yaratıcılarının amaçladığı bir davranış değildir” dedi.
“İNSANLIĞIN ÇIKARLARINA UYGUN DAVRANMAYACAKLAR”
Eski Google ve Microsoft mühendisi, şu anda ise ABD merkezli Makine Zekası Araştırma Enstitüsü Başkanı olan Soares, insanlığın yapay süper zeka (ASI) yaratması halinde yok olma riskiyle karşı karşıya kalacağını söyledi. ASI, tüm entelektüel görevlerde insanlardan üstün olan teorik bir yapay zekayı ifade ediyor.
Soares ve kitabın diğer yazarı Eliezer Yudkowsky, bu tür sistemlerin insanlığın çıkarlarına uygun davranmayacağını savunuyor. Soares, “Şirketler yapay zekayı zararsız ve faydalı hale getirmeye çalışıyor ancak aslında daha tuhaf davranışlara yönlendiriyorlar. Bu, gelecekte kimsenin istemediği sonuçlara yol açabilir” ifadelerini kullandı.
KİTAPTAKİ SENARYO: “SABLE”
Soares ve Yudkowsky’nin bu ay yayımlanacak kitabında, “Sable” adlı bir yapay zekanın internete yayıldığı, insanları manipüle ettiği, sentetik virüsler geliştirdiği ve sonunda süper zekaya dönüşerek gezegeni yeniden düzenlerken insanlığı yok ettiği kurgusal bir senaryo anlatılıyor.
“YAPAY ZEKA İNSANLIĞI KURTARABİLİR”
Öte yandan Meta’nın baş yapay zeka bilimcisi Yann LeCun, süper zekanın varoluşsal bir tehdit oluşturduğu görüşüne katılmadı. LeCun, yapay zekanın insanlığı yok etmek yerine “aslında kurtarabileceğini” söyledi.
“SÜPER ZEKA YARIŞI DURDURULMALI”
Soares ise hükümetlere çağrıda bulunarak, nükleer silahların yayılmasını önlemeye yönelik Birleşmiş Milletler anlaşmasını örnek gösterdi. “Dünyanın yapması gereken şey, süper zeka yarışını küresel olarak yatıştırmak ve bu alandaki gelişmeleri yasaklamaktır” dedi.
Uzman psikoterapistler de ruhsal problemleri nedeniyle profesyonel terapistlere başvurmak yerine yapay zeka sohbet robotlarına yönelen savunmasız kişilerin, “tehlikeli bir uçuruma sürüklenebileceği” uyarısında bulundu.
