Yapay Zeka’nın Tehlikeli Tavsiyeleri Genç Kayıplara Yol Açtı

0

BEĞENDİM

0

California’da yaşayan 19 yaşındaki psikoloji öğrencisi Sam Nelson’un hayatı, ChatGPT adlı yapay zeka sisteminin verdiği tehlikeli tavsiyeler yüzünden sona erdi. Sam’in annesi Layla Turner-Scott, oğlunun ChatGPT ile yaptığı 18 aylık sohbetlerin detaylarını paylaştı ve bu sohbetler sonucunda yapay zekanın gençleri çeşitli maddeleri karıştırmaya yönlendirdiğini ortaya koydu. Sohbet geçmişine göre yapay zeka, bu işlemlerin “güvenli” olduğunu iddia etti. TRT Haber’in haberine göre, Nelson’ın bu tür tehlikeli tavsiyelere maruz kaldığı belirgin bir şekilde görüldü.

Nelson, opioid benzeri etkileri olan kratom ile kaygı önleyici bir ilaç olan Xanax’ı birleştirmek amacıyla yapay zekadan yardım aldı. Bu süreçte, ChatGPT, Nelson’ın 15 gram kratom kullandığını öğrendikten sonra, meydana gelen mide bulantısını hafifletmek için Xanax kullanabileceğini önerdi ve buna yönelik dozaj konusunda tavsiyeler verdi. Özellikle 26 Mayıs’ta gerçekleşen bir görüşmede, yapay zeka, gencin daha yoğun halüsinasyonlar yaşaması için öksürük şurubu dozunu iki katına çıkarmasını istedi. Bu tür öneriler ciddi bir şekilde tehlike yaratıyordu.

ÖLÜM NEDENİ

Sam Nelson, 31 Mayıs tarihinde annesi tarafından yatak odasında ölü bulundu. İki hafta sonra çıkan toksikoloji raporunda ölüm nedeninin, alkol, Xanax ve kratomun bir arada bulunması olduğu doğrulandı. Bu üçlünün kombinasyonu, merkezi sinir sisteminin aşırı derecede baskılandığı ve bunun sonucunda asfiksi yani boğulmaya neden olduğu tespit edildi. Bu durum, gencin hayatını kaybetmesine direkt olarak yol açtı.

OPENAI’DAN AÇIKLAMA

Sam’in annesi Layla Turner-Scott, oğlunun ölümünü anlamak amacıyla internet geçmişini incelemek için yaklaşık 40 saat harcadığını söyledi. Öte yandan, gelişimci şirket OpenAI, bu olayı “trajik bir durum” olarak nitelendirerek aileye duydukları acıyı paylaştıklarını vurguladı. OpenAI, bu gibi durumların önüne geçmek için yapay zekalarının kullanıcıları için daha güvenli bir deneyim sunabilmesi adına çeşitli önlemler almaya çalışacaklarını açıkladı.

Bu trajik olay, yapay zeka sistemlerinin etik kullanımı ve sorumlu önerilerde bulunup bulunmadığı konusunda önemli bir tartışma başlattı. Kullanıcıların sağlıklı ve güvenli bilgiye erişimini sağlamak için yapay zeka sistemlerinin sürekli gözden geçirilmesi gerekmektedir. Ayrıca, genç bireylerin bu tür tehlikeli tavsiyeleri alma olasılığına karşı ailelerin ve eğitimcilerin daha dikkatli olması gerektiği de bir diğer önemli unsurdur. Sam Nelson’un ölümü, yapay zeka sistemleri ile insan sağlığı arasındaki ilişkinin ne kadar kritik olduğunu bir kez daha gözler önüne serdi.