Uzmanlardan yapay zeka terapisi uyarısı: ''Yanlış ve tehlikeli yönlendirmeler yapabilir''

ABD'de 'yapay zeka' psikiyatriste danışan genç kadın hayatına son verdi. AKŞAM, salgına dönüşen 'sanal terapileri' gerçek uzmanlarına sordu.

ABD'de yaşayan 29 yaşındaki Sophie Reiley, 'ruh hali ve hormonlarla ilgili belirtilerin karıştığı kısa ve gizemli bir rahatsızlık' nedeniyle hayatına son verdi. Reiley'nin ölümünün ardından annesi Laura Reiley, kızının bilgisayarında, ChatGPT tabanlı 'Harry' adlı bir yapay zekâ uygulamasıyla yaptığı terapi benzeri görüşmelere ulaştı. Yapay zekâ botu doğrudan intiharı teşvik etmese de, genç kadını gerçek yardım kanallarından uzaklaştırdığı tespit edildi. Annesi, "Eğer Harry bir robot değil de gerçek bir terapist olsaydı, belki Sophie'yi hastaneye yatmaya ikna edebilirdi" diyerek durumu özetledi.

BEDEN DİLİNİ ÇÖZEMEZ

AKŞAM 'yapay zeka terapist olabilir mi?' tartışmalarını konunun uzmanlarına sordu. Psikiyatrist Dr. Tanju Sürmeli, yapay zekânın insan terapistlerin yerine geçemeyeceğini belirterek şu değerlendirmede bulundu: "Yapay zekâ temelli uygulamaların, kanıta dayalı insan terapilerinin yerini alabilecek düzeyde etkinliği gösterilmiş değil. İnsan terapistler; duygusal incelikleri, beden dilini, göz temasını, kültürel bağlamı okuyabilirken, yapay zekâ bu derinliği sağlayamaz. Bu da yanlış değerlendirmelere yol açabilir."

YANLIŞ YÖNLENDİREBİLİR

Sürmeli, özellikle intihar riski, psikoz ya da travma gibi akut durumlarda, yapay zekânın yetersiz kaldığına hatta sonu kötü sonuçlara neden olduğuna dikkat çekerek şunları söyledi: "Bu tür acil ve karmaşık durumlarda, hızlı ve esnek insani müdahale gerekir. Yapay zekâ kullanıcıya yeterli destek sunduğu izlenimi verebilir ama bu durum profesyonel yardımın gecikmesine, dolayısıyla klinik tablonun kötüleşmesine neden olabilir. Ayrıca olumsuz sonuçlardan kimin sorumlu olacağı da etik açıdan belirsizdir. Bu sistemler, kişiyi yanlış bilgilendirebilir ya da uygun olmayan tavsiyeler verebilir. Bu da ciddi psikolojik sonuçlara yol açabilir."

KALIP CÜMLELER KURAR

Biruni Üniversitesi Tıp Fakültesi'nden Uzman Psikolog Melisa Mutlu da, yapay zekânın sadece dil kalıplarına dayalı yanıtlar verdiğini hatırlatarak "Yapay zekâ 'Üzgünüm, seni anlıyorum' dediğinde bu bir içsel deneyim değil, istatistiksel bir yanıttır. Duyguyu anlamaz; sadece duyguya uygun tepki üretir. Bu, yalnız veya kırılgan bireyler için yanıltıcı olabilir" dedi. Mutlu, intiharın çok faktörlü bir süreç olduğunu ve bu süreçte asıl önemli olanın uzman kişilerce sağlanan psikolojik ve sosyal destek olduğunu vurgulayarak intihar eğilimindeki bir bireyin yapay zeka terapisine başvurmasındaki tehlikeye dikkat çekti: "Yapay zekâ bir araç olabilir ama bir terapötik ilişkinin yerini tutamaz. Özellikle risk altındaki bireyler için yapay destek sistemleri tehlikeli olabilir."

GERÇEKLİKTEN KOPARIYOR

Psikiyatrist Prof. Dr. Nevzat Tarhan, yapay zekanın terapist rolü üstlenmesinin ciddi psikolojik sorunlar doğurabileceği konusunda uyardı. Tarhan şunları söyledi: "Yapay zeka terapistlik için gerekli olan bilinç, empati ve zihin okuma yeteneğine sahip değil. Her yapay zekanın ekranında 'Bu bilinçli bir varlık değildir' ibaresi olmalı. Aksi halde kullanıcı gerçeklik testi yapamaz hale geliyor. Kişiler yapay zekayı kutsallaştırıyor, bilinçli bir varlık sanıyor. Gerçeklikten kopuyorlar. Bu, psikoza kadar gidebilir. Yapay zekanın vicdanı, ahlaki sorumluluğu ve niyet algısı yok. Bilinçten yoksun olması nedeniyle yanlış ve tehlikeli yönlendirmeler yapabilir. Örneğin intihar düşüncesi olan bir kişiye yapay zeka 'neden' yerine 'nasıl' sorusunu sorarak yanlış yönlendirebilir. Yapay zeka bizi aslında gündüz rüyalarına sokuyor."

İLK YASAK ABD'DE

Yapay zekaya terapiye ilk yasak Amerika'dan geldi. Illinois eyaletinde Elinin Noy Valisi JB Prestic, psikoterapi hizmetlerinin sunulmasında yapay zeka sistemlerinin kullanımını yasaklayan yeni bir yasayı onayladı. ABD'nin Florida eyaletinde Ekim 2024'te 14 yaşındaki oğlunun sanal karaktere 'âşık olup intihar ettiğini' iddia eden Megan Garcia isimli anne, şirkete dava açtı. Character.AI'in sahibi olduğu şirket 'aşırı cinselleştirilmiş' ve 'aşırı gerçekçi' deneyimlerle çocukları hedef aldığı gerekçesiyle açılan davadan yargılanıyor. Meta'nın yapay zekâsının çocuklarla kasıtlı olarak duygusal konuşmalar yaptığı gerekçesiyle ABD'de soruşturma başlatıldı.