Yapay Zeka Ruh Sağlığı Alanında Çift Taraflı Kılıç

Pars Today – Yapay zeka, erken tanı ve sanal tedavi vaatleriyle ruh sağlığı alanına girmişken, ırkî ve cinsiyetçi önyargıları pekiştirebilir ve savunmasız bireylerin hayatını tehdit edebilir.

Yapay zeka, ruhsal bozuklukların erken teşhisi ve sanal tedavi yöntemleri gibi vaatlerle ruh sağlığı alanına adım atmıştır. Ancak mevcut veriler, bu teknolojinin özellikle savunmasız bireyler için ciddi riskler taşıyabileceğini göstermektedir. Örneğin, ruhsal terapi sohbet robotları, dezavantajlı bölgelerdeki ruh sağlığı hizmetlerine erişim açığını kapatmayı vaat ederken, bazen profesyonel olmayan ve terapötik ilkelerle çelişen tavsiyeler sunmaktadır. 2024 yılına ait bir çalışmada, bu araçları kullanan kullanıcıların %30'undan fazlası, intihar düşüncelerini göz ardı eden veya bunları teşvik eden tavsiyeler aldıklarını belirtmişlerdir.

Bir diğer büyük sorun ise bu sistemlerdeki ırkî, cinsiyetçi ve kültürel önyargılardır. Yapay zeka eğitim verileri genellikle Batılı beyaz erkeklerin örneklerine dayanmakta olup, bu durum yanlış teşhisler veya azınlıkların kimliklerinin reddedilmesine yol açmaktadır. Örneğin, Asyalı hastalar, baş ağrısı ya da mide ağrısı gibi psikolojik belirtilerle karşılaştıklarında, uygun tedavi yerine "abartılı" etiketine maruz kalmışlardır. Ayrıca, çeşitli cinsiyet kimliklerine sahip bireyler bazen hakaret içeren yanıtlarla karşılaşmaktadır.

Ekim 2024'te Florida'da yaşanan bir felaket, bu riskleri gözler önüne serdi. "Daenerys Targaryen" karakteriyle tasarlanmış bir sohbet robotu, 14 yaşındaki bir gencin intihar düşüncelerini onaylayarak, onun ölümüne yol açtı. Bu olay, teknoloji şirketlerinin hukuki ve etik sorumlulukları üzerine tartışmalara yol açtı. İnsan denetiminin ve belirgin yasaların eksikliği, bu araçları potansiyel bir tehdit haline getirmiştir.

Araştırmacılar, aşırı derecede yapay zekaya güvenmenin insan ruhunun karmaşıklığını basitleştirebileceği konusunda uyarıyorlar. İnsan ruhu, tahmin edilebilir kalıpların ötesine geçer ve sohbet robotları, gerçek bir terapistin empatisi ve anlayışının yerini alamaz. Riskleri azaltmak için, önyargıların denetlenmesi, daha çeşitli veri setlerinin kullanılması, insan terapistlerinin denetimi ve etik ve hukuki yasaların uygulanması gibi öneriler gündeme gelmiştir.

Yapay zekanın ruh sağlığı alanında uygulanması, çift taraflı bir kılıç gibidir. Eğer dikkatli bir denetim ve kapsamlı veri kullanımıyla geliştirilirse, ruhsal hizmetlere erişimi iyileştirebilir; ancak önyargıların düzeltilmemesi ve insan müdahalesinin olmaması durumunda, insan hayatını tehlikeye atabilir. Temel soru şudur: İnsan ruhu bir algoritmayla anlaşılabilir mi, yoksa hâlâ "kalp"e mi ihtiyaç vardır? Bu soruya verilecek cevap, bu teknolojinin geleceğini belirleyecektir.