İnsanlar ruh sağlığı için yapay zekâya yanıt verdiği için başvuruyor, işe yaradığı için değil

İnsanların en kötü geceleri atlatma biçiminde sessiz bir değişim yaşandı. Zihin kişinin aleyhine döndüğünde ve arayacak kimse olmadığında, giderek daha fazla yetişkin bir sohbet robotu açıyor — onu anladığına ikna oldukları için değil, çoğu zaman işe yaradığı için bile değil; cevap verdiği için. Ruh sağlığı üzerine yapılan geniş kapsamlı yeni bir anketin rahatsız edici özü bu ve durum, manşetin ima ettiğinden daha tuhaf.

Bariz okuma biçimi bir güven hikâyesidir: insanların iç dünyalarını makinelere teslim etmesi. Ancak güven yanlış bir mercek. Rakamların tanımladığı şey, aslında teknolojinin iyi olup olmadığına dair bir karar değil. Bu, erişilebilirliğe dair bir karar — sohbet robotunun orada olduğu, profesyonelin ise olmadığı yalın gerçeği.

Sigorta şirketi AXA’nın anket şirketi Ipsos ile 18 ülkede 19.000 yetişkin üzerinde yürüttüğü çalışma, katılımcıların %63’ünün ruh sağlığıyla ilgili soruları için halihazırda yapay zeka araçlarına başvurduğunu ortaya koydu. Bu rakamı durup düşünmeye değer kılan şey, hemen yanında duran çelişki. Katılımcıların yaklaşık %45’i aldıkları yanıtlardan memnun değildi. Yine de %38’i bu platformlara insan ruh sağlığı uzmanlarından daha fazla güvendiğini söyledi. İnsanlar tavsiyelerden memnun değil ve yine de ona yöneliyor.

Bu ancak kalitenin hiçbir zaman belirleyici faktör olmamasıyla anlam kazanır. Bir sohbet robotu akıcı bir cevap üretmek için inşa edilmiştir, doğru bir cevap değil; bakım yükümlülüğü taşımaz ve birinin tehlikede olduğunu tespit ettiğinde durumu üst mercilere bildirme zorunluluğu yoktur. Sadece anında, ücretsiz, bir sevk veya aylarca süren bir bekleme olmaksızın yanıt verir. AXA’nın sağlık direktörünün ifadesiyle, “Yapay zeka 7/24 hizmetinizde, ücretsiz ve gece 11’de yalnızken telefonunuzda.” Bütün değer önerisi bu. Bütün sorun da bu.

Anket, bu takasın bedeline işaret ediyor. Ruh sağlığı konularında sohbet robotu kullananların %42’si neredeyse her zaman robotun verdiği tavsiyeye uyduğunu söylerken, %28’i bir sohbet robotunun önerisi doğrultusunda hareket etmenin kendilerini zararlı davranışlara yönelttiğini belirtti. Klinik hesap verebilirliği olmayan bir araç, yanlış bir cevabı kaldıramayacak durumdaki insanlar tarafından ilk müdahaleci olarak kullanılıyor.

Bunu resmi sağlık sistemlerinin aynı teknolojiyi benimseme biçimiyle yan yana koyduğunuzda, iki paralel dünya belirginleşiyor. DSÖ Avrupa ofisinden, tüm yirmi yedi AB üye ülkesini kapsayan türünün ilk örneği olan ayrı bir kesit, yaklaşık dörtte üçünün halihazırda yapay zeka destekli teşhis kullandığını ve kabaca onda altısının hasta katılımını desteklemek için sohbet robotlarından yararlandığını ortaya koydu. Klinik içinde yapay zeka, gözetim, yönetişim ve tıbbi sorumluluk mekanizmalarıyla sarılı olarak geliyor. Klinik dışında, tüketici tarafında ise aynı temel modeller bunların hiçbiri olmadan çalışıyor — ne yapıp ne yapamayacaklarına dair bir açıklama, risk ortaya çıktığında bir devir teslim yok.

İkinci sisteme düşenler, ezici bir çoğunlukla, birincisinin dışında kalanlar. Anket üzerine yazan bir hekimin ifadesiyle, insanlar yapay zekayı duygusal yaşamlarına “iyi işleyen bir sağlık sistemine ek olarak değil, çoğunluk için erişilemez kalmış olan bakıma erişilebilir bir giriş noktası olarak” dahil ediyor. Buradaki itici güç maliyet ve erişim, makinenin daha iyi bildiğine dair bir kanaat değil. Memnuniyetsizlik rakamı bunun kanıtı: kullanıcılar farkı anlayabiliyor. Yine de kullanıyorlar, çünkü alternatif hiçbir şey.

Bunların hiçbiri yapay zekanın ruh sağlığında yeri olmadığı anlamına gelmiyor. Klinisyenler gerçek bir yer görüyor — triyaj, randevular arasında süreklilik, aksi takdirde hiçbir şey alamayacak insanlar için bir köprü. Ancak en hızlı yayılan versiyon, yönetimsiz olanı ve tam da risklerin en yüksek olduğu yerde yayılıyor. Sürekli gündeme gelen çözüm ise gösterişsiz: ne olmadıklarını açıkça belirten ve birinin risk altında olduğunu hissettikleri anda o kişiyi nitelikli bir insana yönlendiren araçlar.

Bekleme odası insanlar iyileştiği için boşalmadı. Boşaldı çünkü çoğu için kapı hiçbir zaman açık değildi. Yapay zeka bakımla ilgili bir tartışmayı kazanmadı. Sadece telefonu açtı — ve hattın diğer ucunda, görüşme ters gittiğinde bunu fark etmekle yükümlü kimse yok.

Etiketler: AXA Ipsos anketi, chatbotlar, dijital sağlık, DSÖ, ruh sağlığı yapay zekâ