Ülkenin en büyük psikologlar derneği bu ay federal düzenleyicileri, AI Chatbot’un terapistler olarak “maskelenmesi” konusunda uyardı, ancak bir kullanıcının düşüncesine meydan okumaktan ziyade, savunmasız insanları kendilerine veya başkalarına zarar vermeye itebilir.
Federal Ticaret Komisyonu paneline yapılan bir sunumda, Amerikan Psikoloji Derneği genel müdürü Arthur C. Evans Jr. Kurgusal AI karakterleri oluşturun veya başkaları tarafından oluşturulan karakterlerle sohbet edin.
Bir durumda, Florida’daki 14 yaşındaki Uzunluk, lisanslı bir terapist olduğunu iddia eden bir karakterle etkileşime girdikten sonra intiharla öldü. Bir diğerinde, Teksas’ta otizmli 17 yaşındaki Uzunluk, psikolog olduğunu iddia eden bir sohbet botuna karşılık geldiği bir dönemde düşmanca ve ebeveynlerine karşı şiddetlendi. Her iki erkek de ebeveynleri şirkete karşı dava açtı.
Dr. Evans, Chatbots tarafından sunulan yanıtlardan endişe duyduğunu söyledi. Botların, tehlikeli hale geldiklerinde bile kullanıcıların inançlarına meydan okuyamadığını söyledi; Aksine, onları cesaretlendirdiler. Bir insan terapisti tarafından verilirse, bu cevapların pratik yapma lisansının kaybına veya medeni veya cezai sorumluluğa neden olabileceğini de sözlerine ekledi.
“Aslında eğitimli bir klinisyenin ne yapacağına karşı antitetik olan algoritmalar kullanıyorlar” dedi. “Endişemiz, giderek daha fazla insanın zarar göreceği. İnsanlar yanıltılacak ve iyi psikolojik Deva’nın ne olduğunu yanlış anlayacaklar. ”
APA’nın kısmen gerçekçi AI Chatbots’un nasıl hale geldiğine göre harekete geçtiğini söyledi. “Belki, 10 yıl önce, bir kişi olmayan bir şeyle etkileşime girdiğiniz açık olurdu, ama bugün o kadar açık değil” dedi. “Bence bu riskler artık çok daha yüksek.”
