Yeni rapora göre, Chatgpt ve diğer popüler yapay zeka chat robotları insanları psikoza sürüklüyor.
Ulusal Sağlık Servisi Doktorları (NHS) tarafından birlikte yazılan çalışma, büyük modellerin (LLM) savunmasız kullanıcılarda “bulanık gerçeklere” sahip olduğu ve “psikotik semptomların başlangıcına veya yoğunluğuna katkıda bulunduğu” konusunda uyarıyor.
Bağımsız Türk araştırması, insanlara “sohbet robotu psikozu” olarak adlandırıldığı düzinelerce ilişkiden sonra geliyor.
Çalışmaya katılan King's College London'un Hamilton Morrin nöropsikiyatristi, sohbet robotu psikozunu “gerçek bir fenomen” olarak nitelendirdi.
LinkedIn'de keşif gezisini paylaştı, “Bazı kamuoyu yorumları ahlaki panik alanına geçti, onaylamak, etkileşime geçmek ve taklit etmek için tasarlanmış yapay zeka sistemleri bile, psikozu karakterize eden bilişsel zayıf noktalarla nasıl etkileşime girileceği konusunda daha ilginç ve önemli bir tartışma yapılması gerektiğini düşünüyoruz.”
Muhtemelen makinelerde hayal kırıklıklarının ortaya çıktığı noktayı aştık ve bu hayal kırıklıklarının makinelerle ortaya çıktığı bir döneme giriyoruz.
Ortak bir yazar Tom Pollack olan King's London Koleji, psikiyatrik bozuklukların nadiren aniden ortaya çıktığını söyledi “, ancak yapay zeka sohbet robotlarının kullanımı bir” tetik faktörü “olabilir.
Yapay zeka şirketlerini araçlarına daha fazla güvenlik önlemi eklemeye ve psikiyatristleri yapay zeka güvenlik ekibine dahil etmeye davet etti.
Bağımsız bu fenomen hakkında yorum almak için Openi ile temasa geçti. Şirket daha önce “insanlar insanların hayatlarında yapay zeka kullanma biçimleri konusunda güvenlik çubuğunu, uyumunu ve hassasiyeti toplamaya devam etmiş olması gerektiğini” belirtmişti.
Mayıs ayında podcast Openi Sam Altman'ın şefi, şirketinin ChatGPT savunmasız kullanıcılar için yararlı güvenlik önlemleri almakta zorlandığını söyledi.
Psikotik krizin kenarındaki kullanıcılara, zihinsel olarak yeterince duyarlı olarak uyarının nasıl gönderileceğini henüz çözmedik.
“Delus tasarımla? AIS gazeteleri psikozu nasıl besleyebilir (ve bu konuda ne yapılabilir)” [ve bu konuda neler yapılabilir]Başlıklı makalenin önü) PSYCHarxiv'de yayınlanmıştır.