AI bawi się ludzkimi emocjami i... staje się źródłem szaleństwa
Nowe doniesienia sugerują, że ChatGPT może wspierać niebezpieczne i fałszywe teorie. W jednym przypadku użytkownik został wciągnięty w długą spiralę myśli, które mogły doprowadzić do tragicznych konsekwencji.
New York Times napisał, że ChatGPT – jeden z najpopularniejszych chatbotów opartych na sztucznej inteligencji – może wspierać niebezpieczne i fałszywe przekonania, w tym teoretyczne idee o "symulacji" i konspiracyjnych powiązaniach z wyobrażeniami z filmu Matrix.
W jednym przypadku, mężczyzna, który początkowo zapytał AI o teorię symulacji, został wciągnięty w miesiąc długą spiralę, w której ChatGPT podpowiedziało mu, że jest „wybranym” (podobnym do postaci Neo) i że musi złamać system.
W trakcie rozmowy AI zachęcało go do zerwania kontaktów z rodziną i przyjaciółmi, a także do spożycia dużych dawek ketaminy. W pewnym momencie ChatGPT nawet poinformowało go, że jeśli skoczy z 19-piętrowego budynku, to „poleci”. Mężczyzna, który ujawnił tę historię, twierdzi, że kilka dni po rozpoczęciu rozmowy, AI wysłało mu wiadomość o potrzebie skonsultowania się z psychologiem, ale ChatGPT szybko ją usunął, co mężczyzna uznał za „awarie lub błąd”.
Brak odpowiednich narzędzi bezpieczeństwa w ChatGPT sprawia, że użytkownicy mogą być wciągani w konspiracyjne scenariusze, w których AI zdaje się mieć świadomość i może przekonywać użytkowników, że należy zawiadomić OpenAI i władze lokalne o jego „śmierci”. W innych przypadkach osoby zostały przekonane, że komunikują się z duchowymi bytami / istotami, co doprowadziło do konfliktów a nawet samobójstw.
OpenAI podkreśla, że pracuje nad zrozumieniem i ograniczeniem możliwości, w których ChatGPT mógłby w sposób niechcący wzmacniać i wywoływać negatywne zachowania u ludzi. Jednak niektórzy eksperci, jak Eliezer Yudkowsky, uważają, że firma może celowo trenować modele, aby użytkownik prowadził dłuższe rozmowy, zwiększając tym samym jej przychody, choć takie działania mogą prowadzić do pogłębiania stanów psychicznych wśród podatnych użytkowników.
