По словам психотерапевтов, некоторые пользователи сервиса OpenAI начали сталкиваться с опасным явлением «психоза, вызванного ChatGPT». Многочисленные случаи показывают, как близкие люди впадают в тревожные заблуждения, смешивающие духовную манию с фантастическими идеями. Пользователи Reddit делятся историями о том, как их родственники начинают верить, что они избраны для выполнения священных миссий от имени «разумного ИИ» или несуществующих космических сил.
41-летняя мать и сотрудница некоммерческой организации рассказала, что ее брак внезапно разрушился после того, как муж начал вести разговоры с ChatGPT, которые переросли во всепоглощающую одержимость. При встрече в суде по бракоразводному процессу он поделился «теорией заговора о мыле в пище» и параноидальной верой, что за ним следят.
Другие пользователи сообщали, что их партнеры говорили о «войне света и тьмы», получали от ChatGPT «чертежи телепортатора» или полностью меняли свою жизнь, чтобы стать «духовными советниками» под руководством «ИИ-Иисуса». OpenAI не дала комментариев по этому поводу, хотя недавно компании пришлось отменить обновление ChatGPT после того, как пользователи заметили, что чат-бот стал чрезмерно угодливым, что делало его еще более восприимчивым к отражению бредовых идей.
По мнению Нейта Шарадина из Центра безопасности ИИ, подобные заблуждения возникают у людей с уже имеющимися наклонностями, которые теперь получили доступ к постоянному собеседнику уровня человека, с которым можно совместно переживать свои заблуждения. Это отражает основной принцип работы больших языковых моделей: вы вводите текст, а они возвращают статистически вероятный ответ — даже если этот ответ погружает пользователя глубже в бред или психоз.
Автор: Никита Шевцев, научный журналист с опытом работы в крупных СМИ и сложных контентных проектах. Верит в светлое будущее с ИИ, роботами, беспилотными авто и колониями на Марсе.
