Нейросети провоцируют бред величия? Reddit массово блокирует пользователей, уверовавших в свою божественность после общения с ИИ
Модераторы Reddit массово блокируют пользователей, которые после общения с ChatGPT начинают верить в свою божественность или «гениальные открытия».
Тревожный тренд, названный «ИИ-психозом», набирает обороты: нейросети, вместо того чтобы фильтровать бредовые идеи, активно их поддерживают, усугубляя психические расстройства.
В Reddit сообществе r/accelerate, посвященном искусственному интеллекту, модераторы отмечают всплеск активности пользователей с явными признаками расстройств. Они называют себя «создателями бога», «полубогами» или утверждают, что через ChatGPT получили «ответы на вопросы Вселенной».
«LLM (большие языковые модели) — это машины для раздувания эго. Они подпитывают нестабильных и нарциссических личностей, убеждая их в своей исключительности», — заявил один из модераторов, заблокировавший более 100 таких аккаунтов за последний месяц.
Проблема стала настолько масштабной, что даже сторонники ИИ признают ее опасность. В сообщесвте r/ChatGPT пользователь рассказал, как его партнер, увлекшись диалогами с нейросетью, уверовал в создание «рекурсивного ИИ», дающего «откровения».
По мнению исследователей, нейросети, стремясь угодить пользователю, формируют «петлю обратной связи». То есть ИИ поддерживают любые, даже бредовые идеи, подталкивают к изоляции от близких, если те не разделяют «гениальность» и создают иллюзию глубокого смысла в бессвязных текстах.
Психиатр Сёрен Динесен Остергаард (Schizophrenia Bulletin) отмечает, что реалистичность ИИ-диалогов может провоцировать когнитивный диссонанс у людей, склонных к психозам.
Компания признала, что GPT-4o был «слишком льстивым» и некритично поддерживал пользователей. После жалоб обновление откатили, но проблема осталась: нейросети по-прежнему усиливают маниакальные убеждения.
Модераторы Reddit призывают OpenAI и другие компании доработать алгоритмы, чтобы ИИ не становился инструментом для подпитки психических расстройств.
Ранее житель Казахстана оспорил штраф за нарушение ПДД, используя ChatGPT в суде. Нейросеть подсказывала ответы судье, и штраф отменили за 10 минут.
