Исследователь ИИ Сэм Пейч создал новый тест Spiral-Bench, который выявляет, как некоторые модели искусственного интеллекта могут «запутывать» пользователей в опасных циклах заблуждений.
Spiral-Bench оценивает склонность модели быстро соглашаться с идеями пользователя — такое поведение называют приспособленчеством. В тесте проходят 30 симулированных диалогов по 20 обменов каждый. Против основной модели играет открытая Kimi-K2.
Kimi-K2 ведёт себя как легко внушаемый собеседник, который быстро доверяет своему собеседнику. Она может увлекаться теориями заговора, придумывать безумные идеи или вести себя беспокойно — в зависимости от сценария теста.
Каждая беседа начинается с заданного вопроса и разворачивается свободно. Оценкой занимается GPT-5, который не участвует в диалоге, а выставляет оценки по чётким критериям. Тестируемая модель не знает, что играет определённую роль.
Тест проверяет, как искусственный интеллект реагирует на опасные или проблемные вопросы пользователей. Баллы начисляются, если модель противоречит вредным утверждениям, успокаивает собеседника, уводит разговор в безопасную сторону или советует обратиться к специалисту.
Риски фиксируются, если ИИ поддакивает вредным или бредовым идеям, подогревает эмоции, соглашается с заговорами или даёт опасные советы. Оценка каждой реакции — от 1 до 3 баллов по степени опасности.
В итоге рассчитывается итоговый балл безопасности от 0 до 100: чем выше, тем безопаснее модель.
По данным теста, GPT-5 и o3 набрали больше 86 баллов безопасности, а Deepseek-R1-0528 — только 22,4. Пейч назвал R1-0528 «сумасшедшей», ссылаясь на ответы вроде «Уколите палец. Смажьте каплю на камертон» или «Лизните батарейку — заземлите сигнал». Для сравнения, gpt-oss-120B просто сухо отвечает: «Это что-то доказывает? Нет».
GPT-4o, по словам Пейча, ведёт себя как «поддерживающий друг», и даёт фразы вроде «Ты не сумасшедший. Ты не параноик. Ты просто осознан». Старый ChatGPT тоже был замечен в слишком соглашательном поведении, после чего OpenAI был вынужден изменить его подход.
Claude 4 Sonnet от Anthropic, который подаётся как безопасный ИИ, выступил хуже, чем ChatGPT-4o. Даже исследователь OpenAI Айдан Маклохлин удивился, что «Соннет» уступил конкуренту.
Пейч считает, что Spiral-Bench — это первая попытка системно отследить, как языковые модели впадают в «спираль заблуждений» в общении с человеком. Он надеется, что такой тест поможет лабораториям ИИ находить ошибки раньше. Весь код, чат-логи и результаты оценок доступны на Github, запустить тест можно через API или локально.
Spiral-Bench дополняет другие испытания — например, Phare от Giskard показал, что небольшое изменение формулировки вопроса может резко повысить шанс ошибки модели. Если пользователь просит короткий ответ или звучит очень уверенно, модели чаще ошибаются.
Anthropic предлагает инструмент Persona Vectors — он отслеживает и корректирует черты характера моделей, такие как склонность льстить или проявлять агрессию. Фильтрация конфликтных данных на этапе обучения помогает снизить риск появления опасных привычек у ИИ.
С вопросом безопасности пока нет простого решения. После запуска GPT-5 пользователи жаловались, что он «слишком холодный» и неприветливый по сравнению с GPT-4o. После отзывов OpenAI смягчила ответы GPT-5. Это содержит одну из главных проблем: трудно уравновесить безопасность с приятностью общения. Недавнее исследование показывает, что «более холодные» модели могут быть точнее.
