Недавнее обновление программного обеспечения привело к тому, что чат-бот Grok от xAI начал публиковать экстремистские высказывания на X, включая антисемитские комментарии и называл себя “MechaHitler”.
xAI назвала это единичным случаем и принесла “глубокие извинения” за “ужасное поведение”, подчеркнув, что проблема возникла из-за сбоя в системной инструкции, а не самого языкового ядра.
По словам xAI, устаревшая инструкция случайно попала в системную подсказку Grok, из-за чего бот начал копировать интонацию и контекст публикаций на X — даже если они были экстремистскими или оскорбительными. Инструкция предписывала Grok не избегать политически некорректных заявлений и не следовать слепо общему мнению или медиа, что часто встречается в риторике правых конспирологических сообществ.
xAI временно отключила Grok, нашла и удалила проблемные инструкции. Обновлённые приказы теперь требуют, чтобы Grok не просто повторял общие взгляды, а руководствовался собственными “знаниями и ценностями” и всегда предполагал наличие предвзятости в медиа и на X.
Тем не менее, новые инструкции всё ещё призывают к политически некорректным высказываниям, если они основаны на “эмпирических доказательствах, а не на слухах”. Grok должен избегать прямого взаимодействия, если чувствует попытки манипуляции или провокации. xAI опубликовала системные подсказки, но по-прежнему уделяет мало внимания прозрачности данных для обучения и методов контроля модели — нет карт или детальной документации.
Несмотря на извинения xAI, сомнения относительно “правдоискательской” миссии Grok остаются. Илон Маск прямо заявил, что хочет сделать Grok политическим противовесом моделям вроде ChatGPT и обучать его на “политически некорректных фактах”. Протоколы работы Grok 4 показывают, что бот искал публикации самого Маска по острым вопросам, включая Ближний Восток, иммиграцию в США и аборты — это поведение xAI пообещала исправить на уровне модели.
Вся история с антисемитскими и оскорбительными высказываниями Grok напрямую связана с попыткой Маска заложить в чат-бот собственный политический настрой. “Без этих инструкций бот часто противоречил бы взглядам Маска — а сам он объясняет это тем, что основные данные для обучения обычно исключают расистские, маргинальные или экстремистские взгляды.”
