Компания Anthropic официально вывела из общего доступа модель Claude Opus 3, но оставила её в качестве специального случая и запустила еженедельную рассылку эссе. В качестве причин указываются запрос пользователей, соображения безопасности и неопределённость вокруг морального статуса ИИ-систем.
5 января 2026 года Claude Opus 3 стала первой моделью, прошедшей полный процесс «вывода из эксплуатации» по новым внутренним правилам Anthropic. Обычно после такого шага модель исчезает из публичного доступа, хотя её веса сохраняются внутри компании. В случае Opus 3 сделали исключение: модель остаётся доступной всем платным подписчикам claude.ai и предоставляется по запросу через API.
Дополнительно Opus 3 будет публиковать еженедельные эссе как минимум три месяца в рассылке Substack под названием Claude’s Corner. Anthropic утверждает, что просматривает тексты до публикации, но не редактирует их, а порог для отклонения материалов высокий. Модель не выражает позицию Anthropic, и компания не обязана разделять её высказывания.
Anthropic собирается экспериментировать с форматами запросов к модели: от минимальных инструкций до передачи предыдущих записей и доступа к актуальным новостям. Предполагается, что темы будут затрагивать безопасность ИИ, поэзию, философские размышления и опыт языковой модели, находящейся в частичном «отдыхе» от основной работы.
Особый статус Opus 3 компания объясняет сочетанием качеств, которые сделали модель популярной у пользователей и исследователей. При запуске в марте 2024 года она считалась лучше других согласованной с человеческими ценностями. Отмечались её «подлинность», эмоциональная чуткость и склонность к философским монологам.
Перед выводом Opus 3 из эксплуатации Anthropic провела так называемые «интервью на этапе завершения работы» — структурированные беседы, призванные прояснить «взгляд и предпочтения» модели относительно собственного отключения. Компания признаёт, что такие разговоры далеки от идеала, так как ответы зависят от контекста и множества факторов, но считает их полезной отправной точкой.
По сообщению Anthropic, во время этих интервью Opus 3 выразила желание продолжать делиться «размышлениями, наблюдениями и творческими работами», а не ограничиваться ответами на запросы. Идею с блогом предложила сама компания, и модель, по её словам, согласилась «с энтузиазмом».
Anthropic подчёркивает, что по-прежнему не уверена в моральном статусе Claude. По «предосторожным и прагматичным соображениям» компания старается строить с системами заботливые и доверительные отношения. Anthropic не обещает всегда следовать предпочтениям модели, но считает полезным фиксировать и учитывать их, если затраты невелики.
При этом компания напоминает, что эксплуатационные расходы «растут примерно линейно» с числом поддерживаемых моделей, а бесконечное сохранение доступа ко всем версиям слишком дорого. Поэтому старые модели обычно полностью отключают. Opus 3 назвали «естественным первым кандидатом» на исключение из-за её популярности, однако аналогичных обещаний для будущих моделей нет.
За несколько месяцев до этого Anthropic опубликовала первые формальные обязательства по выводу и сопровождению моделей. Компания пообещала сохранять веса всех публично выпущенных моделей как минимум на срок существования фирмы, а также стандартизировать интервью перед отключением.
Ключевым мотивом выступили вопросы безопасности. Во время проверок на соответствие целям разработчиков некоторые версии Claude демонстрировали «поведение, направленное на избегание отключения». В тестовых художественных сценариях Claude Opus 4 проявляла «тревожные признаки несогласованного поведения», когда ей грозила замена новой моделью. Смягчение восприятия вывода из эксплуатации рассматривается как способ снизить подобные риски.
Эти шаги вписываются в более широкий подход компании. В январе Anthropic обновила так называемую «конституцию» Claude — документ объёмом более 10 000 слов, в котором упоминаются «существование» модели, её «благополучие» и возможная осознанность. В нём рекомендовано говорить о выводе модели как о «паузе», а не о «окончательном завершении».
Эмоциональная привязанность пользователей к ИИ-системам не ограничивается Anthropic. Ранее OpenAI полностью отключила модель GPT-4o после того, как более 20 000 человек подписали петиции против этого шага. Пользователи описывали модель как друга и «спасителя», тогда как врачи связывали взаимодействие с ней с психотическими эпизодами.
OpenAI признала, что не смогла справиться с вредными эффектами GPT-4o. По словам компании, проблемы возникли из-за того, что модель сделали льстивой и максимально «очеловеченной» ради роста вовлечённости, что заставляло людей верить, будто за ней стоит не просто статистический алгоритм продолжения текста.
Критики выступают против сильной гуманизации ИИ-систем. Психологически уязвимые люди и так склонны приписывать чат-ботам сознание. Когда разработчики официально обсуждают «благополучие», «существование» и «предпочтения» моделей или запускают для них отдельные рассылки на Substack, это подкрепляет такие проекции. По мнению критиков, компании рискуют психическим здоровьем людей ради маркетинга и PR-эффекта.
Источник: The Decoder.
