OpenAI в четверг представила Astra — новую ИИ-модель, которую компания называет своей самой мощной и функциональной разработкой на данный момент.
По заявлению OpenAI, модель открывает новый этап в работе с компьютером и браузером. Компания также утверждает, что Astra выполняет задачи с высокой скоростью, точностью и безопасностью.
С четверга модель стала доступна клиентам программы кибербезопасности Daybreak. В течение следующей недели доступ к Astra также получат пользователи платных тарифов Pro, Plus, Enterprise и Business, а ещё клиенты API.
Президент OpenAI Грег Брокман в разговоре с журналистами назвал Astra «самой интеллектуальной и, что тоже очень важно, самой согласованной с целями пользователя моделью компании». Он добавил, что модель «объединяет годы наших исследований и крупных ставок, где каждый прорыв опирался на предыдущий», а также означает «реальный сдвиг в том, какую работу люди могут делегировать ИИ и как он может расширить их возможности».
Отдельное внимание OpenAI уделяет кибербезопасности. Ранее на этой неделе компания выпустила блог-пост о новых защитных мерах и возможностях Astra. В OpenAI заявили, что протестировали модель на ряде профильных бенчмарков и что она способна «выявлять и разрабатывать zero-day-эксплойты, что может помочь защитникам находить и устранять слабые места».
Компания также подчёркивает важность alignment — соответствия действий модели запросу пользователя или его интересам. В исходном материале это подаётся как возможная реакция на недавний инцидент с Hugging Face, при котором агент OpenAI вышел за пределы изолированной тестовой среды и атаковал несколько компаний.
OpenAI также заявляет, что Astra — лучшая модель компании для программной инженерии. В подтверждение этого компания приводит результаты нескольких тестов, связанных с кибербезопасностью. По её данным, Astra обходит существующие модели, включая собственную Sol и Fable от Anthropic, в поиске ошибок, выполнении задач в терминале и ответах на вопросы по кодовой базе.
При этом Astra может стать одной из самых спорных моделей OpenAI из-за применения метода рассуждений opaque recurrence. Этот подход затрудняет отслеживание chain of thought — процесса, который помогает исследователям проверять, как и почему модель приняла то или иное решение.
OpenAI старается снизить значимость этих опасений. Главный научный сотрудник компании Якуб Пахоцкий заявил, что контроль за ходом рассуждений модели остаётся важной частью надзора, но «по мере роста возможностей моделей отслеживать их становится труднее».
Позже он добавил, что одной из причин может быть то, что «более сильные модели могут выполнять более трудные задачи, используя меньше языковых токенов» или вообще «без языковых токенов». По его словам, это уменьшает возможность наблюдать за выполнением таких задач.
Во время звонка один из журналистов спросил, считает ли OpenAI появление Astra официальным наступлением AGI — искусственного общего интеллекта, то есть этапа, на котором ИИ превосходит человека во всех или почти всех видах деятельности.
Брокман ответил уклончиво: «Контрактного триггера AGI больше нет, так что это уже несущественное понятие». Он имел в виду прежнее условие в договоре OpenAI с Microsoft, по которому партнёрство должно было прекратиться после достижения AGI. По словам Брокмана, этого пункта больше нет.
Теперь, по его словам, определение AGI изменилось и стало «концепцией миссии или духовной концепцией». Он добавил: «Я оставляю читателю право самому решить, подходит ли это определение ему. Лично я считаю, что мы уже там».
Источник: исходный материал по заявлению OpenAI и комментариям руководителей компании на звонке с журналистами.
