Гражданская организация The Midas Project обвинила OpenAI в двойных стандартах в судебном споре с Илоном Маском. Компания подала ходатайство об исключении показаний профессора Стюарта Рассела, одного из ведущих исследователей безопасности ИИ, назвав его «известным алармистом в сфере ИИ», который «сделал карьеру на публичных лекциях о том, что ИИ может уничтожить человечество».
В материалах суда позиция Рассела описывается как «дистопическая», «спекулятивная» и «паникёрская. При этом именно такие сценарии угроз OpenAI много лет использовала в публичной риторике — от предупреждений о массовой потере рабочих мест и манипуляциях общественным мнением до апелляций к риску глобальной катастрофы.
The Midas Project обращает внимание, что в 2023 году гендиректор OpenAI Сэм Альтман подписал вместе со Стюартом Расселом декларацию о том, что риск вымирания из‑за ИИ должен стать глобальным приоритетом. Ещё в 2015 году Альтман заявлял, что ИИ «вероятно, скорее всего, в каком‑то смысле приведёт к концу света».
Адвокаты OpenAI также утверждают, что опасения по поводу «гонки ИИ» в ущерб безопасности не относятся к сути дела. Однако, как напоминает The Midas Project, в уставе самой OpenAI прямо говорится о риске, что завершающие этапы разработки искусственного общего интеллекта (AGI) могут превратиться в гонку без достаточных мер безопасности.
По данным The Midas Project, текущая практика OpenAI уже отражает такой сценарий. Тестирование безопасности GPT‑4o проходило в условиях жёстких сроков, спешка затронула и новые модели. Компания сократила часть сотрудников в командах безопасности, а несколько известных исследователей ушли.
The Midas Project заявляет, что в суде OpenAI использует удобные в конкретный момент аргументы, которые противоречат её прежним заявлениям о рисках ИИ. У организаций уже был конфликт: ранее OpenAI направила в адрес The Midas Project широкий запрос документов в рамках спора с Маском.
По словам основателя The Midas Project Тайлерa Джонстона, компания потребовала представить всю переписку с журналистами, законодателями, бывшими сотрудниками OpenAI и другими НКО, хотя сама организация не являлась стороной иска Маска.
Джонстон тогда предположил, что это был целенаправленный шаг, совпавший по времени с рассмотрением калифорнийскими и делавэрскими регуляторами вопроса о преобразовании OpenAI в коммерческую компанию с оценкой до 500 млрд долларов. The Midas Project ранее публично критиковалa эту реструктуризацию.
Источник: The Decoder
