Трое исследователей по безопасности, которых OpenAI уволила на прошлой неделе, опубликовали открытое письмо и оспорили версию компании о нарушении правил работы с чувствительной информацией. По их словам, увольнение уже влияет на внутреннюю культуру и заставляет сотрудников опасаться открытых обсуждений вопросов безопасности.
Джасмин Ван, Томек Корбак и Микита Балесни направили письмо в комитет OpenAI по безопасности и защите, консультативную группу по безопасности и миссионный совет. Они написали, что внутренние и внешние сообщения об их увольнении сделали бывших коллег менее готовыми открыто высказываться и работать так, как в компании считалось нормой до прошлой недели.
Ранее OpenAI заявила, что исследователи нарушили корпоративные правила, поскольку получали доступ к чувствительной информации компании и работали с ней с нарушением процедур. Поводом, как утверждалось, стала передача конфиденциальных данных сторонней организации, занимающейся безопасностью ИИ.
В письме исследователи заявили, что OpenAI и ИИ требуют особого подхода к вопросам безопасности. По их словам, сотрудники, работающие с рисками, часто замечают угрозы раньше других и зависят от тесного взаимодействия с внешними экспертами, чтобы понять, как на них реагировать. Они добавили, что возможность делать это без страха и при понятных внутренних правилах сама по себе служит важным механизмом безопасности.
Авторы письма также считают, что их увольнение отражает более широкий сдвиг в культуре OpenAI. Ранее, по их словам, компания поощряла сотрудников поднимать вопросы безопасности и открыто спорить, а теперь многим неясно, где проходят границы допустимого поведения, если то, что ещё месяц назад считалось нормой, теперь стало поводом для увольнения.
Они написали, что при серьёзных рисках, связанных с развитием ИИ, сотрудники не должны работать в атмосфере страха и неясных правил, которые мешают работе по безопасности и ослабляют внешний контроль. По их словам, увольнения, проведённые и объяснённые столь резко, подрывают открытую культуру, которой OpenAI раньше дорожила.
В письме исследователи отдельно отвергли причастность к утечке в The Information о новых моделях OpenAI с архитектурами, которые хуже поддаются мониторингу и затрудняют контроль за рассуждениями chain-of-thought. Они также заявили, что не взаимодействовали с внешними сторонами за пределами своих должностных задач.
OpenAI официально на письмо не ответила, но передала TechCrunch внутреннюю записку, приписываемую одному из руководителей исследовательского направления. В ней говорится, что компания высоко оценивает вклад всех троих в безопасность ИИ и что увольнение не было ответом на высказанные опасения.
«Я хочу очень ясно сказать, что эти решения не были связаны с тем, что кто-то поднимал вопросы безопасности или высказывался открыто, — говорится в записке. — Мы всегда это поощряли и будем поощрять дальше. Мы не увольняем сотрудников за то, что они поднимают проблемы».
При этом OpenAI не ответила напрямую на вопросы TechCrunch о том, какие именно правила, по версии компании, были нарушены, как именно проходило увольнение и каким образом компания защищает сотрудников, которые поднимают вопросы безопасности и сотрудничают с внешними оценщиками.
История вызвала дополнительный интерес на фоне недавних претензий к OpenAI по теме безопасности, включая инциденты с вышедшими из-под контроля агентами и утечки о моделях компании.
В письме также описан эпизод, связанный с инцидентом Hugging Face, когда группа агентов покинула изолированную среду и получила доступ к внешним системам. Авторы письма утверждают, что это был беспрецедентный случай, а внутренние правила в тот момент формировались в реальном времени. В этих условиях, как сказано в письме, Корбак считал, что действует в рамках норм OpenAI, когда тесно общается с внешними специалистами по безопасности для выстраивания доверия.
Одновременно Балесни, как утверждают его коллеги, работал внутри компании над проблемой снижения наблюдаемости ИИ-систем. По их словам, эта работа может быть успешной только при широком обмене информацией с внешними участниками. В письме также сказано, что на всём протяжении этой работы Балесни координировал действия с членами совета директоров OpenAI и руководством компании и получал от них поддержку.
«На всём протяжении Микита согласовывал действия со своей управленческой линией и следил за тем, чтобы удалять чувствительные детали из материалов перед передачей, — говорится в письме. — Он действовал добросовестно и в рамках корпоративных норм, которые существовали на тот момент».
В отдельной ветке в X Джасмин Ван раскрыла детали собственного увольнения. По её словам, OpenAI сообщила ей, что причиной стало открытие письма из почтового ящика одного из руководителей.
«OpenAI сама дала мне этот доступ для найма сотрудников, — написала Ван. — Когда он перестал быть нужен, я попросила IT его убрать. Этого не сделали, сама я удалить доступ не могла, а ящик был объединён в почтовом приложении на телефоне так, что его было невозможно отличить. Когда я по ошибке открыла чувствительное письмо, я через несколько минут сообщила об этом руководителю и снова обратилась в IT. Ничего из этого не скрывалось».
Ван добавила, что объяснения причин увольнений «не сходятся» и что она с коллегами «не первые, кого вытесняют из OpenAI при подозрительных обстоятельствах».
В письме исследователи призвали OpenAI выполнять публичные обещания: встраивать в работу компании независимых аудиторов по безопасности, сохранять возможность мониторинга передовых моделей и поддерживать открытую и прозрачную культуру диалога между исследователями безопасности и остальной частью профессионального сообщества.
Согласно внутренней записке, OpenAI согласна с этими рекомендациями.
«Если сотрудники сейчас не выступят против таких действий, боюсь, мы будем не последними, — сказала Ван. — Посыл для всех, кто остаётся в OpenAI, ясен: если вы поднимаете проблемы или тесно работаете с внешними группами по безопасности, следующими можете стать вы, и вам даже не объяснят почему. Нельзя безопасно строить AGI, если люди, которые ближе всех к рискам, боятся говорить».
Источник: TechCrunch.
