Глава OpenAI Сэм Альтман предупредил, что из-за удобства мы даём ИИ-агентам слишком много контроля без нужных мер безопасности. Он признался, что сам нарушил собственное правило — не давать Codex полный доступ, но сделал это уже через два часа.
«Меня тревожит, что мощность и удобство этого настолько высоки, а сбои бывают настолько редко, что все будут думать: “Да плевать, все будет нормально”», — сказал Альтман на встрече с разработчиками.
Он объяснил, что даже после скептического старта быстро дал ИИ-агенту полный доступ к своему компьютеру, потому что «агент ведёт себя действительно разумно». Альтман уверен, что так поступают и другие пользователи. Он опасается, что именно удобство заставит людей «уснуть за рулём», игнорируя отсутствие системы безопасности.
Глава OpenAI считает, что по мере того как возможности ИИ растут, могут появляться новые уязвимости или проблемы, которые никто не заметит неделями или месяцами. По его словам, «большой инфраструктуры безопасности» пока не существует, и создание такой системы — хорошая идея для стартапа.
Разработчик OpenAI ранее писал на X, что разрешает ИИ только писать за него код. Он полагает, что вскоре компании начнут делать то же самое и потеряют контроль над своим кодом. Это грозит серьёзными проблемами безопасности, но, по его мнению, эти вопросы можно будет решить.
OpenAI впервые собирается замедлить рост штата. Альтман объясняет: компания хочет добиться большего с меньшим числом людей и не собирается активно нанимать сотрудников, чтобы потом не пришлось объяснять, зачем нужны люди, когда большинство задач может выполнять ИИ. Некоторые отмечают, что Альтман нашёл удобную причину сократить расходы на персонал.
Альтман признал, что GPT-5 уступает GPT-4.5 в задачах, связанных с литературой и редактурой. С введением моделей с логическим мышлением акцент сместился в сторону кода и логики. Однако, по его словам, «будущее за универсальными моделями», и даже модели для кода должны уметь писать элегантно.
