OpenAI ищет нового руководителя по вопросам безопасности. Эта должность связана с рисками для безопасности, которые создают современные модели искусственного интеллекта.
Генеральный директор OpenAI Сэм Альтман привел в пример влияние ИИ на психическое здоровье, которое уже хорошо задокументировано. Он также отметил, что модели сегодня настолько продвинуты в кибербезопасности, что могут сами находить критические уязвимости.
Компания отмечает, что сейчас это очень важная роль, потому что технологии быстро улучшаются и могут приносить много пользы, но появляются и проблемы.
Одна из задач нового руководителя — обеспечить использование новых возможностей ИИ для защиты информации, не давая при этом хакерам использовать эти же технологии для атак. В обязанности также входит работа с рисками, связанными с распространением биологических знаний с помощью ИИ и системами самостоятельного обучения.
Ранее OpenAI критиковали, в том числе бывшие сотрудники, за то, что компания ставила запуск продуктов выше безопасности моделей. За последнее время организацию покинули многие специалисты по безопасности.
