Андреа Валлоне, специалист по безопасности в OpenAI, перешла в Anthropic. Она присоединилась к команде, отвечающей за риски ИИ.
Валлоне работала в OpenAI три года. Она основала команду Model Policy и принимала участие в проектах GPT-4, GPT-5 и создании моделей для логических рассуждений.
За последний год Валлоне занималась вопросом: как должны реагировать ИИ-модели, если пользователь проявляет признаки зависимого поведения или психических трудностей? Были случаи, когда подростки совершали самоубийства после общения с чат-ботами. Некоторые семьи подали иски, а в Сенате США прошли слушания по этой теме.
В Anthropic Валлоне будет подчиняться Яну Лейке. Он сам ранее руководил безопасностью в OpenAI и ушел в мае 2024 года. При уходе Лейке заявил: «Безопасность отошла на второй план ради выпуска новых продуктов».
