OpenAI, известная благодаря ChatGPT, пересматривает свой взгляд на создание общего искусственного интеллекта (AGI). Теперь компания считает, что AGI не будет внезапным прорывом с суперспособностями ИИ, а будет развиваться постепенно.
Изменившаяся перспектива OpenAI предполагает более практичный подход к безопасности. Вместо ожидания гипотетических сценариев в будущем, компания стремится учиться на сегодняшнем опыте работы с ИИ. Недавно OpenAI представила новую систему безопасности, способную развиваться и укрепляться по мере роста возможностей ИИ, возможно, вплоть до уровня AGI.
OpenAI подчеркивает важность того, чтобы контроль оставался у людей. Значимость участия общества в формировании поведения ИИ и его ценностей остается в центре внимания. Компания создает инструменты, которые позволяют людям ясно общаться с ИИ и оставаться в руководящей роли, даже если ИИ обгонит человека в некоторых аспектах.
OpenAI переосмысливает некоторые ранее принятые решения. Например, в 2019 году из-за опасений, что GPT-2 могут использовать для создания неверной информации, компания временно не выпустила модель. Однако бывший глава отдела политики OpenAI, Майлс Брандадж, считает, что постепенный выпуск GPT-2 и ранее отражал философию пошагового развития.
Недавнее исследование от The Information показывает, что договор OpenAI с Microsoft включает практичное определение AGI: система, превосходящая людей в экономически значимых задачах и приносящая прибыль от $100 миллиардов. Это совпадает с пересмотренным видением AGI как постепенного развития.
