Разговоры ИИ-компаний о сверхразумных системах как о неизбежном этапе развития всё чаще сталкиваются с вопросами безопасности. Недавние инциденты, включая взлом OpenAI на Hugging Face, показали возможные риски запуска систем, которые по своим возможностям могут превзойти человека.
Именно этому посвящён новый выпуск подкаста TechCrunch Equity. Ведущая Ребекка Беллан поговорила с исследователем ИИ и предпринимателем Коннором Лихи, который сейчас занимает пост исполнительного директора американского подразделения некоммерческой организации ControlAI.
Организация выступает за гораздо более жёсткий подход к безопасности ИИ. По словам Лихи, компании следует полностью остановить разработку сверхразумного ИИ, а не пытаться снизить риски только за счёт выравнивания поведения моделей и мер сдерживания.
Лихи объяснил, почему, по его мнению, риски стали слишком высокими для контроля прежними методами. Он также заявил, что идеи, которые ещё полгода назад казались маловероятными, теперь получают поддержку в виде новой волны законодательных инициатив.
Источник: TechCrunch.
