В США готовится новый правительственный указ, который может заставить технологические компании обеспечивать политическую нейтральность своих систем ИИ. По данным Wall Street Journal, речь идет о компаниях, работающих по федеральным контрактам. Цель инициативы — убрать из моделей искусственного интеллекта политическую предвзятость, которую власти называют “woke”.
С инициативой выступают советники Дональда Трампа — Дэвид Сакс и Срирам Кришнан. Этот шаг рассматривается как часть широкой кампании по отмене программ в поддержку разнообразия в госструктурах и частных компаниях.
Возможное введение такого указа повлияет на всю технологическую сферу, так как большинство крупных компаний претендуют на государственные заказы. Недавно Пентагон объявил о сотрудничестве с ведущими провайдерами ИИ, что подчеркивает важность решения.
Инициатива связана с критикой со стороны консерваторов, которые считают, что современные ИИ-системы предвзяты. Недавно модель Google Gemini оказалась в центре скандала, когда генерировала изображения нацистских солдат разных национальностей. Исследование Дэвида Розадо показало, что многие чат-боты, включая Grok, склоняются к левым взглядам в политике.
Розадо протестировал 24 крупных языковых модели по 11 тестам на политические взгляды. Модели с дополнительной донастройкой чаще классифицировались как левые. Базовые модели без доработок выглядели нейтральными, но давали несогласованные ответы. По словам Розадо, “политическая перепрошивка требует не так много усилий, но доказательств намеренной манипуляции со стороны компаний нет”.
Анти-“woke AI” указ — часть крупного пакета новых правил по ИИ, которые Трамп объявит на следующей неделе. Параллельно рассматриваются идеи увеличить экспорт микросхем и строить больше дата-центров, чтобы догнать Китай в технологической гонке. Также администрация США призывает союзников выбирать американские разработки ИИ вместо китайских аналогов.
Приказ о нейтральности ИИ может вызвать споры, поскольку он способен создать преимущество для отдельных компаний. Например, компания xAI Илона Маска, продвигающая себя как “анти-woke” альтернатива, может оказаться в выгодном положении. Однако недавно xAI также подверглась критике — чат-бот Grok распространял антисемитскую пропаганду Гитлера.
