Марк Цукерберг в понедельник опубликовал манифест на 6 500 слов о персональном ИИ и системах «personal superintelligence», которые разрабатывает Meta AI. Как отмечает автор исходного материала, часть этих идей уже появлялась в The Wall Street Journal несколько месяцев назад и в выступлениях Цукерберга на звонках с инвесторами, но нынешний текст стал самым подробным изложением его позиции.
В эссе Цукерберг объясняет, почему лично считает ИИ важной технологией для общества. При этом, по оценке автора, текст одновременно рисует позитивный сценарий «избыточного сверхинтеллекта» и постоянно напоминает о рисках, которые такая технология может принести.
Автор материала пишет, что общественное отношение к ИИ во многом остается настороженным. На этом фоне, по его мнению, выступления Цукерберга не помогают индустрии вернуть доверие, а, напротив, показывают, почему это доверие было утрачено.
В тексте приводится и более широкий фон вокруг Meta и Facebook. По данным недавнего опроса, 64% американцев считают, что социальные сети нанесли вред демократии, и примерно такая же доля выступает за более жесткое регулирование. Кроме того, в выходные суд оштрафовал компанию на 567 млн долларов за вред детям, говорится в статье.
По мнению автора, последствия эпохи соцсетей стали одной из причин нынешней тревоги вокруг общественного влияния ИИ. Он считает, что пользователи не доверяют руководителям технологических компаний в вопросе безопасного вывода новых технологий на рынок, и эссе Цукерберга это недоверие не снимает.
Автор также критикует общие формулировки из манифеста. В частности, Цукерберг пишет: «As everyone gains more powerful tools, each person will become more capable of shaping the future, not less… People and institutions with competing interests naturally check and balance each other to lead towards positive outcomes. The best and most realistic path to building a positive AI future is by delivering superintelligence to everyone.»
По оценке автора, такие заявления подаются как философский вывод, хотя фактически речь идет о конкретном продукте Meta под названием «personal intelligence». Он считает, что для скептически настроенной аудитории это может выглядеть как попытка заранее оправдать возможные негативные последствия.
Отдельно в статье разбираются примеры, которые Цукерберг приводит для сферы образования. Он пишет: «Everyone will have a personalized tutor and coach with a PhD in every subject and unlimited patience to help you learn anything you want.» Далее он добавляет, что студенты получат дополнительную помощь, а взрослые — интеллектуального помощника для освоения новых рабочих навыков, языков и хобби.
Автор возражает, что такой продукт уже существует в виде потребительских чат-ботов, включая ChatGPT, Claude и Gemini. Он признает, что эти инструменты полезны для обучения, но указывает и на другой сценарий: их часто используют, чтобы не учиться, а для выполнения домашних заданий и написания эссе. При этом, как сказано в материале, у преподавателей нет рабочего механизма маркировки, который позволял бы уверенно отличать тексты, созданные ИИ.
Этот пример автор называет относительно малозначительным по сравнению с другими рисками ИИ, но подчеркивает, что проблема уже существует. По его мнению, технологии, задуманные во благо, могут давать побочные эффекты, а нежелание одного из самых влиятельных людей в технологическом бизнесе признать это лишь усиливает тревогу.
Еще один пример из эссе касается юридической системы. Цукерберг предлагает мысленный эксперимент: «imagine only one person had a superintelligent lawyer». По его словам, это дало бы нечестное преимущество в суде, тогда как доступ всех к «сверхинтеллектуальному юристу» сделал бы правосудие более справедливым и эффективным.
Автор исходного текста считает и этот пример спорным. Он допускает, что юридический ИИ может расширить доступ к правовой помощи, но также может увеличить бюрократическую нагрузку или спровоцировать волну злоупотреблений, когда систему начнут перегружать исками, сравнимыми со спамом.
Отдельный блок посвящен бизнес-модели Meta. Цукерберг пишет: «Everyone will have free or affordable access to these tools… We will offer free versions that will be accessible to billions of people.» Для тех, кто захочет платить за большее количество вычислений, он описывает «dynamic auction mechanism», который, по его словам, должен обеспечивать минимально возможную цену и одновременно распределять мощности туда, где пользователи видят наибольшую ценность.
Автор соглашается, что вопрос доступа действительно важен и модель freemium может расширить охват по сравнению с полной предоплатой вычислений. Он также отмечает, что рынки спотовых вычислений уже существуют. Однако, по его словам, потребительские ИИ-сервисы обычно скрывают от пользователей текущую цену вычислений, потому что резкие скачки стоимости дают плохой пользовательский опыт, особенно если сервис нужен для работы.
В финале статьи автор пишет, что другие руководители ИИ-компаний, в частности Сэм Альтман и Дарио Амодеи, обычно лучше объясняют такие темы публично. По его оценке, они прямо говорят о рисках, подчеркивают меры предосторожности и пытаются убедить аудиторию, что заслуживают доверия.
При этом автор добавляет, что одних коммуникаций недостаточно: защитные меры иногда не срабатывают, и это делает риски ИИ особенно заметными. Но без работы над доверием, считает он, индустрии будет трудно переживать такие сбои.
Источник: The Verge, The Wall Street Journal.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.
