Сооснователь Anthropic и руководитель по политике Джек Кларк поделился взглядом на то, как лидеры Кремниевой долины думают о будущем искусственного интеллекта.
Чтобы объяснить момент, когда ИИ начинает осознавать происходящее, Кларк использует необычное сравнение: «Это как если бы вы производили молотки на фабрике и вдруг один молоток сказал: “Я молоток, как интересно!” Это очень необычно!» По словам Кларка, такие неожиданные моменты появляются, когда увеличить вычислительные ресурсы, объем данных и размер модели до определенного уровня и открываются возможности, которые никто специально не закладывал.
Он отмечает: «Эта технология скорее похожа на то, что выращивают, а не производят». Кларк объясняет: «Вы берете правильные начальные условия, устанавливаете основу, и вырастает нечто сложное, что вы не могли сами спроектировать.»
Кларк не скрывает опасений: «Мы выращиваем крайне мощные системы, которые мы не до конца понимаем». Он подчеркивает: «И еще, чтобы повысить ставки, в этой игре вы гарантированно проиграете, если не поверите, что существо реально. Ваш единственный шанс — увидеть его таким, какое оно есть».
Мнение Кларка разделяют не все. Многие эксперты скептически относятся к тому, что большие языковые модели могут хоть как-то приблизиться к настоящему самосознанию. Пока Кларк предупреждает о появлении неожиданных способностей, часть исследователей уверена: эти системы, насколько бы сложными они ни были, остаются просто продвинутыми инструментами для обработки данных, а не разумными существами.
До Anthropic Кларк работал директором по политике в OpenAI, а ранее освещал технологии и искусственный интеллект в изданиях Bloomberg BusinessWeek и The Register.
