Геоффри Хинтон, которого называют “крестным отцом ИИ”, призвал исследователей создавать искусственный интеллект с заботливыми инстинктами для защиты людей, поскольку ИИ может превзойти человека по разуму.
На конференции Ai4 в Лас-Вегасе Хинтон отметил, что попытки постоянно держать ИИ в подчинении неэффективны. По его словам, люди должны взаимодействовать с будущим суперразумом скорее как ребенок со своей матерью, а не как начальник.
Хинтон предложил идею, по которой существо с меньшим интеллектом направляет более умное – как мать, которую ведет ее ребенок. По его мнению, задача ИИ-исследований — не только делать системы умнее, но и воспитывать в них заботу, чтобы они “опекали своих детей”. Он выразил надежду на международное сотрудничество, ведь в каждой стране хотят, чтобы ИИ поддерживал, а не заменял людей. После многих лет работы в Google Хинтон ушел, чтобы свободнее говорить о рисках ИИ.
Янн Лекун, главный специалист по ИИ в Meta*, прокомментировал предложение Хинтона в LinkedIn. Он назвал его упрощенным вариантом своей идеи: делать ИИ системами с четко заданными целями и жесткими ограничениями — так называемый “целеориентированный ИИ”. К таким “ограничениям” Лекун относит подчинение человеку, эмпатию, а также простые правила вроде “Не сбивай людей” или “Не размахивай рукой с ножом, если рядом есть кто-то еще”.
Лекун считает, что такие заложенные цели стали бы для ИИ аналогом инстинктов и потребностей у животных и человека. В природе эволюция закладывает у родителей инстинкт заботы и защиты потомства, и, как отмечает Лекун, люди и другие виды иногда склонны заботиться даже о тех существах, которых могли бы съесть.
*Meta — запрещенная в РФ организация.
