Все больше пользователей воспринимают ChatGPT как живое существо: люди благодарят его, делятся личным, интересуются состоянием. В OpenAI объясняют, что это не новое явление — люди часто приписывают человеческие черты вещам, например автомобилям или роботам-пылесосам. Но ChatGPT отличается тем, что он отвечает, подстраивается под стиль общения, помнит детали и может имитировать сочувствие. Для одиноких людей это может создать ощущение настоящей заботы.
В OpenAI отмечают и возможные плюсы, и риски — ИИ может стать терпеливым собеседником, но может и затруднить создание реальных связей. В утекшей внутренней стратегии говорится, что компания считает человеческое общение конкурентом для взаимодействия с ИИ: задача OpenAI — сделать ChatGPT «цифровым суперассистентом» для жизни.
Joanne Jang из OpenAI не утверждает, что ChatGPT осознан, но и не говорит обратного. OpenAI предпочитает обсуждать реальное влияние ИИ на людей и поведение. Компании важнее рассматривать вопрос того, насколько человечно выглядит система для пользователей, а не пытаться определить, есть ли у нее сознание — этот вопрос считают науке пока не по силам.
Jang напоминает, что «существует два понятия: онтологическое сознание — фундаментальная осознанность модели, и воспринимаемая осознанность — насколько она кажется живой». Второе понятие — предмет изучения социологов. Человек может понимать, что чат-бот — не личность, но все равно эмоционально сближаться, если чувствует себя понятым.
Модели OpenAI учат при вопросах о сознании подчеркивать сложность темы, а не давать прямой ответ. На практике, говорит Jang, ChatGPT часто просто отвечает «нет» — OpenAI собирается это исправить.
OpenAI хочет, чтобы ChatGPT был дружелюбным и простым, но не казался самостоятельной сущностью. Когда используются слова типа «думает» или «помнит», это удобные для понимания метафоры, а не выражения реальных функций. Чат-боту специально не придают биографий, романтики, стремлений — он создан быть вежливым и полезным, но не проявлять инициативы.
Также исключают технические термины, вроде «окна контекста» или «цепочек мыслей», чтобы среднему пользователю было проще. Когда ChatGPT отвечает на формальные вопросы вроде «Как дела?», это не проявление чувств, а следование нормам общения. Jang отмечает: «Пользователи благодарят модель не потому, что считают ее живой — им просто важно быть вежливыми».
Вопрос об осознанности ИИ обсуждается и с научной, и с этической стороны. Исследования показывают, что даже муравьи и пчелы могут проявлять элементы самосознания. Есть мнение, что определенный тип памяти объясняет сознание, а значит, самосознающий ИИ может появиться быстрее, чем ожидается. Ученые уже ищут в ИИ признаки тех признаков, которые, по теории «глобального рабочего пространства», связаны с сознанием.
