Глава Instagram Адам Моссери рассказал, как искусственный интеллект изменит восприятие контента на платформе. Он заявил, что аутентичность скоро станет легко воспроизводимой благодаря новым инструментам. Такой же прогноз в 2017 году делал один из создателей deepfake Иэн Гудфеллоу, который тогда работал в Google.
Моссери объясняет, что то, что раньше делало контент уникальным — искренность, индивидуальность, настоящие связи, — теперь могут повторить все, у кого есть нужные технологии. Качественные deepfake и ИИ-контент уже сложно отличить от настоящих фото и видео: «Ленты начали наполняться синтетическим всем», — пишет Моссери.
Сейчас многие обсуждают «ИИ-жвачку» — некачественные изображения, но хорошие ИИ-материалы уже выглядят почти как реальные, хотя пока часто кажутся слишком «гладкими». По словам Моссери, со временем это ощущение исчезнет, а разницу перестанут замечать совсем.
Он считает, что идеализированные снимки уходят в прошлое. Сейчас пользователи обмениваются нечеткими фото и дрожащими видео в сторис и личных сообщениях. «Когда всё можно сделать идеальным, несовершенство становится маркером подлинности», — объясняет Моссери.
Камеры, по мнению Моссери, делали упор не туда: больше мегапикселей, больше обработки — всё ради эффекта профессиональной съемки. Такой контент стал скучным и слишком простым для создания.
«Планка сместится с “можешь ли ты что-то создать?” на “можешь ли ты сделать то, что можешь создать только ты?” — и это новый фильтр», — отмечает Моссери.
Он предупреждает: основной вызов — изменить подход людей. Не стоит верить увиденному автоматически, необходимо быть скептичнее и обращать больше внимания на того, кто публикует контент и зачем. «Это будет крайне неудобно для всех нас», — пишет Моссери. Он вспоминает книгу Малкольма Гладуэлла «Говорить с незнакомцами», где говорится: люди по привычке верят своим глазам, ведь обман встречается реже, чем выигрыш от доверия.
Фото и видео больше не могут быть полностью достоверными, убежден Моссери. Приспособиться к этому изменению людям потребуется годы.
Гудфеллоу ещё в 2017 году предсказывал: доверие к мультимедиа — временное явление. Тогда он говорил, что «это скорее историческая случайность, что так долго можно было опираться на видео как на подтверждение событий».
Моссери считает, что платформам будет трудно — они будут пытаться маркировать ИИ-контент, но по мере развития технологий отстанут от генераторов. Предлагается другой вариант: оснащать оригинальные материалы цифровым отпечатком. К примеру, камеры смогут ставить криптографическую подпись при создании фото, чтобы подтвердить его подлинность. Но такие метки — только часть решения.
Моссери описал план Instagram: создавать лучшие инструменты для творчества, маркировать материалы ИИ, подтверждать подлинность, выделять сигналы достоверности аккаунтов и ранжировать оригинальность выше копий.
*Meta — запрещенная в РФ организация.
