В кафе и ресторанах всё чаще появляются меню с изображениями, созданными генеративным ИИ. Такие картинки нередко выглядят слишком гладкими, симметричными и «правильными», из-за чего вызывают у посетителей ощущение, что с изображением что-то не так, пишет TechCrunch.
Иногда искусственное происхождение заметно сразу. В других случаях картинка кажется обычной, и неестественность становится видна только при более внимательном взгляде. CTO Reality Defender Алекс Лайл сравнил такой эффект с попыткой «инопланетянина сделать пиццу без понимания базовых принципов».
По словам Лайла, причина связана с тем, как обучают языковые и диффузионные модели. Такие системы, включая ChatGPT и Midjourney, обучаются на больших массивах данных и затем ищут закономерности, чтобы предсказать, какой результат нужен пользователю по запросу вроде «сделай меню для бургерной».
Лайл отметил, что многие такие изображения напоминают меню сетевых ресторанов середины 2010-х. «Многое из этого похоже на меню Chili’s из 2015 года, и на то есть причина. Именно из такого корпуса работ модели брали свои функции», — сказал он.
В материале отмечается, что новые данные для обучения имеют высокую ценность для компаний, создающих ИИ-модели. TechCrunch напоминает, что Amazon, по данным прежних публикаций, использовала редкие книги для сканирования и пополнения обучающих наборов данных, а затем уничтожала эти экземпляры после оцифровки.
При этом часть контента, созданного ИИ, неизбежно попадает обратно в крупные наборы данных. Если модель начинает слишком часто обучаться на собственных результатах, возникает риск «коллапса модели». Лайл сравнил это с «коровьим бешенством»: когда выходы одной модели снова подаются ей же на вход, со временем система деградирует.
Однако в случае с меню, по его словам, чаще речь идёт о схождении к одному визуальному стилю, а не о полном коллапсе. Это ухудшает качество результатов, но не делает модель бесполезной.
Если пользователь просит сгенерировать меню для фастфуда, модель, вероятно, будет опираться на визуальный стиль Wendy’s, Burger King, McDonald’s и других крупных сетей. Поскольку такие меню и так похожи друг на друга, ИИ повторяет этот стиль, а последующее попадание сгенерированных картинок обратно в обучающие данные ещё сильнее закрепляет однотипный результат.
Директор центра Imagining the Digital Future при Университете Илона Ли Рейни сказал TechCrunch, что наборы данных обычно оптимизируют под «приятность» и отсутствие оскорбительного содержания. По его словам, это ведёт к выравниванию и однообразию. «То, что ИИ умеет делать и в изображениях, и в языке, — это сглаживать края», — сказал он.
Похожий эффект заметен и при многократном редактировании изображения. Пользователь X под именем Labtec показал эксперимент: он создал меню в ChatGPT, а затем 100 раз вносил правки и наблюдал, как еда на картинках всё меньше походила на настоящую. TechCrunch сообщает, что повторил этот эксперимент и получил схожий результат.
«Конечный результат действительно вызывает у меня дискомфорт», — написал Labtec. В статье предполагается, что рестораны сталкиваются с этим же эффектом, когда многократно меняют в ИИ-меню мелкие детали вроде цен или названий блюд, а изображения при каждом редактировании становятся ещё более округлыми и сглаженными.
Рейни добавил, что люди часто на уровне ощущений распознают, когда перед ними изображение, созданное ИИ. По его словам, это одна из причин заметной негативной реакции на использование таких меню в ресторанах.
У этого восприятия есть и научное объяснение. Исследователи Университета Дуйсбург-Эссен в Германии выяснили, что изображения еды, созданные ИИ, могут вызывать эффект «зловещей долины»: картинки, которые выглядят почти как настоящие, вызывают больше отвращения и тревоги, чем явно искусственные изображения.
TechCrunch пишет, что проблема выходит далеко за рамки ресторанных меню. Лайл отметил, что раньше фото и видео считались весомым подтверждением реальности происходящего, в том числе для судебной системы. «Это уже не так. Ситуация изменилась фундаментально — к лучшему или к худшему», — сказал он.
Источник: TechCrunch.
