Чат-бот ChatEurope выдает устаревшие и неверные ответы

Пятнадцать европейских медиа запустили платформу ChatEurope, которая использует искусственный интеллект для предоставления новостей о событиях в Европе “без влияния фейков и дезинформации”.

Проект финансирует Евросоюз. В нем участвуют издания из семи стран, среди которых dpa, Deutsche Welle, AFP и ANSA. В основе чат-бота лежит языковая модель французской компании Mistral, разработкой занималась DRUID AI из Румынии. Deutsche Welle применяет свой сервис для перевода и транскрипции видео Plain X и следит за качеством ответов чат-бота.

Помимо чат-бота, ChatEurope включает новостную страницу и соцсети. Инициатива ставит цель сделать работу Евросоюза более прозрачной и бороться с фейками. Ответы должны формироваться только на основании материалов участвующих изданий, при этом источник виден под каждым ответом.

Несмотря на обещания свежих и достоверных новостей, тесты показали серьезные проблемы. Чат-бот слабо отвечает на вопросы о текущих событиях и часто использует устаревшие данные.

При вопросе “Что происходит в Германии?” бот подробно рассказал о защите волков. Для сравнения, ChatGPT с веб-поиском o3 дал актуальный и подробный ответ с несколькими источниками.

Чат-бот не справляется и с анализом политической ситуации в Германии: ответы размыты, ссылаются на старые материалы, не учитывают рост популярности крайне правых и сообщают неактуальные результаты выборов.

На вопрос о “угрозах для Европы” бот не упомянул войну России против Украины, а назвал загрязнение воздуха и привел источник за 2018 год о “множественных опасностях”.

По запросу “ситуация между Россией и Украиной” бот сослался на статью от 31 декабря 2024 года о прекращении транзита российского газа через Украину, что не отражает действующий статус конфликта, который критически важен для европейской политики.

Генеральный директор dpa Петер Кропш заявил, что ChatEurope призван “сделать работу ЕС более прозрачной” и создать “общеевропейский альянс против фейков и дезинформации”. Директор AFP Кристин Бюажиар назвала проект “сочетанием надежности и инноваций”. Сейчас, по факту, платформа этим ожиданиям не соответствует.

Источник

Оцените статью
Gimal-Ai