AI облегчает массовое создание вводящих в заблуждение научных публикаций. Гостья статья профессора Дэвида Комерфорда подчеркивает — для защиты доверия к науке нужно срочно менять систему рецензирования.
Сегодня мало создать статью: ИИ позволяет буквально за часы делать десятки материалов, похожих на настоящие научные работы. Для сравнения, еще несколько лет назад на публикацию уходили месяцы. По данным Scopus и Pubmed, с 2014 по 2021 год в год выходило в среднем 4 статьи с односторонними выводами, а только за первые 10 месяцев 2024 года — уже 190.
Смысл подобных статей в поддержке корпоративных интересов или карьерной выгоды. Речь идет о публикациях, которые подтверждают нужный вывод, например, об отсутствии вреда для продукта или о здоровье, хотя такие результаты часто случайны. Данные анализируются с помощью ИИ, что сказывается на достоверности.
Недавние примеры показывают: корпорации, например фармкомпания Wyeth, заказывали целые исследовательские обзоры у специальных агентств — при этом статьи выходили под фамилиями известных врачей с их согласия, а о работе заказчика читатель не подозревал. В итоге Pfizer, купившая Wyeth, выплатила более миллиарда долларов за вред от препаратов.
Британские власти подталкивают производителей детского питания к поиску новых “доказательств” пользы товаров. Новый регламент требует подкреплять здоровье-утверждения только научными работами, что, по мнению автора, усилит спрос на статьи, “сгенерированные” искусственным интеллектом.
Политика и законы тоже зависят от публикаций. Например, решение Верховного суда США строилось на исследовании, финансируемом сторонниками оружия. Данные этого опроса не раскрыты, проверить их невозможно.
Какие шаги предпринимаются? Появились новые требования: раскрывать все детали исследований, их планы, методы анализа, полный набор данных и код, списки конфликтов интересов и источники финансирования. Также для работ с “одним фактором” используется методика проверки прочности результатов — curve analysis.
В некоторых областях (например, психология) реформы идут быстрее, чем в других. Журналы все чаще выдвигают дополнительные требования к авторам, особенно если они использовали ИИ. Однако индустрия публикаций пока не может справиться с потоком подобных работ, а качество работы рецензентов страдает.
Доверие общества к науке все еще высоко, но быстрый рост числа некачественных публикаций с помощью ИИ этому угрожает. Комерфорд считает, что “мы срочно должны стимулировать глубокое рецензирование, иначе авторитет науки окажется под угрозой.”
