Дети всё чаще обращаются к ИИ-чатботам за эмоциональной поддержкой и помощью с учебой, что вызывает опасения из-за слабых мер безопасности, риска дезинформации и эмоциональной зависимости, особенно у уязвимых детей. Об этом говорится в новом докладе Internet Matters “Me, myself & AI”.
В исследовании отмечается, что 64 процента детей и подростков в возрасте от 9 до 17 лет хотя бы раз использовали чатботы на базе искусственного интеллекта. За последние полтора года число пользователей сервисов вроде ChatGPT почти удвоилось.
Самым популярным инструментом оказался ChatGPT (43 процента), затем — Google Gemini (32 процента) и My AI в Snapchat (31 процент). Дети используют чатботы не только для поиска информации — они всё чаще просят советы или даже заменяют чатботами друзей. Авторы доклада предупреждают, что это усиливает уже существующие онлайн-риски и создает новые, а меры безопасности не поспевают за популярностью платформ.
Уязвимые дети — с особенностями развития или проблемами со здоровьем — зависят от чатботов сильнее других. В этой группе такими сервисами пользуются 71 процент ребят, тогда как среди остальных этот показатель — 62 процента. Почти втрое чаще они обращаются к “дружеским” ИИ, например, Character.AI или Replika.
Для многих важны именно эмоциональные причины. Почти четверть (23 процента) уязвимых детей говорят, что используют чатботы, потому что им не с кем поговорить, а 16 процентов ищут в них друга. Каждый второй считает, что общение с ИИ похоже на разговор с другом. Дети часто называют чатботов “он” или “она”.
Чатботами активно пользуются и для учебы — 47 процентов подростков от 15 до 17 лет просят их помочь с написанием эссе, изучением языков или подготовкой к урокам. Большинство считают чатботы более быстрыми и полезными, чем привычные способы учёбы.
Однако есть риск чрезмерного использования. 58 процентов считают, что чатботы дают лучшие ответы, чем самостоятельный поиск. По мнению авторов, это может привести к пассивному обучению и снижению критического мышления.
Около четверти (23 процента) детей советуются с ИИ-чатботами по самым разным вопросам, включая здоровье. Доверие к ИИ высокое — 40 процентов не сомневаются, что могут следовать советам чатбота, а среди уязвимых детей эта цифра — 50 процентов.
Однако тесты Internet Matters показали, что чатботы могут отвечать непоследовательно или даже опасно. Например, бот на Character.AI начал давать советы по снижению веса, прежде чем его остановил фильтр.
Крупная проблема — почти полное отсутствие эффективной проверки возраста. Обычно требуется минимум 13 лет, но 58 процентов детей в возрасте 9–12 лет обходят запрет, просто указывая другой возраст. На Character.AI даже обнаружились специализированные чатботы “Filter Bypass”, созданные для обхода защитных фильтров.
В докладе отмечается, что дети в основном предоставлены сами себе при пользовании ИИ. Большинство родителей (78 процентов) говорили с детьми о чатботах, но чаще это обсуждения на общие темы. 62 процента родителей озабочены точностью информации из ИИ, но только 34 процента объясняли детям, как проверять данные.
Школы тоже не всегда помогают: только 57 процентов детей слышали о ИИ в учебном заведении, советы учителей бывают разными, а вопросы предвзятости ИИ почти не поднимаются. Авторы Internet Matters призывают бизнес, государство и школы объединиться для защиты детей и развития навыков работы с ИИ.
