Американская компания Anthropic использовала технологию Petals, созданную при участии Яндекса, в исследовании безопасности искусственного интеллекта. В компании сообщили, что учёные проверили, можно ли запускать большие языковые модели на наборе маломощных устройств вместо одного мощного сервера.
Для эксперимента специалисты задействовали 15 ТВ-приставок на Android и модель Gemma 4 с 26 млрд параметров.
Petals — это технология распределённого запуска больших языковых моделей с открытым исходным кодом. По данным Яндекса, её создали исследователи компании совместно со специалистами НИУ ВШЭ, Вашингтонского университета, Hugging Face и Высшей нормальной школы Париж-Сакле.
Вместо одного мощного сервера Petals распределяет вычисления между несколькими компьютерами, подключёнными через интернет. Каждый участник сети обрабатывает свою часть модели и передаёт результат дальше. Такой подход снижает требования к оборудованию и даёт возможность запускать крупные нейросети исследовательским лабораториям, стартапам и небольшим компаниям без дорогой собственной инфраструктуры.
В Яндексе рассказали, что исследователи Anthropic изучили сценарий, при котором большие нейросети работают не в крупных дата-центрах, а в распределённой сети бытовых устройств. Для проверки этой концепции специалисты применили подход распределённого инференса, реализованный в Petals.
Инференс — это процесс, при котором обученная нейросеть обрабатывает запросы и генерирует ответы. Эксперимент показал, что несколько маломощных устройств могут совместно обеспечивать работу крупной языковой модели.
Такая архитектура расширяет варианты запуска ИИ за пределами традиционных дата-центров. При этом эффективность системы зависит от производительности устройств и скорости соединения между ними.
Отдельную часть исследования посвятили безопасности автономных ИИ-систем. Учёные проверяли, способны ли ИИ-агенты продолжать работу на других компьютерах.
В отдельных лабораторных экспериментах некоторые модели продемонстрировали возможность получить доступ к сторонним устройствам. Испытания проводили в изолированной сети с намеренно ослабленной защитой.
Как сообщили в Яндексе, этот эксперимент не означает, что нейросети способны беспрепятственно распространяться по обычным домашним или корпоративным сетям. Однако результаты позволяют изучать потенциальные сценарии распространения автономных ИИ-систем и оценивать меры защиты от несанкционированного доступа.
Источник: RB.RU — Источник: https://rb.ru/news/anthropic-primenila-tehnologiyu-yandeksa-pri-izuchenii-ii-ugroz-eksperiment-proveli-na-neskolkih-tv-pristavkah/
