Google представила Gemma 3 270M — новую и самую компактную модель в линейке Gemma 3, рассчитанную на работу с ограниченными ресурсами в узкоспециализированных задачах.
Gemma 3 270M содержит 270 миллионов параметров. По информации Google, эта модель подходит разработчикам, которым требуется быстрое дообучение и внедрение решений для четко сформулированных задач. В отличие от больших моделей для сложных диалогов, Gemma 3 270M создана для выполнения конкретных инструкций и специализированных задач.
Модель использует 170 миллионов параметров для эмбеддингов благодаря расширенному словарю из 256 000 токенов, а также 100 миллионов параметров для трансформеров. Google отмечает, что такой объем словаря помогает лучше работать с редкими токенами и специализированной лексикой, что важно для дообучения под разные языки и предметные темы.
В числе ключевых задач для Gemma 3 270M Google выделяет анализ тональности, распознавание сущностей, маршрутизацию запросов и проверку соответствия требованиям. Несмотря на компактность, модель может создавать простые истории и справляться с творческими задачами.
Благодаря небольшому размеру, Gemma 3 270M можно дообучить за несколько часов, а не дней, и запускать полностью на локальном оборудовании — подходящий вариант для обработки чувствительных данных. Например, приложение “Bedtime Story” работает прямо в браузере.
Во внутренних тестах на Pixel 9 Pro (SoC) версия модели с квантизацией INT4 использовала всего 0,75% заряда батареи после 25 диалогов, что, по заявлению Google, делает Gemma 3 270M самой энергоэффективной в линейке Gemma.
Доступны две версии Gemma 3 270M: Instruct (дообучена для следования инструкциям) и Pretrained (без дополнительного обучения). Модель можно скачать через Hugging Face, Ollama, Kaggle, LM Studio и Docker.
Опробовать Gemma 3 270M можно на Vertex AI или с помощью популярных инструментов, таких как llama.cpp, Gemma.cpp, LiteRT, Keras и MLX. Для дообучения доступны Hugging Face, UnSloth и JAX от Google.
