Google выпустила Gemma 4 12B для запуска на ноутбуках

Google представила новую модель Gemma 4 12B, которая заполняет разрыв между мобильными и крупными ИИ-решениями. Модель с 12 млрд параметров доступна по лицензии Apache 2.0: она занимает 18 ГБ на диске и требует от 16 ГБ ОЗУ или видеопамяти для работы.

Gemma 4 12B работает на обычном оборудовании, что позволяет получить высокую производительность без лишних затрат на серверные мощности, выгодно отличаясь от более тяжелых аналогов.

Инновации gemma 4 12b

Ее ключевая фишка — технология Multi-Token Prediction (MTP), где специальные «драфтеры» прогнозируют токены, используя свободные ресурсы системы. Вместо громоздких кодировщиков для обработки изображений теперь используется эффективный модуль умножения матриц, который сохраняет точность пространственных связей. Звуковые сигналы модель преобразует прямо в текстовые токены, минуя лишние шаги кодирования.

Эти улучшения делают доступными многоэтапные рассуждения и автономных агентов. Раньше такие возможности были доступны только тяжелым моделям с гораздо большим количеством параметров.

Бизнес-выгоды и технические преимущества

Gemma 4 12B делает сложные ИИ-задачи доступнее, позволяя запускать их на обычных ноутбуках и исключая покупку дорогих ускорителей стоимостью от $20 000. Модель работает быстрее и потребляет меньше памяти, заметно выигрывая у традиционных мультимодальных решений.

Платформа отлично подходит для создания локальных автономных агентов и сложных систем рассуждений.

Развертывание и доступность

Начать работать с Gemma 4 12B легко: модель можно протестировать онлайн через LM Studio или Google AI Edge Gallery, не скачивая никаких файлов. Для локального запуска веса модели доступны на Kaggle и Hugging Face, что позволяет установить ее на собственное оборудование и получить полный контроль над процессами.

Ранее по теме
Google Beam повысит вовлеченность на встречах на 21%

Больше новостей в нашем Телеграм. Подпишись!

Ссылка на источник тык.