Google выпустил модель FunctionGemma.

FunctionGemma — это модель Google с открытым исходным кодом, оптимизированная для вызова функций, которая призвана революционизировать наше взаимодействие с устройствами.

Технически, FunctionGemma — это специализированная версия модели Gemma 3 270M, ориентированная на устройства с ограниченными ресурсами и предназначенная для вызова функций.

Основная проблема, которую она решает, заключается в том, что в настоящее время ИИ-помощники требуют подключения к облаку для обработки голосовых команд, отдаваемых пользователем устройства, что означает меньшую конфиденциальность и большую задержку. FunctionGemma переворачивает это с ног на голову, будучи на 100% локальной, быстрой и конфиденциальной. Она включает 270 миллионов параметров, работает локально и не требует серверов и облака. Это означает, что никакие данные не покидают ваше устройство.

На практике модель предназначена для вызова функций путем преобразования запросов на естественном языке в структурированные вызовы API/инструментов. Это подходящий инструмент, если:

• У вас есть определенная API-поверхность: ваше приложение имеет определенный набор действий (например, умный дом, мультимедиа, навигация)
• Вы готовы к тонкой настройке: вам необходимо согласованное, детерминированное поведение, которое достигается за счет тонкой настройки на конкретных данных, а не изменчивость запросов с нуля
• Вы отдаете приоритет локальному развертыванию: вашему приложению требуется практически мгновенная задержка и полная конфиденциальность данных, эффективная работа в пределах вычислительных и энергетических ограничений периферийных устройств
• Вы создаете сложные системы: вам нужна легковесная периферийная модель для обработки локальных действий, позволяющая вашей системе обрабатывать общие команды на устройстве и запрашивать более крупные модели (например, Gemma 3 27B) только для более сложных задач.

То есть, FunctionGemma предназначен для тонкой настройки для вызова инструментов, специфичных для конкретных задач, и не предназначен для использования в качестве модели прямого диалога.

Официальная демонстрация показывает пример тонкой настройки для создания мобильного голосового помощника, выполняющего такие задачи, как «Создать событие в календаре на завтрашний обед», «Добавить Джона в мои контакты» или «Включить фонарик».

Модель анализирует естественный язык и определяет правильный инструмент операционной системы для выполнения команды.

Google предлагает официальное руководство по тонкой настройке, а также есть хорошее руководство от Unsloth.