FunctionGemma — это модель Google с открытым исходным кодом, оптимизированная для вызова функций, которая призвана революционизировать наше взаимодействие с устройствами.
Технически, FunctionGemma — это специализированная версия модели Gemma 3 270M, ориентированная на устройства с ограниченными ресурсами и предназначенная для вызова функций.
Основная проблема, которую она решает, заключается в том, что в настоящее время ИИ-помощники требуют подключения к облаку для обработки голосовых команд, отдаваемых пользователем устройства, что означает меньшую конфиденциальность и большую задержку. FunctionGemma переворачивает это с ног на голову, будучи на 100% локальной, быстрой и конфиденциальной. Она включает 270 миллионов параметров, работает локально и не требует серверов и облака. Это означает, что никакие данные не покидают ваше устройство.
На практике модель предназначена для вызова функций путем преобразования запросов на естественном языке в структурированные вызовы API/инструментов. Это подходящий инструмент, если:
- У вас есть определенная API-поверхность: ваше приложение имеет определенный набор действий (например, умный дом, мультимедиа, навигация)
- Вы готовы к тонкой настройке: вам необходимо согласованное, детерминированное поведение, которое достигается за счет тонкой настройки на конкретных данных, а не изменчивость запросов с нуля
- Вы отдаете приоритет локальному развертыванию: вашему приложению требуется практически мгновенная задержка и полная конфиденциальность данных, эффективная работа в пределах вычислительных и энергетических ограничений периферийных устройств
- Вы создаете сложные системы: вам нужна легковесная периферийная модель для обработки локальных действий, позволяющая вашей системе обрабатывать общие команды на устройстве и запрашивать более крупные модели (например, Gemma 3 27B) только для более сложных задач.
То есть, FunctionGemma предназначен для тонкой настройки для вызова инструментов, специфичных для конкретных задач, и не предназначен для использования в качестве модели прямого диалога.
Официальная демонстрация показывает пример тонкой настройки для создания мобильного голосового помощника, выполняющего такие задачи, как «Создать событие в календаре на завтрашний обед», «Добавить Джона в мои контакты» или «Включить фонарик».
Модель анализирует естественный язык и определяет правильный инструмент операционной системы для выполнения команды.
Google предлагает официальное руководство по тонкой настройке, а также есть хорошее руководство от Unsloth.