Google выпустил приложение, которое позволяет загружать и запускать ИИ-модели локально

На прошлой неделе Google незаметно выпустил приложение, которое позволяет пользователям запускать на своих телефонах ряд общедоступных моделей искусственного интеллекта с платформы для разработчиков Hugging Face.

Приложение под названием Google AI Edge Gallery доступно для Android и вскоре появится на iOS. Оно позволяет пользователям находить, загружать и запускать совместимые модели, которые генерируют изображения, отвечают на вопросы, пишут и редактируют код и многое другое. Модели работают в автономном режиме, без подключения к Интернету, используя процессоры поддерживаемых телефонов.

Модели искусственного интеллекта, работающие в облаке, часто более мощные, чем их локальные аналоги, но у них есть и свои недостатки. Некоторые пользователи могут опасаться отправлять личные или конфиденциальные данные в удаленный центр обработки данных или хотят иметь доступ к моделям без необходимости подключения к Wi-Fi или сотовой сети.

Google AI Edge Gallery, которую Google называет «экспериментальной альфа-версией», можно загрузить с GitHub. На главном экране отображаются ярлыки для задач и функций ИИ, таких как Ask Image и AI Chat. При нажатии на функцию отображается список моделей, подходящих для данной задачи, например Gemma 3n от Google.

Google AI Edge Gallery также предоставляет Prompt Lab, который пользователи могут использовать для запуска «одноразовых» задач, основанных на моделях, таких как резюмирование и переписывание текста. Prompt Lab поставляется с несколькими шаблонами задач и настраиваемыми параметрами для точной настройки поведения моделей.

Google предупреждает, что производительность может варьироваться. Современные устройства с более мощным оборудованием, как и ожидалось, будут запускать модели быстрее, но размер модели также имеет значение. Более крупные модели потребуют больше времени для выполнения задачи — например, ответа на вопрос об изображении — чем более мелкие модели.

Google приглашает членов сообщества разработчиков поделиться отзывами об опыте использования Google AI Edge Gallery. Приложение распространяется по лицензии Apache 2.0, что означает, что его можно использовать в большинстве контекстов — коммерческих или иных — без ограничений.