Gemini — новая основа для искусственного интеллекта в Android

Модели Foundation обучаются на основе разнообразных источников данных, чтобы создавать системы искусственного интеллекта, способные адаптироваться к широкому спектру задач, а не обучаться для одного узкого случая использования. Сегодня Google анонсировал большую языковую модель Gemini, самую мощную модель компании. Gemini была разработана с учетом гибкости, поэтому она может работать в любых системах — от центров обработки данных до мобильных устройств. Она была оптимизирована для трех различных размеров: Ultra, Pro и Nano.

Gemini Nano, оптимизированная для мобильных устройств

Gemini Nano, самая эффективная модель, созданная для выполнения задач на устройствах, работает непосредственно на мобильном процессоре, открывая поддержку целого ряда важных сценариев использования. Работа на устройстве позволяет реализовать функции, в которых данные не должны покидать устройство, например, предлагать ответы на сообщения в приложении для обмена сообщениями со сквозным шифрованием. Кроме того, это обеспечивает стабильный опыт с детерминированной задержкой, так что функции всегда доступны, даже когда нет сети.

Gemini Nano представляет собой уменьшенную версию более крупных моделей Gemini и специально оптимизирован для работы на мобильных GPU. Gemini Nano обеспечивает такие мощные возможности, как высококачественное резюмирование текста, контекстные умные ответы, расширенная корректура и исправление грамматики. Например, благодаря улучшенному пониманию языка Gemini Nano в Pixel 8 Pro может кратко излагать содержание в приложении Recorder, даже когда телефон не подключен к сети.

Android AICore — новая системная служба для Foundation моделей на устройствах

Android AICore — это новая системная служба в Android 14, которая обеспечивает легкий доступ к Gemini Nano. AICore управляет моделями, режимами выполнения, функциями безопасности и многим другим, упрощая работу по внедрению ИИ в ваши приложения.

AICore является приватным по умолчанию, следуя примеру Private Compute Core в Android, с изоляцией от сети через API с открытым исходным кодом, обеспечивая прозрачность и возможность аудита. В рамках усилий по ответственному подходу к созданию и внедрению ИИ в Google также создали специальные функции безопасности, чтобы сделать его более безопасным и инклюзивным для всех.

AICore обеспечивает тонкую настройку Low Rank Adaptation (LoRA) для Gemini Nano. Эта мощная концепция позволяет разработчикам приложений создавать небольшие LoRA-адаптеры на основе собственных обучающих данных. Адаптер LoRA загружается в AICore, в результате чего получается мощная большая языковая модель, тонко настроенная под конкретные случаи использования приложения.

AICore использует преимущества нового ML-оборудования, такого как новейший Google Tensor TPU и NPU во флагманских процессорах Qualcomm Technologies, Samsung S.LSI и MediaTek. AICore и Gemini Nano распространяются на Pixel 8 Pro, а в ближайшие месяцы будут анонсированы другие устройства и партнеры.

Создавайте вместе с Gemini

Если вы заинтересованы в создании приложений с использованием Gemini Nano и AICore, подпишитесь на программу раннего доступа.