Qualcomm открывает AI Hub

В прошлом году мы наблюдали всплеск интереса и развития приложений генеративного ИИ. Сейчас мы находимся в следующей эре развития этой технологии — ИИ на устройствах становится все более распространенным в наших персональных устройствах. На выставке Mobile World Congress компания Qualcomm представила инструмент, упрощающий доступ разработчиков к ИИ-моделям и их загрузку прямо на их устройства.

Новый Qualcomm AI Hub содержит подборку из более чем 75 генеративных моделей ИИ, которые разработчики могут легко загружать на устройства, работающие на базе Qualcomm, причем новые компания намеревается постоянно добавляться новые модели.

Библиотека содержит некоторые из самых популярных моделей в отрасли, такие как Whisper, система автоматического распознавания речи от OpenAI, и Stable DIffusion, модель преобразования текста в изображение от Stability AI. Qualcomm AI Hub автоматически применяет аппаратные оптимизации к моделям для повышения производительности искусственного интеллекта на устройстве.

Кроме того, модели доработаны таким образом, чтобы максимально эффективно использовать все ядра Qualcomm AI Engine, включая NPU, CPU и GPU, что позволяет повысить энергоэффективность, снизить нагрузку на память и увеличить скорость вычислений в четыре раза, говорится в релизе компании, опубликованном сегодня.

Преимущество работы ИИ на устройстве, помимо общего повышения производительности приложений, заключается в том, что отказ от передачи данных с облако повышает уровень конфиденциальности, что особенно важно при создании моделей, использующих базы данных с конфиденциальными или проприетарными данными.

«Qualcomm AI Hub предоставляет разработчикам обширную библиотеку моделей ИИ для быстрой и легкой интеграции предварительно оптимизированных моделей ИИ в свои приложения, что приводит к более быстрому, надежному и конфиденциальному пользовательскому опыту», — говорит Дурга Маллади, SVP Qualcomm по технологическому планированию и граничным решениям.

Qualcomm сообщает, что оптимизированные модели доступны уже сегодня как на Qualcomm AI Hub, так и на GitHub и Hugging Face. Разработчики могут подписаться на доступ к ним уже сегодня.