Дмитрий Конягин (NVIDIA): Потребность в значительных мощностях и ограничение энергопотребления – два фактора использования Jetson

Платформа Jetson TX1 от компании NVIDIA – суперкомпьютер размером с кредитную карту. Вариантов применения Jetson множество: платформа позволяет устройству идентифицировать себя в мире, принимать решения, основываясь на собранных данных. При этом у суперкомпьютера NVIDIA высокая мощность (1TFLOPS), позволяющая ему производить сложные вычисления в режиме реального времени.

О том, как разрабатывался Jetson TX1, о его предшественнике, а также о том, какие возможности предоставляет NVIDIA разработчикам мы поговорили со старшим менеджером по продаже профессиональных решений Дмитрием Конягиным.

Расскажите об истории Jetson TX1 и его предшественника Jetson TK1?

Концепция Jetson как платформы, вне зависимости от поколения, связана с приходом в сегмент встраиваемых систем полнофункциональных архитектур GPU. Ранее в компактном форм-факторе платформ с пониженным энергопотреблением использовались гораздо менее мощные решения. Первое поколение Jetson нашло свое применение в разнообразных устройствах – от умной микроволновой печи, которая сама определяет степень готовности блюда, до роботов. В роботах Jetson играет роль основного вычислительного ресурса, именно благодаря ему роботы получаются самоездящими, самоходящими. По большому счету, платформа позволяет устройству определить себя в окружающем мире. У первой версии платформы есть множество разнообразных применений – от роботов до встраиваемых систем, но если говорить более конкретно о российском рынке, то, например, один из наших партнеров строит систему, которая взаимодействует с коммунальными датчиками внутри дома и потом передает полученную информацию в соответствующие городские службы. Варианты использования Jetson объединяют два фактора: первое – это потребность в значительных вычислительных мощностях, второе – ограничение энергопотребления.

Как работает Jetson TK1, предшественник новой модели?

Первая версия платформы Jetson появилась более полутора лет назад. Она построена на базе процессора NVIDIA Tegra K1 (возможно, этот процессор вам знаком по планшету Nexus от компании Google), вернее, на базе его версии для встраиваемых систем. Наша бизнес-модель, связанная с первым поколением Jetson, заключалась в том, что мы предоставляли разработчикам DevKit вместе со всей софтверной обвязкой, всем инструментарием для разработки своих приложений. По завершении этапа прототипирования мы переключали разработчика на партнеров, которые производили или модули, или какие-то готовые решения на базе нашей платформы. В Jetson TX1 этот процесс изменился.

Насколько существенны различия между первым Jetson и новой платформой?

ТХ1 представляет из себя достаточно похожую на своего старшего брата платформу, но изменения есть и они значительные. Во-первых, новая версия платформы построена на базе новейшего процессора NVIDIA Tegra — X1. Сам по себе Dev Kit стал несколько больше, он теперь размером 170х170 мм (для сравнения, размер предыдущей модели – 120х120). Увеличился он не случайно. 17х17 см – стандартный размер для ПК, соответственно, его значительно проще вставить в любой компьютерный корпус. Это удобно – разработчику не приходится держать платформу в коробке или пакете, обвешиваясь проводами, можно работать в привычном корпусе.

В Jetson TX1 , в отличие от TK1, появилась камера – она интегрирована на плату. Основная сфера применения Jetson TX1 – аналитика и обработка видеоизображений. К предыдущей версии платформы можно было подключить любую USB-камеру и получить видеопоток. Сейчас мы решили не осложнять жизнь разработчикам и сразу встроили эту функциональность. Хотя, конечно, другие камеры также можно подключить.

Кроме того, расширился набор инструментов для разработчиков – как для тех, кто собирается делать свое аппаратное решение, так и для тех, кто разрабатывает софт. В первую очередь это касается разработок в области компьютерного, машинного зрения – для этих областей у нас создан большой набор библиотек, которые находятся в открытом, бесплатном доступе.

Также поменялась сама по себе платформа. Процессор Jetson TX1 располагает 4 ядрами 64-битной архитектуры, тогда как в предыдущей версии они были 32-битными. Графическое ядро платформы построено на базе нашей новейшей архитектуры Maxwell, которая появилась в наших десктопных продуктах в начале этого года. Меньше чем за полгода эта архитектура распространилась на все продукты NVIDIA, массовые и профессиональные.

Еще одно важное отличие заключается в том, что в Jetson TK1 процессор был интегрирован в плату, тогда как на новой платформе процессор сделал в виде законченного модуля размером чуть меньше кредитной карты. Сделано это по двум причинам: во-первых, это позволяет разработчику, как только он закончит прототипирование, сразу же приступить к интеграции готового модуля в решение, а не разрабатывать его обвязку заново, во-вторых, разъем этого модуля универсален, и он будет поддерживаться следующими нашими решениями. То есть, разработав сейчас устройство под Jetson ТХ1, можно будет не бояться его устаревания – когда выйдет следующая версия платформы, можно будет заменить его буквально с закрытыми глазами.

Есть ли у компании NVIDIA готовый софт для Jetson TX1 или его еще предстоит разработать?

Что касается софта, ситуация, по сравнению с тем, что было еще в прошлом году, серьезно улучшилась. Можно выделить несколько классов приложений.

Первый класс – все, что лежит на уровне операционной системы. У нас на сайте есть специальный дистрибутив Linux для встраиваемых систем, со всеми драйверами, которые необходимы для реализованной на платформе периферии.

Второй класс – это наша поддержка архитектуры CUDA и всего того функционала, который реализован в различных библиотеках. То есть теперь можно безо всяких оговорок утверждать, что весь функционал для GPU-вычислений поддерживается на всех наших устройствах.

Нововведение этого года – полная поддержка библиотек алгоритмов для глубокого обучения нейронных сетей. Сами библиотеки не новы, но ранее они были доступны только в наших профессиональных и настольных продуктах, а теперь добавлена поддержка встраиваемых систем. Это обучение направлено на решение задач, связанных с распознаванием голоса, образов, обработкой сигналов и т.д.

Также у нас появилась библиотека NVIDIA VISION WORKS с набором примитивов для компьютерного зрения.

И, разумеется, мы поддерживаем все самые современные графические интерфейсы. Также мы будем поддерживать спецификацию Vulkan, и как только она станет официально доступна, мы обновим драйверы и добавим в них эту поддержку.

Добавлю, что на платформах Jetson работает весь наш набор инструментов для разработчиков: профилировщики, отладчики и т.д, — все то, что позволяет наиболее эффективно реализовать код на платформе Jetson.

Часто ли у разработчиков возникают вопросы по использованию Jetson? Где они могут получить дополнительную информацию о нем?

Портал для разработчиков – наша особая гордость. На нем в открытой форме представлена вся информация по аппаратной поддержке и софтверной части. Он отлично зарекомендовал себя еще в прошлом году. Все партнеры, которые делали решения на базе платформы Jetson TK1, смогли получить всю необходимую информацию на портале, им не понадобилось обращаться к каким-либо другим источникам.

Означает ли появление нового Jetson исчезновение с рынка предыдущей версии?

Несмотря на выход TX1, наш первенец Jetson ТК1 никуда не денется с рынка. Обе платформы будут доступны, но находиться они будут в разных ценовых сегментах. Если рекомендованная розничная цена Jetson ТК1 составляет $199, то Jetson ТХ1 в полной версии будет продаваться за $599. Для образовательных организаций мы предложим специальные цены. Модуль, который я упоминал, станет доступен отдельно по цене около $300 и появится в продаже в первом квартале следующего года. Нам важно, чтобы у наших партнеров был выбор, что именно использовать для наилучшего решения своих задач.

Сколько времени потребовалось на разработку второго Jetson?

Платформа Jetson ТК1 вышла на рынок в марте 2014 года, Jetson ТХ1 – совсем недавно, 10 ноября 2015-го. Соответственно, формально разница между ними составила полтора года. На деле, конечно, разработка Jetson TX1 заняла чуть больше времени – около 2-х лет, так как эти платформы разрабатывались параллельно.

Планируется продолжение серии Jetson?

Разумеется, планируется. Следующая версия платформы будет построена на базе нашей следующей мобильной архитектуры. С учетом того, что мы перешли на модульную систему, можно с уверенностью сказать, что Jetson — долгоиграющий проект.

Расскажите о примерах использования платформы Jetson?

Есть интересные проекты, связанные с использованием платформы Jetson для работы с дронами, которые выполняют лазерное сканирование местности. Использование Jetson позволило компании Kespry решать свою задачу в реальном времени.

Еще один пример использования платформы Jetson связан с конкурсом Google Lunar x-prize. Это конкурс от Google, в котором могут принять любые команды желающих. Победит та команда, которая первая соберет и отправит на луну луноход. Ракетоноситель оплачивается Google, соответственно, луноход, оказавшись на Луне, должен передать на землю определенную информацию. Причем сам аппарат должен соответствовать заданным массо-габаритным параметрам. И одна из команд мозг своего лунохода создавала как раз на Jetson.

Компания NVIDIA – лидер в своей области. Что, согласно политике компании, приводит к успеху?

Область, в которой мы работаем – визуальные вычисления – нами самими создана, поэтому в первую очередь мы соревнуемся сами с собой. Самое главное, на мой взгляд, это то, что мы называем intellection honesty, то есть внутренняя честность, честность в первую очередь перед собой. Если даже мы сделали что-то не так, мы честно это признаем свои ошибки и стараемся их исправить. . Такой подход позволяет избежать более крупных неприятностей в дальнейшем. Мы – перфекционисты.

Кроме того, не менее важно для нас всех верить в то, чем мы занимается. А мы в это действительно верим.

Спасибо, отличных вам вычислений!