Железо для ИИ — AI, Hardware, GPU, Cerebras

Этот выпуск – луч надежды для отчаявшихся геймеров, смирившихся, что все видеокарты сметут ИИ-корпорации. Говорим про чипы, на которых обучение и инференс работают кратно быстрее, чем на GPU. В чем секрет, и чего ожидать в будущем – обсуждаем с Зигфридом Звездиным из Cerebras!

Содержание:

• 00:00 О чём выпуск?
• 05:14 Какие ограничения есть в индустрии?
• 12:03 Ограничения текущих GPU
• 21:27 Преимущества новых чипов
• 24:01 Зависимость компьютера и памяти
• 26:18 Технологии интерконнекта
• 28:22 Метрики для сравнения производительности
• 35:05 Энергопотребление и экономика
• 43:06 Скорость инференса и параллельные запросы
• 49:29 Обзор чипов
• 52:20 Будущее GPU
• 59:04 Проблема нехватки чипов
• 01:04:01 Как производятся чипы?
• 01:05:27 Выбор чипов для домашних серверов
• 01:07:08 Какие модели оказания услуг бывают?
• 01:12:02 Преимущества и недостатки архитектуры
• 01:14:03 Заключение