Этот выпуск – луч надежды для отчаявшихся геймеров, смирившихся, что все видеокарты сметут ИИ-корпорации. Говорим про чипы, на которых обучение и инференс работают кратно быстрее, чем на GPU. В чем секрет, и чего ожидать в будущем – обсуждаем с Зигфридом Звездиным из Cerebras!
Содержание:
- 00:00 О чём выпуск?
- 05:14 Какие ограничения есть в индустрии?
- 12:03 Ограничения текущих GPU
- 21:27 Преимущества новых чипов
- 24:01 Зависимость компьютера и памяти
- 26:18 Технологии интерконнекта
- 28:22 Метрики для сравнения производительности
- 35:05 Энергопотребление и экономика
- 43:06 Скорость инференса и параллельные запросы
- 49:29 Обзор чипов
- 52:20 Будущее GPU
- 59:04 Проблема нехватки чипов
- 01:04:01 Как производятся чипы?
- 01:05:27 Выбор чипов для домашних серверов
- 01:07:08 Какие модели оказания услуг бывают?
- 01:12:02 Преимущества и недостатки архитектуры
- 01:14:03 Заключение
