Подписка на облачного кодинг-агента стоит не так уж дорого. Зачем тогда покупать GPU и запускать модель самому? Вместе с Иваном Опариным из Wildberries разбираемся, какие локальные модели уже годятся для агентной разработки, где они уступают облачным, сколько стоит железо под них и как настраивать их под свою кодовую базу.
А самое главное – дадим подробный гайд по тому, как решить свою первую задачу с помощью агента на локальной модели, и по тому, как внедрить их в свою ежедневную работу.
Содержание:
- 00:00 О чем выпуск?
- 01:57 Кому и зачем нужны локальные модели?
- 06:05 Реклама, которая вам понравится
- 09:34 Ситуация с подписками и токенами
- 18:03 Сетап Ивана
- 20:58 Что такое локальная модель и что к ним относится?
- 26:33 Ликбез по терминологии
- 47:15 Готовы ли локальные модели работать с нашими агентами?
- 56:11 Какие задачи не стоит отдавать локальным моделям?
- 01:04:06 Ограничение open weight моделей
- 01:07:30 Сколько стоит поднять фронтирную модель
- 01:19:30 Стоит ли сейчас покупать видеокарту?
- 01:30:04 Способы дотягивания слабых моделей
- 01:57:00 Гайд “Как вкатиться в локальные модели”
- 02:12:48 Заключение
