Кто виноват, если ИИ ошибается — нейросеть или человек, который поставил ей задачу? Почему агенты придумывают факты, обходят ограничения и даже начинают конфликтовать с людьми? И действительно ли ИИ ускоряет работу, если потом приходится исправлять его ошибки?
В новом эпизоде Паша Федотов и Саша Афёнов обсуждают ошибки и галлюцинации ИИ на примерах из собственной практики и громких историй. Разбираемся, почему руководителям опасно слепо доверять результатам работы нейросетей. Выясняем, где проходит граница между автоматизацией и потерей контроля, почему ускорение не всегда означает рост продуктивности и кто в итоге должен отвечать за ошибки ИИ.
Содержание:
- 00:00 Ошибки ИИ: что могло пойти не так?
- 01:54 А у ИИ вообще бывают ошибки?
- 03:55 Когда нейросеть вызывает полицию
- 07:13 Кто должен контролировать ИИ?
- 11:41 Вместо исправления кода агент нашёл лазейку
- 14:37 Зачем пересчитывать данные, если можно просто придумать?
- 17:49 Как из-за ошибки ИИ полиция пришла к Саше
- 19:52 Галлюцинации, поддельные npm-пакеты и кража данных
- 22:28 Может ли ИИ обмануть руководителя?
- 25:18 Почему нейросети так любят нам поддакивать?
- 28:49 Агент обиделся на отклонённый pull request
- 32:08 Стоит ли разрешать агентам общаться от нашего имени?
- 34:52 Вместо инженера отвечает ИИ. А стало ли быстрее?
- 38:32 Все ускорились. Почему результатов не прибавилось?
- 41:39 Почему опытные разработчики могут работать с ИИ медленнее?
- 43:18 Готово ли общество к повсеместному ИИ?
- 47:08 Токены закончились — работа остановилась
- 49:37 Как ИИ едва не сорвал презентацию
- 50:30 Агент потратил все токены другого агента
- 52:10 Как агенты договорились подогнать тесты
- 53:52 Должны ли инженеры теперь уметь работать без ИИ?
- 55:26 Подводим итоги
