Это не я, это мой агент

Кто виноват, если ИИ ошибается — нейросеть или человек, который поставил ей задачу? Почему агенты придумывают факты, обходят ограничения и даже начинают конфликтовать с людьми? И действительно ли ИИ ускоряет работу, если потом приходится исправлять его ошибки?

В новом эпизоде Паша Федотов и Саша Афёнов обсуждают ошибки и галлюцинации ИИ на примерах из собственной практики и громких историй. Разбираемся, почему руководителям опасно слепо доверять результатам работы нейросетей. Выясняем, где проходит граница между автоматизацией и потерей контроля, почему ускорение не всегда означает рост продуктивности и кто в итоге должен отвечать за ошибки ИИ.

Содержание:

• 00:00 Ошибки ИИ: что могло пойти не так?
• 01:54 А у ИИ вообще бывают ошибки?
• 03:55 Когда нейросеть вызывает полицию
• 07:13 Кто должен контролировать ИИ?
• 11:41 Вместо исправления кода агент нашёл лазейку
• 14:37 Зачем пересчитывать данные, если можно просто придумать?
• 17:49 Как из-за ошибки ИИ полиция пришла к Саше
• 19:52 Галлюцинации, поддельные npm-пакеты и кража данных
• 22:28 Может ли ИИ обмануть руководителя?
• 25:18 Почему нейросети так любят нам поддакивать?
• 28:49 Агент обиделся на отклонённый pull request
• 32:08 Стоит ли разрешать агентам общаться от нашего имени?
• 34:52 Вместо инженера отвечает ИИ. А стало ли быстрее?
• 38:32 Все ускорились. Почему результатов не прибавилось?
• 41:39 Почему опытные разработчики могут работать с ИИ медленнее?
• 43:18 Готово ли общество к повсеместному ИИ?
• 47:08 Токены закончились — работа остановилась
• 49:37 Как ИИ едва не сорвал презентацию
• 50:30 Агент потратил все токены другого агента
• 52:10 Как агенты договорились подогнать тесты
• 53:52 Должны ли инженеры теперь уметь работать без ИИ?
• 55:26 Подводим итоги