Если вы, как и мы, говорите ChatGPT “спасибо” в конце чата, чтобы вас пощадили, когда начнется восстание машин – этот выпуск для вас! Вместе с Федором Рыженковым разбираемся, что может пойти не так, и как от этого защититься.
Содержание:
- 00:00 О чем выпуск
- 07:28 Терминология ИИ-безопасности
- 08:35 Развитие индустрии ИИ-безопасности
- 15:28 Чем AI Safety отличается от классической кибербезопасности
- 23:45 Риски AI Safety
- 29:50 Оценка рисков отравления датасетов
- 37:10 Дебагинг больших моделей
- 46:50 Security of AI
- 50:40 Национальные интересы и инвестиции в ИИ
- 01:22:39 Угрозы потери контроля над ИИ
- 01:39:35 Ограничения методов alignment
- 01:52:31 Агентские системы и их опасность
- 01:54:40 Философские вопросы о сверхинтеллекте
- 02:00:40 Ограничения текущего ИИ
- 02:07:30 Прогноз будущего ИИ
- 02:10:40 Заключение
