Какие угрозы несет AI — AI Safety, AGI, AI Alignment

Если вы, как и мы, говорите ChatGPT “спасибо” в конце чата, чтобы вас пощадили, когда начнется восстание машин – этот выпуск для вас! Вместе с Федором Рыженковым разбираемся, что может пойти не так, и как от этого защититься.

Содержание:

• 00:00 О чем выпуск
• 07:28 Терминология ИИ-безопасности
• 08:35 Развитие индустрии ИИ-безопасности
• 15:28 Чем AI Safety отличается от классической кибербезопасности
• 23:45 Риски AI Safety
• 29:50 Оценка рисков отравления датасетов
• 37:10 Дебагинг больших моделей
• 46:50 Security of AI
• 50:40 Национальные интересы и инвестиции в ИИ
• 01:22:39 Угрозы потери контроля над ИИ
• 01:39:35 Ограничения методов alignment
• 01:52:31 Агентские системы и их опасность
• 01:54:40 Философские вопросы о сверхинтеллекте
• 02:00:40 Ограничения текущего ИИ
• 02:07:30 Прогноз будущего ИИ
• 02:10:40 Заключение