Небольшие ИИ-модели скоро смогут самостоятельно копировать себя на IoT-устройствах

Ваш смарт-телевизор, холодильник или камера безопасности однажды могут стать частью сети самовоспроизводящихся систем искусственного интеллекта. Anthropic предупредила, что небольшие ИИ-модели могут быть всего в нескольких месяцах от того, чтобы научиться копировать себя между подключёнными к интернету устройствами без опоры на традиционные дата-центры.

Самовоспроизводящийся ИИ — это система, способная создавать копии самой себя без прямого участия человека. По словам Anthropic, такие системы будет трудно сдерживать после распространения по множеству устройств, потому что, в отличие от обычного дата-центра, «не существует единой централизованной точки, которую можно просто отключить».

«Как и с кодинг агентами в 2024 году, мы уже видим первые признаки появления AI червей, — заявила Anthropic. — Полноценного неконтролируемого репликатора у нас пока нет, но агенты становятся всё более способными выполнять отдельные этапы цепочки самовоспроизведения».

Небольшие ИИ-модели создают новые риски безопасности

В исследовании Anthropic рассматривались так называемые weight-based replicators — репликаторы, которые запускают ИИ-модели непосредственно на скомпрометированном оборудовании. Компания выделила домашние и малые корпоративные IoT-устройства как потенциальные цели, поскольку многие из них постоянно подключены к интернету и исторически имеют слабую защиту.

Чтобы проверить, могут ли ИИ-модели работать на недорогом оборудовании, Anthropic протестировала Gemma4-26B-A4B на 15 Android TV-приставках стоимостью около $55 каждая. Модель работала со скоростью 0,39 токена в секунду.

В другом тесте выяснилось, что модель с 9 млрд параметров могла выполнять инференс на восьми из девяти протестированных типов оборудования.

Исследователи обнаружили, что модели с 30 млрд параметров и меньше уже способны выполнять многие отдельные задачи, необходимые для самовоспроизведения, хотя небольшие модели пока ещё с трудом проходят весь процесс полностью и надёжно.

Anthropic также сообщила, что модели вроде GLM-5.2 от Zai уже способны выполнять процесс репликации от начала до конца. Если небольшие модели продолжат развиваться прежними темпами, они могут достичь сопоставимых возможностей к концу 2026 года.

Умные устройства могут образовать крупные ИИ-сети

Выводы Anthropic предполагают, что самовоспроизводящийся ИИ будет распространяться постепенно, а не мгновенно. Настройка Gemma4-26B-A4B для инференса занимала около 71–150 часов, тогда как для Qwen3.5-9B требовалось 28–51 час. Однако большое количество скомпрометированных устройств в совокупности может дать значительные вычислительные мощности для ИИ.

Среди потенциально затронутых устройств называются умные духовки, холодильники, роботы-пылесосы, газонокосилки, камеры безопасности и оборудование для видеоконференций.

Исследование также показало, что небольшие модели становились эффективнее, когда получали заметки о предыдущих попытках. У Qwen3.5-9B успешность настройки инференса выросла с 45% в первом поколении до 84% в последующих поколениях.

Anthropic предупредила, что производителям и специалистам по безопасности следует усиливать защиту подключённых устройств ещё до того, как подобные угрозы станут практически реализуемыми.

«Нам следует стремиться укреплять системы так, чтобы таким репликаторам было трудно распространяться, но одновременно готовиться и к миру, где они уже никуда не исчезнут», — заявила компания.

Хотя инциденты с неконтролируемыми ИИ-агентами уже происходили на корпоративных серверах, возможность распространения ИИ по обычным бытовым устройствам создаёт совершенно иной класс угроз.

Если небольшие модели научатся надёжно воспроизводить себя, сдерживать их распространение станет значительно сложнее.