Уязвимость в Rabbit R1 позволяет третьим лицам просматривать ответы ИИ

В Rabbit R1, одном из относительно новых устройств, созданных командой ИИ-разработчиков, была обнаружена довольно серьезная уязвимость в системе безопасности. Ошибка позволяет третьим лицам получить доступ к текстовым подсказкам, отправляемым через R1, которые могут содержать конфиденциальную информацию.

Rabbit R1 стал еще одним продуктом, разработанным компанией, которая «специализируется» на ИИ-разработке. По сути, это портативное устройство, которое позволяет поискать нужную информацию или попросить выполнить определенные задачи. Среди таких задач могут быть «заказать мне пиццу» или «сообщить партнеру, что я задержусь». Это не замена телефона, но очень близко к этому — по крайней мере, так было задумано. Предполагается, что эти запросы будут безопасно передаваться в «кроличью нору» Rabbit — облачную систему обработки, которая принимает запросы ИИ и преобразует их в действия через подключенные приложения.

Однако оказалось, что эти запросы не так безопасны, как можно подумать. Команда, стоящая за Rabbitude, проектом реверс-инжиниринга Rabbit R1, созданным сообществом разработчиков, обнаружила проблему безопасности в коде компании, из-за которой конфиденциальная информация пользователей доступна всем. В посте, опубликованном на сайте Rabbitude, команда сообщила, что получила доступ к кодовой базе Rabbit 16 мая и обнаружила «несколько критических жестко закодированных API-ключей». Эти ключи позволяют любому человеку прочитать все ответы, которые когда-либо давало устройство R1 AI, включая те, которые содержат личную информацию пользователей. Их также можно использовать для взлома устройств R1, изменения ответов R1 и замены голоса устройства.

Найденные ими API-ключи аутентифицируют доступ пользователей к сервису преобразования текста в речь ElevenLabs, системе преобразования речи в текст Azure, Yelp (для поиска отзывов) и Google Maps (для поиска местоположения) на устройстве R1 AI. В своем твите один из членов Rabbitude сообщил, что компания знала о проблеме в течение последнего месяца и «ничего не сделала, чтобы ее исправить». После публикации они сообщили, что Rabbit отозвала API-ключ Elevenlabs, хотя обновление на некоторое время вывело из строя устройства R1.

Сама компания Rabbit сообщила, что ей стало известно о «предполагаемой утечке данных» только 25 июня. «Наша команда безопасности немедленно начала расследование», — продолжила компания. «На данный момент мы не знаем ни об утечке данных клиентов, ни о какой-либо компрометации наших систем. Если нам станет известна какая-либо другая важная информация, мы сообщим об этом, как только получим более подробные сведения». Компания не сообщила, отозвала ли она ключи, которые, по словам команды Rabbitude, были найдены в коде компании.