Bumble открывает свой ИИ для определения непристойных фотографий

В рамках своей борьбы с «киберфлешингом» (отправкой непристойных изображений незнакомцам через личные сообщения или AirDrop) приложение для знакомств Bumble открывает исходный код своего AI-инструмента, который обнаруживает нежелательные непристойные изображения.

Впервые запущенный в 2019 году, Private Detector размывает обнаженные части тел, отправленные через приложение Bumble, давая пользователю на принимающей стороне выбор, открывать изображение или нет.

«Несмотря на то, что количество пользователей, отправляющих непристойные изображения в наших приложениях, к счастью, составляет незначительное меньшинство — всего 0.1% — наш масштаб позволяет получить лучший в отрасли набор данных как пристойных, так и непристойных изображений, специально предназначенный для достижения наилучшего результата», — говорится в сообщении компании.

Когда Bumble впервые представил этот ИИ, компания заявила, что его точность составляет 98%.

Усовершенствованная версия ИИ теперь доступна на GitHub для коммерческого использования, распространения и модификации. Хотя это не самая передовая модель, которая обнаруживает обнаженные изображения, у небольших компаний, вероятно, нет времени для самостоятельной ее разработки. Таким образом, другие приложения для знакомств (или любой продукт, куда люди могут отправлять фотографии) могли бы интегрировать эту технологию в свои собственные продукты, помогая оградить пользователей от нежелательного непристойного контента.

С момента выпуска Private Detector, Bumble также сотрудничал с законодателями США, чтобы обеспечить юридические последствия за отправку нежелательной обнаженки.

«Необходимо решить эту проблему за пределами продуктовой экосистемы Bumble и начать более широкий разговор о том, как решить проблему нежелательных непристойных фотографий, также известных как киберфлешинг, чтобы сделать Интернет более безопасным и добрым местом для всех», — добавляет компания.