Новый инструмент Google основан на глубоких нейронных сетях и доступен бесплатно для неправительственных организаций и других «отраслевых партнеров» в рамках нового Content Safety API.
Исторически такие системы работали, сравнивая полученное изображение с уже существующей базой CSAM, собранной людьми. Разработанная компанией платформа сможет эффективно справляться и с новым контентом.
«Быстрая идентификация новых изображений означает, что дети, которые сегодня подвергаются сексуальному насилию, в будущем будут гораздо лучше защищены от злоупотреблений взрослых», — пишет Google. «Мы предоставляем наш Content Safety API бесплатно и так, чтобы для фильтрации требовалось меньше действий живых людей. Эта инициатива позволит значительно повысить скорость рассмотрения потенциальных угрожающих материалов. С ее помощью цензоры могут отфильтровать на 700% больше контента за тот же период времени».