Новости
Google создал ИИ для фильтрации оскорбительных для детей материалов
Сегодня Google анонсировал новую технологию на основе искусственного интеллекта, призванную проактивно выявлять оскорбительные для детей сексуальные материалы (CSAM).
Новый инструмент Google основан на глубоких нейронных сетях и доступен бесплатно для неправительственных организаций и других «отраслевых партнеров» в рамках нового Content Safety API.
Исторически такие системы работали, сравнивая полученное изображение с уже существующей базой CSAM, собранной людьми. Разработанная компанией платформа сможет эффективно справляться и с новым контентом.
«Быстрая идентификация новых изображений означает, что дети, которые сегодня подвергаются сексуальному насилию, в будущем будут гораздо лучше защищены от злоупотреблений взрослых», — пишет Google. «Мы предоставляем наш Content Safety API бесплатно и так, чтобы для фильтрации требовалось меньше действий живых людей. Эта инициатива позволит значительно повысить скорость рассмотрения потенциальных угрожающих материалов. С ее помощью цензоры могут отфильтровать на 700% больше контента за тот же период времени».
