Reddit использует большие языковые модели для решения проблемы, которую во многом создали сами большие языковые модели

По мере того как мощные большие языковые модели становятся всё доступнее, злоумышленникам становится проще массово распространять спам по всему интернету. Если вы провели в сети хотя бы десять минут за последние несколько лет, то наверняка заметили, что спама и материалов, созданных ботами, стало ещё больше, чем раньше.

Reddit заявляет, что разработал инструменты на основе больших языковых моделей для борьбы со спамом, значительная часть которого изначально тоже была создана с помощью таких моделей. В этом есть определённая ирония, но в эпоху искусственного интеллекта платформам фактически приходится бороться с огнём с помощью огня.

По данным Reddit, платформа ежедневно блокирует 23 миллиона просмотров спам-материалов и обнаруживает около 25 тысяч новых спам-публикаций и комментариев.

Социальные платформы уже много лет создают автоматизированные средства борьбы со спамом, но Reddit утверждает, что обновлённые инструменты выявляют его значительно эффективнее.

«Мы используем большие языковые модели, чтобы обнаруживать крайне малозаметные и скоординированные схемы поддельной активности и искусственно создаваемого хайпа, которые прежние системы пропускали», — говорится в публикации Reddit.

Компания утверждает, что с января по март сократила количество спама, показываемого пользователям, на 20% по сравнению с предыдущими тремя месяцами.

Такие платформы, как YouTube, Meta* и Instagram*, разрешают публиковать материалы, созданные искусственным интеллектом, если авторы отмечают их соответствующим образом. TikTok пошёл ещё дальше и позволяет пользователям самостоятельно настраивать, сколько созданного ИИ контента они хотят видеть.

Если платформы смогут быстрее выявлять материалы, созданные искусственным интеллектом, это также позволит оперативнее находить контент, нарушающий правила, например публикации с разжиганием ненависти.

Однако специалисты по работе платформ неоднократно подчёркивали, что для наиболее эффективной модерации автоматизированные системы на основе искусственного интеллекта должны использоваться совместно с людьми-модераторами.