По мере того как мощные большие языковые модели становятся всё доступнее, злоумышленникам становится проще массово распространять спам по всему интернету. Если вы провели в сети хотя бы десять минут за последние несколько лет, то наверняка заметили, что спама и материалов, созданных ботами, стало ещё больше, чем раньше.
Reddit заявляет, что разработал инструменты на основе больших языковых моделей для борьбы со спамом, значительная часть которого изначально тоже была создана с помощью таких моделей. В этом есть определённая ирония, но в эпоху искусственного интеллекта платформам фактически приходится бороться с огнём с помощью огня.
По данным Reddit, платформа ежедневно блокирует 23 миллиона просмотров спам-материалов и обнаруживает около 25 тысяч новых спам-публикаций и комментариев.
Социальные платформы уже много лет создают автоматизированные средства борьбы со спамом, но Reddit утверждает, что обновлённые инструменты выявляют его значительно эффективнее.
«Мы используем большие языковые модели, чтобы обнаруживать крайне малозаметные и скоординированные схемы поддельной активности и искусственно создаваемого хайпа, которые прежние системы пропускали», — говорится в публикации Reddit.
Компания утверждает, что с января по март сократила количество спама, показываемого пользователям, на 20% по сравнению с предыдущими тремя месяцами.
Такие платформы, как YouTube, Meta* и Instagram*, разрешают публиковать материалы, созданные искусственным интеллектом, если авторы отмечают их соответствующим образом. TikTok пошёл ещё дальше и позволяет пользователям самостоятельно настраивать, сколько созданного ИИ контента они хотят видеть.
Если платформы смогут быстрее выявлять материалы, созданные искусственным интеллектом, это также позволит оперативнее находить контент, нарушающий правила, например публикации с разжиганием ненависти.
Однако специалисты по работе платформ неоднократно подчёркивали, что для наиболее эффективной модерации автоматизированные системы на основе искусственного интеллекта должны использоваться совместно с людьми-модераторами.