Apple будет определять в фотографиях пользователей «чувствительный контент»

Apple станет проверять переписку и содержимое облачного сервиса iCloud на наличие запрещенных материалов, вроде детской порнографии или иной эксплуатации несовершеннолетних.. Функция будет внедрена в новых версиях программного обеспечения для всех устройств.

«Приложение Messages будет использовать встроенные в устройство программы машинного обучения, чтобы предупреждать о чувствительном контенте, сохраняя при этом недоступность прочтения личной переписки для Apple. iOS и iPadOS будут использовать новые криптографические приложения, чтобы ограничить распространение материалов с детской порнографией в интернете», — говорится в сообщении.

В Apple отметили, что технология разработана с учетом конфиденциальности пользователей, поэтому фотографии в iCloud фактически не будут сканироваться. Речь идет о сопоставлении цифровых отпечатков, изображений, с базой данных известных иллюстраций сексуального насилия над детьми, пояснили в компании.

Если же на устройство ребенка пришлют фотографию неподобающего характера, она станет размытой, а пользователю поступит предупреждение. В случае когда отправить подобное изображение захочет сам ребенок, ему также сделают предупреждение, а родителям в случае отправки фото придет сообщение.

Кроме того, специальные приложения по определению материалов в iCloud с детской порнографией «помогут Apple предоставлять правоохранительным органам ценную информацию».

Ряд экспертов раскритиковали новую разработку, пишет РБК. В частности, доцент Института информационной безопасности Джонса Хопкинса, эксперт по безопасности Мэтью Грин назвал ее «действительно плохой идеей». «Такого рода инструмент может стать благом для поиска детской порнографии в телефонах. Но представьте, что он может сделать в руках авторитарного правительства?» — заявил он.

В свою очередь, профессор техники обеспечения безопасности в Кембриджском университете Росс Андерсон в разговоре с газетой предупредил, что инициатива Apple может привести «к децентрализованной массовой слежке за телефонами и ноутбуками».

«Безусловно, борьба с детским порно важная тема, однако в современном мире если ты признался, что можешь досматривать фотки на предмет детского порно — ты автоматически сознался что можешь досматривать фотки, а значит правительства всего мира не замедлят прийти и намекнуть, что они хотели бы знать о содержимом ваших фоток. Не знаю как вы, а я очень, очень расстроен, настолько что даже поддерживаю EFF в их праведном гневе. Даже то, что эппл обещает делать это все прямо на вашем устройстве не облегчает ситуацию. Ложные срабатывания бывают у любого алгоритма, это обязательно приведет к тому, что часть ваших невинных фоток будут размечены как детское порно», — пишет Григорий Бакунов.