Компания Apple намерена сканировать изображения и зашифрованные сообщения пользователей iPhone в США на предмет наличия детского порно. Об этом сообщило издание AP со ссылкой на ведущего исследователя криптографии из Университета Джона Хопкинса Метью Грина.
Для проверки телефонов в компании будут использовать систему neuralMatch. Она будет сканировать изображения перед их загрузкой в iCloud и отмечать контент, содержащий сцены сексуального насилия над детьми. Затем эти изображения будет просматривать живой человек и решать, является это детской порнографией или нет. К примеру, в компании отмечают, что «родителям, которые делают невинные фотографии ребенка в ванной, наверное, не о чем переживать». Если же в телефоне найдут фото- и видеосвидетельства развращения малолетних, пользователя отключат и сообщат о нем в Национальный центр пропавших без вести и эксплуатируемых детей.
Помимо этого, в Apple планируют ввести сканирование зашифрованных сообщений в мессенджерах на наличие сексуального контента, который может навредить детям. Система контроля будет отслеживать изображения, которые получает ребенок, если телефон принадлежит ему. Если на снимках будет порнография, устройство не будет ее отображать и сообщит о выявленном родителям.
«Приложение Messages будет использовать встроенные в устройство программы машинного обучения, чтобы предупреждать о чувствительном контенте, при этом сохраняя недоступность прочтения личной переписки для компании Apple», — рассказал Грин.
Впрочем, исследователь Метью Хопкинс отмечает, что систему могут использовать для дискредитации невинных людей, к примеру, отправляя им, казалось бы, невинные изображения, которые, в итоге, будут совпадать с детской порнографией. Другие нарушения могут включать слежку со стороны правительства за диссидентами или протестующими.
