Учёные Принстонского университета (США) в течение нескольких лет разрабатывали систему, аналогичную той, с помощью которой Apple собирается обнаруживать изображения жестокого обращения с детьми на телефонах пользователей. По их мнению, технология может быть опасной.
Источник: engadget.com
Доцент Джонатан Майер (Jonathan Mayer) и аспирант Анунай Кулшреста (Anunay Kulshrestha) прорабатывали идею системы для обнаружения материалов о сексуальном насилии над детьми (CSAM — child sexual abuse material) в течение нескольких лет. Как и Apple, они хотели ограничить распространение подобного контента, сохраняя при этом конфиденциальность пользователей. Иными словами, целью был анализ контента в онлайн-сервисах со сквозным шифрованием.
После аналитической проработки системы учёные создали рабочий прототип. И быстро пришли к выводу, что при любом исходе данная технология оставляет нерешённой одну «вопиющую проблему». Систему можно легко перепрофилировать на решение задач слежки за пользователями и цензуры. На техническом уровне она ни при каких условиях не может ограничиваться только одним типом контента — её работа полностью подчинена содержимому базы данных, с элементами которой производится сравнение содержимого на клиентских устройствах.
Авторы проекта уточняют, что данная проблема носит не чисто гипотетический характер. К примеру, исследователи Citizen Lab при Университете Торонто обнаружили подобную систему анализа в китайском мессенджере WeChat, где аналогичный алгоритм используется для обнаружения диссидентских материалов. Учитывая, что Китай является для Apple вторым по величине рынком, ничто не сможет остановить местное правительство, если оно решит потребовать от Apple перепрофилировать систему для её использования в политических целях. Американский производитель уже неоднократно подчинялся различным требованиям Пекина.
И, наконец, существует множество сложностей исключительно технического характера. К примеру, система может давать ложноположительные срабатывания. И при наличии определённых навыков злоумышленник может обмануть систему, направив её действие против любого ни в чём не повинного пользователя.
Источник: 3DNews
