Программа Fawkes может защитить фотографии от распознавания лиц

В последние годы компании ищут в Интернете публичные фотографии, связанные с именами людей, которые они могут использовать для создания огромных баз данных лиц и улучшения своих систем их распознавания. У людей появляется чувство, что личная конфиденциальность теряется, бит за цифровым битом.

Стартап Clearview AI, например, собрал миллиарды фотографий в интернете, чтобы создать инструмент для полиции, который мог бы вести их от фотографии лица к учетной записи Facebook, раскрывая личность человека.

Теперь исследователи пытаются разрушить эти системы. Команда компьютерных инженеров из Чикагского университета разработала инструмент, который маскирует фотографии с помощью изменений на уровне пикселей, которые путают системы распознавания лиц.

Названное Fawkes в честь маски Гая Фокса, пользующейся популярностью у протестующих по всему миру, программное обеспечение было доступно разработчикам на веб-сайте исследователей в прошлом месяце. После того, как его обнаружили Hacker News, он был загружен более 50 000 раз. Исследователи работают над бесплатной версией приложения для некодеров, которую они надеются сделать доступной в ближайшее время.

«Наша цель-заставить Clearview уйти», — сказал Бен Чжао, профессор компьютерных наук в Чикагском университете.

«Фокс» преобразует изображение или «маскирует» его, говоря языком исследователей — путем тонкого изменения некоторых особенностей, от которых зависят системы распознавания лиц, когда они создают отпечаток лица человека. В ходе тестирования исследователи смогли обмануть системы распознавания лиц от Amazon, Microsoft и китайской технологической компании Megvii.

Однако изменения на фотографиях были заметны невооруженным глазом. У исследователей было несколько объяснений этому. Одно из них заключается в том, что программное обеспечение предназначено для сопоставления изображения с шаблоном лица кого-то, кто выглядит как можно более непохожим на это лицо, извлекая из базы данных лица знаменитостей. Это обычно заканчивается тем, что у многих на фотографиях появляются усы, синяки или длинные волосы.

Команда говорит, что планирует настроить программное обеспечение таким образом, чтобы оно тоньше работало с изменениями и маскировкой.

«Фокс» не предназначен для того, чтобы система распознавания лиц, подобная Facebook, не могла распознать кого-то на одной фотографии. Он пытается более широко испортить системы распознавания лиц, выполняя алгоритмическую атаку, называемую отравлением данных.

Исследователи заявили, что в идеале люди должны были бы начать маскировать все загруженные ими изображения. Это означало бы, что такая компания, как Clearview, не сможет создать функционирующую базу данных, потому что неопознанная фотография человека из реального мира не будет соответствовать шаблону, который Clearview построил бы с течением времени из его онлайн-фотографий.

Джей Нэнкарроу, представитель Facebook, не исключил возможности использования программы, когда его попросили прокомментировать ситуацию. «В рамках наших усилий по защите частной жизни людей у нас есть специальная команда, изучающая этот тип технологии и другие методы предотвращения неправильного использования фотографий», — сказал г-н Нэнкарроу.

По материалам The New York Times