На темной стороне силы: чем грозят технологии распознавания лиц

Новости Приватность Технологии

Имя можно поменять или использовать псевдоним, учетную запись в социальной сети можно удалить или изменить в ней данные, но переделать лицо не так-то просто. Технология распознавания лиц позволяет нам решать множество проблем и одновременно создает немало новых. Давайте поговорим о том, чем нам грозит глобальное распространение таких решений.
На темной стороне силы: чем грозят технологии распознавания лиц

Потеря права на частную жизнь — в глобальном масштабе

ФБР вполне официально и публично собрало базу под названием Next Generation Identification (NGI), которая содержит около 30 млн фото обвиняемых или осужденных по гражданским и уголовным делам. Вроде бы все нормально, да? Вот только в этом году Счетная палата США проверила работу бюро и обнаружила, что на самом деле база данных ФБР содержит 412 млн фотографий, в том числе тех людей, которые никогда не проходили ни по каким делам. В бюро нашлось целое подразделение, которое занимается исключительно распознаванием лиц, — Facial Analysis, Comparison and Evaluation (FACE) Services.

Как оказалось, представители ФБР договорились с 16 штатами, чтобы получить фотографии из водительских удостоверений, заявок на выдачу паспортов и виз, снимки подозреваемых и осужденных. В базу FACE входят в том числе и фотографии иностранных граждан. Напомним: сейчас в США проживают более 324 млн человек, то есть количество снимков иностранцев может составлять почти 100 млн.

ФБР активно применяет распознавание лиц в расследованиях. В предыдущем посте мы писали о том, что в целом этот подход приносит плоды. Но вот в чем проблема: технология распознавания лиц пока еще недостаточно совершенна и часто работает с погрешностями. И система ФБР — не исключение: она предвзято относится к афроамериканцам и в лучшем случае работает с точностью 80–85%.

При этом ФБР намеренно скрывает информацию о том, как и в каких масштабах используются новые технологии (вопреки требованиям Privacy Impact Assessment).

Напомним, что правительство Москвы и правоохранительные органы России стараются не отставать и готовятся внедрить технологию FaceN (именно эта разработка легла в основу российского сайта для поиска людей по фото FindFace). Системе распознавания лиц скормят записи с городских видеокамер, а их в Москве гораздо больше сотни тысяч.

Как сообщает «Медуза», «такой системы нет ни в одном городе мира. Алгоритм сможет не только находить людей по базе преступников, но и выделять отдельных людей в любой части города и находить их страницы в социальных сетях, из которых почти всегда можно узнать многое об их жизни».

Кстати, в начале этого года Госдума обязала российские суды считать доказательствами фото- и видеоматериалы. Ранее этот вопрос оставался на усмотрение суда.

Произвол правоохранительных органов

Уже есть примеры того, как подобные системы дают сбой, причем иногда это психологический сбой в головах людей, которые получают возможность использовать эту систему. В августе в New York Times писали о том, что полиция Сан-Диего собирает снимки виновных и невиновных без разрешения самих граждан.

27-летний житель Сан-Диего Аарон Харви, афроамериканец, жаловался на предвзятое отношение полиции. Он живет в одном из самых неспокойных районов города. Возможно, поэтому полиция останавливала его более 50 раз, подозревая, что он является членом одной из городских банд. Когда он отказался принять участие в сканировании, офицер полиции ответил, что сделает фотографию в любом случае.

«Он сказал: «Мы в любом случае сделаем снимок — легально или нет» — и вытащил меня из машины» — так Аарон описал случившееся изданию New York Times.

В Бостоне тоже тестировали систему распознавания лиц — но давно, еще до 2013 года. Ее подключили к камерам наблюдения в центре города, чтобы втайне сканировать лица людей во время концертов и других мероприятий, проходивших на открытом воздухе. По окончании тестирования программу было решено свернуть по этическим соображениям. Но, как видим, в Бостоне одно, а глобально подобные системы повсеместно встают на вооружение госорганов.

Тотальная слежка со стороны корпораций

Существуют организации, в базе данных которых даже больше лиц, чем у ФБР. В первую очередь это социальные сети: Facebook, Instagram (который тоже принадлежит Facebook), «ВКонтакте», Google с ее Google+ и другие. Причем у большинства из них есть свои собственные решения по распознаванию лиц, которые усиленно развиваются и совершенствуются.

Microsoft сейчас работает над технологией для приложения FamilyNotes, которая позволит отличать одного пользователя от другого с помощью системы распознавания лиц и камеры, встроенной в ноутбук или мобильное устройство. Так как Microsoft производит одну из самых популярных ОС в мире, это приложение существенно пополнит базу лиц компании.

Система распознавания Facebook пока что является одной из самых точных. В 2012 году компания запустила этот инструмент без лишнего шума, причем он был включен для всех пользователей по умолчанию. Позднее на Facebook посыпались иски, причем их число растет до сих пор (Google, кстати, тоже судится по аналогичным обвинениям). В результате компания была вынуждена отключить эту функцию для определенных регионов.

Стоит также отметить определенную пристрастность Facebook: в базе знаний соцсети нет ни одной статьи, которая бы объясняла, как можно отключить функцию распознавания лиц. А делается это вовсе не в один клик.

Если вы не зарегистрированы ни в одной социальной сети (или не загружали в них свои фотографии), ваше лицо все равно может попасть в базу какой-нибудь компании. В прошлом году житель Чикаго подал в суд на сервис фотоальбомов Shutterfly, пополнявший свою базу лиц снимками людей без их разрешения, даже если эти люди не были пользователями сервиса. Посторонний человек (видимо, знакомый) загрузил портрет пострадавшего на сайт Shutterfly и подписал снимок.

Вас может найти кто угодно

Система распознавания лиц, доступ к которой открыт всем и каждому, может стать инструментом для самосуда. В этом году у входа в подъезд петербургской новостройки двое молодых людей устроили пожар, а затем дебоширили в лифте. Развлечения пироманов попали в поле зрения нескольких видеокамер.

Когда полиция отказалась возбуждать уголовное дело, жители дома взяли дело в свои руки: запросили у управляющей компании видео, сделали скриншоты с лицами хулиганов и нашли их в соцсетях с помощью того самого сервиса FindFace.

О своем открытии народные следователи сообщили в полицию. Сейчас двум молодым людям предъявлены обвинения. В видеорепортаже РЕН ТВ один из жителей говорил о том, что собранных данных достаточно, чтобы отправить «письма счастья» друзьям хулиганов, а также по месту работы и учебы.

Хотя петербуржцы проявили терпение и доверили дело полиции, не все пользователи Сети отличаются такой деликатностью. Было бы желание — поводы для травли всегда найдутся. Вспомнить хотя бы участников анонимного форума «Двач», открывших сезон охоты на российских порноактрис с помощью того же FindFace. Тролли находили страницы девушек в соцсетях и писали их друзьям и родственникам провокационные сообщения с соответствующими иллюстрациями. Друзья многих девушек встали на их защиту, в том числе угрожая троллям расправой.

При этом создатель сервиса FindFace Максим Перлин уверен, что в наше время за приватность нужно платить, причем в буквальном смысле. В эфире на православном интернет-телеканале «Царьград» он заявил, что, если человек не хочет быть в глобальной базе данных, ему нужно купить у FindFace платный аккаунт. Месяц приватности на сервисе сейчас стоит 500 рублей.

От безопасности до катастрофы — один шаг

Считается, что сканирование наших биометрических показателей, таких как отпечатки пальцев, радужная оболочка глаз, и даже наших лиц вскоре заменит пароли и сделает мир более безопасным местом.

Уже сейчас Microsoft готовит технологию, которая позволит вам авторизоваться в приложении при помощи снимка лица. NEC изучает, как можно использовать распознавание лиц для электронных платежей. MasterCard разрабатывает систему идентификации клиентов по селфи, которая позволит отправлять денежные переводы без паролей.

Мы уже писали о недостатках дактилоскопии, а теперь поговорим в том же ключе о системах распознавания лиц. Все утыкается в постоянно совершенствующиеся системы 3D-печати. Уже сейчас с их помощью можно распечатать очень реалистичную копию лица человека. Разработчикам новых систем идентификации придется это учесть, если они хотят сделать действительно безопасные решения.

Например, MasterCard в своей системе требует моргнуть по команде — чтобы ее нельзя было обмануть с помощью такого вот отпечатка лица. Но пока неизвестно, насколько легко или сложно как-то подделать моргание и все-таки обмануть систему.

«Мой коллега распечатал мое лицо на 3D-принтере» — пост пользователя сайта Imgur

Не отдавайте свое лицо кому попало

В Интернете можно найти Anaface — сайт, который по фотографии определяет, насколько вы красивы. В качестве критерия среди прочего используется то, насколько симметричное у вас лицо, — согласитесь, несколько спорный показатель. Например, фотография Анджелины Джоли набрала в Anaface 8,4 балла из 10. Но если присмотреться к этому сервису повнимательнее, становится понятно, что это не единственный его недостаток.

Во-первых, запуск Anaface сопровождался пресс-релизом, в котором создатели признались: они запустили свой проект, чтобы люди чаще обращались к пластическому хирургу. Зато честно.

Во-вторых, условия использования этого сервиса оказались не просто нечитаемыми (чтобы просмотреть их все, нужно бесконечно скроллить текст, написанный мелкими буквами в небольшом окошке), но и очень сомнительными. Каждый пользователь сайта предоставляет ему «неэксклюзивную сублицензию на загруженные фотографии с правом передачи другим лицам», причем бесплатно, то есть сервис не обязан перечислять людям деньги за продажу их снимков.

При этом пользователи обязуются загружать на сайт только свои данные и фотографии — и ничьи более. В условиях использования также что-то говорится о приватности, возможности удалить свои снимки после регистрации аккаунта — вот только возможность зарегистрировать учетную запись на Anaface в принципе отсутствует.

В общем, с помощью систем распознавания лиц как государство, так и корпорации и даже отдельные люди могут наворотить немало дел. Но от них можно спрятаться — мы уже рассказывали как.