Саймон Маккензи, сотрудник службы безопасности розничной сети QD Stores под Лондоном, задыхался. Он только что погнался за тремя магазинными воришками, которые скрылись с несколькими упаковками хозяйственного мыла. До прибытия полиции он сидел за столом в задней комнате, чтобы сделать что-то важное: запечатлеть лица преступников.
На устаревшем настольном компьютере он просматривал кадры с камер наблюдения, делая паузы, чтобы увеличить и сохранить фотографии каждого вора. Затем он вошел в программу распознавания лиц Facewatch, которую его магазин использует для выявления магазинных воров. В следующий раз, когда эти люди войдут в любой магазин в пределах нескольких миль, использующий Facewatch, персонал магазина получит предупреждение.
«Это похоже на то, что кто-то рядом с вами говорит: «Тот человек, которого вы поймали на прошлой неделе, только что вернулся», — сказал г-н Маккензи.
Использование технологии распознавания лиц полицией в последние годы подвергалось тщательному изучению, но ее применению в частном бизнесе уделялось меньше внимания. Теперь, когда технология совершенствуется, а ее стоимость снижается, системы все больше проникают в жизнь людей. Распознавание лиц уже не является прерогативой государственных органов, оно все чаще используется для выявления магазинных воров, проблемных клиентов и противников закона.
Facewatch, британская компания, используется ритейлерами по всей стране, разочарованными мелкими преступлениями. Всего за 250 фунтов в месяц, или примерно 320 долларов, Facewatch предлагает доступ к индивидуальному списку наблюдения, который хранится рядом друг с другом. Когда Facewatch замечает отмеченное лицо, на смартфон в магазине отправляется оповещение, где сотрудники решают, следует ли внимательно следить за человеком или попросить его уйти.
Г-н Маккензи добавляет одно или два новых лица каждую неделю, по его словам, в основном это люди, которые воруют подгузники, продукты, товары для животных и другие недорогие товары. Он сказал, что их экономические трудности вызвали у него сочувствие, но количество краж настолько вышло из-под контроля, что потребовалось распознавание лиц. Обычно не реже одного раза в день Facewatch предупреждает его о том, что кто-то из списка наблюдения зашел в магазин.
Технология распознавания лиц распространяется, поскольку западные страны борются с достижениями искусственного интеллекта. Европейский союз разрабатывает правила, запрещающие многие виды использования распознавания лиц, а мэр Нью-Йорка Эрик Адамс призвал розничных продавцов опробовать эту технологию для борьбы с преступностью. MSG Entertainment, владелец Madison Square Garden и Radio City Music Hall, использовала автоматическое распознавание лиц, чтобы отказать во въезде юристам, фирмы которых подали в суд на компанию.
Среди демократических стран Великобритания находится в авангарде использования распознавания лиц в реальном времени, и суды и регулирующие органы одобряют его использование. Полиция Лондона и Кардиффа экспериментирует с технологией для выявления разыскиваемых преступников, когда они идут по улице. В мае его использовали для сканирования толпы на коронации короля Карла III.
Но использование розничными торговцами вызвало критику как несоразмерное решение для мелких преступлений. У людей мало возможностей узнать, что они находятся в списке наблюдения, или как подать апелляцию. В судебном иске в прошлом году группа гражданского общества Big Brother Watch назвала это «крайне оруэлловским».
Фрейзер Сэмпсон, британский уполномоченный по биометрии и камерам наблюдения, который консультирует правительство по вопросам политики, сказал, что в прошлом технология распознавания лиц вызывала «нервозность и нерешительность» из-за проблем с конфиденциальностью и плохо работающих алгоритмов.
«Но я думаю, что с точки зрения скорости, масштаба, точности и стоимости технология распознавания лиц может в некоторых областях буквально изменить правила игры», — сказал он. «Это означает, что его прибытие и развертывание, вероятно, неизбежны. Это просто тот случай, когда».
Содержание статьи
«Нельзя ожидать приезда полиции»
Facewatch был основан в 2010 году Саймоном Гордоном, владельцем популярного винного бара 19-го века в центре Лондона, известного своим интерьером в стиле подвала и популярностью среди карманников.
В то время г-н Гордон нанял разработчиков программного обеспечения для создания онлайн-инструмента для обмена видеозаписями с камер наблюдения с властями, надеясь, что это сэкономит время полиции на составление отчетов об инцидентах и приведет к большему количеству арестов.
Интерес был ограниченным, но увлечение г-на Гордона технологиями безопасности возросло. Он следил за разработками в области распознавания лиц и придумал список наблюдения, которым розничные торговцы могли бы поделиться и внести свой вклад. Это было похоже на фотографии магазинных воров, которые магазины хранят рядом с кассой, но добавленные в коллективную базу данных для выявления плохих парней в режиме реального времени.
К 2018 году г-н Гордон почувствовал, что технология готова к коммерческому использованию.
«Вы должны помочь себе», — сказал он в интервью. «Вы не можете ожидать приезда полиции».
Facewatch, который лицензирует программное обеспечение для распознавания лиц, созданное Real Networks и Amazon, теперь находится почти в 400 магазинах по всей Великобритании. Обученные на миллионах фотографий и видео, системы считывают биометрическую информацию лица, когда человек входит в магазин, и сверяют ее с базой данных отмеченных людей.
Список наблюдения Facewatch постоянно растет, поскольку магазины загружают фотографии магазинных воров и проблемных покупателей. После добавления человек остается там в течение года, прежде чем его удалят.
«Ошибки редки, но случаются»
Каждый раз, когда система Facewatch идентифицирует магазинного вора, уведомление отправляется человеку, прошедшему тест на «суперраспознавание» — человеку с особым талантом запоминать лица. В течение нескольких секунд суперраспознаватель должен подтвердить совпадение с базой данных Facewatch, прежде чем будет отправлено предупреждение.
Но, несмотря на то, что компания создала политику для предотвращения неправильной идентификации и других ошибок, ошибки случаются.
В октябре женщина, покупающая молоко в супермаркете в Бристоле, Англия, столкнулась с сотрудником и приказала уйти. Ей сказали, что Facewatch пометил ее как магазинную воровку.
Женщина, которая попросила не указывать ее имя из соображений конфиденциальности и чья история была подтверждена материалами, предоставленными ее адвокатом и Facewatch, сказала, что, должно быть, произошла ошибка. Когда через несколько дней она связалась с Facewatch, компания принесла извинения, заявив, что это был случай ошибочной идентификации.
После того, как женщина пригрозила судебным иском, Facewatch углубился в свои записи. Выяснилось, что женщина была добавлена в список наблюдения из-за инцидента 10 месяцев назад, связанного с товаром на 20 фунтов стерлингов, что составляет около 25 долларов. По словам Facewatch, система «работала отлично».
Но хотя технология правильно идентифицировала женщину, она не оставляла места для человеческого усмотрения. Ни Facewatch, ни магазин, где произошел инцидент, не связались с ней, чтобы сообщить, что она в списке наблюдения, и спросить, что случилось.
Женщина сказала, что не помнит этого инцидента и никогда не воровала в магазине. Она сказала, что могла уйти после того, как не поняла, что платеж по ее дебетовой карте не прошел в киоске самообслуживания.
Мадлен Стоун, сотрудник по правовым вопросам и политике Big Brother Watch, сказала, что Facewatch «нормализует проверки безопасности в аэропорту для повседневных действий, таких как покупка пинты молока».
Г-н Гордон отказался комментировать инцидент в Бристоле.
В целом, по его словам, «ошибки редки, но случаются». Он добавил: «Если это произойдет, мы признаем нашу ошибку, приносим извинения, удаляем все соответствующие данные, чтобы предотвратить их повторение, и предлагаем соразмерную компенсацию».
Одобрено отделом конфиденциальности
Группы по защите гражданских свобод выразили обеспокоенность по поводу Facewatch и предположили, что его использование для предотвращения мелких преступлений может быть незаконным в соответствии с британским законом о конфиденциальности, который требует, чтобы биометрические технологии представляли «существенный общественный интерес».
Управление Комиссара по информации Великобритании, регулирующее вопросы конфиденциальности, провело годовое расследование в отношении Facewatch. В марте офис пришел к выводу, что система Facewatch разрешена законом, но только после того, как компания внесла изменения в ее работу.
Стивен Боннер, заместитель комиссара офиса по регулирующему надзору, сказал в интервью, что расследование заставило Facewatch изменить свою политику: она будет размещать больше вывесок в магазинах, делиться между магазинами только информацией о серьезных и насильственных правонарушениях и рассылать предупреждения только о рецидивисты. Это означает, что люди не будут внесены в список наблюдения после одного незначительного правонарушения, как это произошло с женщиной в Бристоле.
«Это уменьшает количество хранимых личных данных, снижает вероятность того, что люди будут несправедливо добавлены в такой список, и повышает вероятность того, что он будет точным», — сказал г-н Боннер. Эта технология, по его словам, «не отличается от наличия очень хороших охранников».».
Лиам Ардерн, операционный менеджер компании Lawrence Hunt, которой принадлежат 23 мини-маркета Spar, использующих Facewatch, оценивает, что эта технология сэкономила компании более 50 000 фунтов стерлингов с 2020 года.
Он назвал риски конфиденциальности, связанные с распознаванием лиц, преувеличенными. Единственный пример неправильной идентификации, который он вспомнил, был случай, когда мужчину перепутали со своим однояйцевым близнецом, который воровал в магазине. По его словам, критики упускают из виду, что такие магазины, как его, работают с небольшой прибылью.
«Им легко сказать: «Нет, это нарушение прав человека», — сказал г-н Ардерн. По его словам, если воровство в магазинах не сократится, его магазинам придется поднять цены или сократить персонал.
