Во вторник губернатор Нью-Йорка Эндрю Куомо объявил мораторий на распознавание лиц и биометрические технологии в государственных и частных школах в по крайней мере до июля 2022 года. Один из немногих округов страны, где используется распознавание лиц в своих школах, школьный округ Локпорт-Сити, будет соблюдать мораторий на распознавание лиц сообщает Lockport Journal .
Кажется, это не лучший выбор администраторов западного округа Нью-Йорка. Документы, полученные BuzzFeed News по запросу показывают, что в слайд-презентации они утверждали, что когда дело доходит до распознавания лиц, «история на нашей стороне».
Неясно, кто дал презентация, где и когда. Но у него есть четкое послание в пользу слежки.
«Нам, возможно, придется иметь толстую кожу, чтобы продолжать противостоять дезинформации и быть безответственными и неспособными принять правильное решение в отношении технологий, которые мы не могли понять , но история показывает, что мы находимся в хорошей компании », — говорится в слайд-презентации, подготовленной школьным округом Локпорта. «Очень легко сказать, что что-то нехорошее, опасное или безответственное, если мы ничего не делаем, чтобы на самом деле узнать правду».
После стрельбы в 2018 году в средней школе Марджори Стоунман Дуглас, Локпорт объявил, что будет использовать Aegis, систему распознавания лиц, разработанную биометрической технологической компанией SNTech. Учитывая постоянную угрозу стрельбы в школах с личным присутствием некоторые родители и учителя утверждали, что технология — единственный способ защитить учащихся — будь то программное обеспечение, которое наблюдает за каждым прикосновением пальца к типу ребенка. или школы построенные как крепости .
Со своей стороны, школьный округ, обслуживающий чуть менее 4500 учащихся возле Ниагарского водопада, стал одним из первых в страна для использования распознавания лиц. Aegis был принят как часть проекта повышения безопасности стоимостью 3,8 миллиона долларов, затрагивающего шесть начальных школ и три средних и старших школы. Деньги также пошли на установку камер видеонаблюдения, тревожных кнопок и технологии контроля дверей.
Представитель школьного округа сказал BuzzFeed News, что даже если округ будет соблюдать новый закон, он предпочел бы и дальше использовать распознавание лиц. «Округ по-прежнему считает, что его учащиеся, сотрудники и посетители не должны быть лишены дополнительного уровня безопасности, обеспечиваемого системой распознавания лиц», — сказал BuzzFeed News представитель школьного округа Локпорт-Сити. «Тем не менее, округ, конечно, будет соблюдать действующее законодательство».
В слайд-презентации, озаглавленной «Безопасность Aegis: возможность для обсуждения», округ обращается к проблемам распознавания лиц. Например, он утверждает, что Aegis точен для различных категорий пола и расы. Вероятно, это было сделано для того, чтобы устранить опасения, что распознавание лиц оказалось менее точным при использовании для идентификации цветных женщин или людей . В качестве примеров в презентации используются точные идентификационные данные Aegis актеров Лупиты Нионго и покойного Чедвика Боузмана.
«Система использует биометрические измерения и нейробиологию для определения форм и закономерностей», — говорится в слайд-презентации. «Он не видит, что мужчины, женщины, черные, белые, латиноамериканцы и т. Д., Числа и математические уравнения определяют совпадение».
Мэтью Гуарилья, политический аналитик Electronic Frontier Foundation , сказал BuzzFeed News, что этот аргумент не соответствует действительности.
«Это фиговый листок, который мы слышим все время, когда у нас есть технология, которая непропорционально влияет на уязвимые сообщества, то есть она не является необъективной. Это просто математика. На чем может основываться математика? » он сказал. «Но правда в том, что эта технология разработана людьми и обучена с помощью баз данных или людьми».
На одном из двух слайдов под названием «История на нашей стороне» школьные администраторы сравнивают опасения по поводу распознавания лиц со страхом и недоверие к телефону, письму, книгам, радио, кино и компьютерам. «Отказ от того, что мы не понимаем, без надлежащей оценки из-за страха, подозрительности, лени, когда имелся скрытый мотив, было глупостью на протяжении всей истории».
Гуарилья также критиковал этот аргумент. «История так же полна технологий, которые были использованы, решены, что они вредны или инвазивны, и отвергнуты», — сказал он. «У вас больше шансов сопоставить распознавание лиц с использованием свинцовой краски, чем с использованием радио ».
В слайд-презентации школьные администраторы говорят, что Aegis« сканирует 4 миллиона изображений в секунду »,« идентифицирует оружие и лица »и« требует подтверждения с помощью человеческого монитора для каждого предупреждения системы безопасности ». Используя распознавание объектов, Aegis утверждает, что находит «наиболее распространенное огнестрельное оружие» и предупреждает школьную администрацию. Если бы человек подтвердил наличие оружия, система автоматически предупредила бы полицию и заблокировала бы школу.
Распознавание лиц работает путем сопоставления видеозаписей с камеры видеонаблюдения с базой данных, хранящейся в округе, которая включает в себя сексуальных преступников, «неуполномоченных сотрудников», отстраненных от занятий студентов и других угрожающих людей.
В презентации говорится, что Aegis не « отслеживать студентов, сотрудников или посетителей », хранить информацию о лицах,« которые не идентифицированы как угроза », обнаруживать« скрытое »оружие или передавать информацию сторонним поставщикам.
В отдельном документе о конфиденциальности говорится, что изображения не будет храниться дольше 60 дней, если только это не будет частью расследования.
BuzzFeed News также получил отдельную слайд-презентацию подготовленную SNTech от августа 2019 года. Неясно, кто указал Я создал презентацию, и кому в школьном округе Локпорт-Сити она была представлена. В презентации говорится: «Мы настаиваем на том, чтобы наша система была подключена ко всем камерам» и чтобы она проверяла изображения со скоростью 13 кадров в секунду. Когда система обнаруживает совпадение, она делает это правильно в 99,96% случаев, согласно тесту точности распознавания лиц, проведенному Национальным институтом стандартов и технологий. NIST не сразу ответил на запрос BuzzFeed News о комментариях.
Государственный мораторий на распознавание лиц требует изучения эффективности и точности распознавания лиц. Гуарилья отметил, что любая система распознавания лиц хороша ровно настолько, насколько хороши люди, которые ее используют, и данные, на которых она обучена. «Эта технология может быть объективной только в зависимости от системы, в которой она работает», — сказал он. «И карательная система Америки имеет расовые предубеждения».
