В дни, последовавшие за беспорядками 6 января у Капитолия страны, люди спешили идентифицировать тех, кто штурмовал здание. освященные залы.
Появились аккаунты в Instagram с такими именами, как «Доморощенные террористы», в которых утверждалось, что они используют программное обеспечение ИИ и нейронные сети для просмотра общедоступных изображений с целью выявления бунтовщиков. Такие исследователи, как эксперт по кибербезопасности Джон Скотт-Рейлтон, заявили, что они развернули программное обеспечение для распознавания лиц, чтобы обнаружить нарушителей, в том числе лейтенанта ВВС в отставке, который, как утверждается, был замечен в зале Сената во время беспорядков. Clearview AI, ведущая компания по распознаванию лиц, сообщила, что 7 января ее использование правоохранительными органами увеличилось на 26%.
Низкая точка американской демократии стала высокой точкой для технологии распознавания лиц.
Обещание распознавания лиц о том, что оно поможет правоохранительным органам раскрыть больше дел и быстро их решить, привело к его растущему использованию по всей стране. Опасения по поводу конфиденциальности не остановили распространение технологии: согласно отчету Счетной палаты правительства США, в период с 2011 по 2019 год правоохранительные органы выполнили 390186 поисков в базах данных, чтобы найти совпадения лиц для изображений или видео более 150 000 человек. Нет и растущего числа свидетельств того, что внедрение распознавания лиц и других технологий наблюдения нанесло непропорционально большой вред цветным сообществам.
Тем не менее, после бунта, в котором участвовали фракции сторонников превосходства белой расы, пытающиеся свергнуть результаты президентских выборов, именно цветные сообщества предупреждают о потенциальной опасности этого программного обеспечения.
«Это очень сложно — сказал Крис Гиллиард, профессор муниципального колледжа Макомба и научный сотрудник Центра Шоренштейна Гарвардской школы Кеннеди. «Я не хочу, чтобы это звучало так, как будто я не хочу, чтобы сторонники превосходства белых или повстанцы несли ответственность. Но я действительно думаю, что, поскольку систематически большая часть этих сил будет направлена против чернокожих, смуглых людей и иммигрантов, это очень жесткая веревка. Мы должны быть осторожны ».
Сообщества чернокожих, смуглых, бедных, трансгендеров и иммигрантов «регулярно подвергаются чрезмерному контролю», — сказал Стив Рендерос, исполнительный директор Media Justice, и то же самое касается слежки.
«Это всегда реакция на моменты кризиса: давайте расширим нашу полицию, давайте расширим сферу наблюдения», — сказал Рендерос. «Но это не очень помогло защитить наши общины от насилия».
Предубеждения и распознавание лиц
9 января 2020 года, примерно за год до беспорядков в Капитолии, полиция Детройта арестовала чернокожего по имени Роберт Уильямс по подозрению в краже. В процессе его допроса были прояснены две вещи: полиция арестовала его на основании сканирования с распознаванием лиц видеозаписи наблюдения и «компьютер, должно быть, ошибся», как цитируется допрашивающий офицер в жалобе, поданной ACLU. .
Обвинения против Уильямса в конечном итоге были сняты.
Уильямс — один из двух известных случаев неправомерного ареста на основании распознавания лиц. Трудно точно определить, сколько раз распознавание лиц приводило к аресту или обвинению не того человека, потому что не всегда ясно, когда использовался инструмент. В случае Уильямса раздача была в том, что допрашивающий это признал.
Гиллиард утверждает, что такие примеры, как Уильямс, могут быть более распространенными, чем общественность знает. «Я бы не поверил, что это случилось впервые. Это всего лишь первый раз, когда правоохранительные органы допустили ошибку », — сказал Гиллиард.
Технология распознавания лиц работает путем захвата, индексации и последующего сканирования баз данных с миллионами изображений лиц людей — 641 миллион на 2019 год в случае подразделения распознавания лиц ФБР — для выявления сходства. Эти изображения могут быть взяты из государственных баз данных, например изображения из водительских прав или, в случае Clearview AI, файлы, скопированные из социальных сетей или других веб-сайтов.
Исследования показывают, что технология не позволяет правильно определять цветных людей. Федеральное исследование, опубликованное в 2019 году, показало, что чернокожие и азиатские люди примерно в 100 раз чаще ошибочно идентифицируются с помощью распознавания лиц, чем белые.
Проблема может заключаться в том, как обучается программа и кто ее обучает. В исследовании, опубликованном Институтом AI Now при Нью-Йоркском университете, сделан вывод о том, что искусственный интеллект может формироваться окружающей средой, в которой он создан. Сюда входит технологическая индустрия, известная отсутствием гендерного и расового разнообразия. Такие системы разрабатываются почти исключительно в помещениях, которые «имеют тенденцию быть исключительно белыми, богатыми, технически ориентированными и мужскими», — говорится в исследовании. Это отсутствие разнообразия может распространяться на наборы данных, которые используются для некоторых программ распознавания лиц, поскольку исследования показали, что некоторые из них в основном обучались с использованием баз данных, состоящих из изображений светлокожих мужчин.
Но сторонники распознавания лиц утверждают, что когда технология разработана должным образом — без расовых предубеждений — и становится более сложной, это действительно может помочь избежать случаев неправильной идентификации.
Генеральный директор Clearview AI Хоан Тон-Тат сказал, что независимое исследование показало, что программное обеспечение его компании, со своей стороны, не имело расовых предубеждений.
«Мне как человеку смешанной расы важно иметь непредвзятые технологии, — сказал Тон-Тэт. «Ответственное использование точной, непредвзятой технологии распознавания лиц помогает снизить вероятность задержания не того человека. На сегодняшний день мы не знаем ни одного случая, когда Clearview AI привел бы к неправомерному аресту ».
Джейкоб Сноу, поверенный ACLU, который получил копию исследования по запросу публичных архивов в начале 2020 года — поставил исследование под сомнение, заявив BuzzFeed News, что оно было «абсурдным на многих уровнях».
По данным New York Times, более 600 правоохранительных органов используют Clearview AI. И сейчас это может увеличиться. Сообщается, что вскоре после нападения на Капитолий полицейское управление Алабамы и полиция Майами использовали программное обеспечение компании для выявления лиц, участвовавших в беспорядках. «Мы прилагаем все усилия, чтобы идти в ногу с ростом интереса к Clearview А.И.,» Ton-что сказал.
Учитывая недоверие и неверие к правоохранительным органам в сообществе чернокожих, улучшение технологии распознавания лиц при обнаружении черных и коричневых людей не обязательно является желанным улучшением. «Сделать черных людей одинаково видимыми для программного обеспечения, которое неизбежно будет и в дальнейшем использоваться против нас, — это не социальный прогресс», — писала кандидат в доктора наук и активистка Зои Самудзи.
Реагирование с помощью наблюдения
После бунта в Капитолии поиск «плохих парней» охватил весь Интернет. К гражданским интернет-сыщикам присоединились академики, исследователи, а также журналисты, которые исследовали социальные сети для выявления бунтовщиков. Некоторые журналисты даже использовали программное обеспечение для распознавания лиц, чтобы сообщить о том, что происходило внутри Капитолия. ФБР обратилось за советами, в частности, запросило фотографии или видео, изображающие беспорядки или насилие, и многие из тех, кто просматривает Интернет или использует распознавание лиц для идентификации бунтовщиков, ответили на этот звонок.
Инстинкт быстро реагировать на кризисы знаком не только правоохранительным органам, но и законодателям. Сразу после беспорядков агентство FBI Agents Assn. призвал Конгресс признать внутренний терроризм федеральным преступлением. По сообщению NBC News, президент Байден попросил дать оценку угрозе внутреннего терроризма и координирует свои действия с Советом национальной безопасности, чтобы «усилить и ускорить» усилия по борьбе с внутренним экстремизмом.
Но есть опасения, что борьба за реагирование приведет к поспешной политике и более широкому использованию инструментов наблюдения, что в конечном итоге может нанести ущерб общинам черных и коричневых.
«Рефлекс — поймать плохих парней», — сказал Гиллиард. «Но нормализация того, что является уникально опасной технологией, вызывает гораздо больше проблем».
Через несколько дней после беспорядков, член палаты представителей Лу Корреа (демократ из Санта-Ана) помог повторно принять закон, названный Законом о предотвращении внутреннего терроризма, который, по словам Корреа, призван облегчить законодателям получение дополнительной информации о постоянной угрозе внутреннего терроризма, создав три новых офиса по его отслеживанию и предотвращению. Он также признал потенциальную опасность распознавания лиц, но сказал, что это вопрос баланса между ними и потенциальными преимуществами.
«Распознавание лиц — острый обоюдоострый кинжал», — сказал Корреа. «Если вы используете его правильно, он защищает наши свободы и защищает наши свободы. Если вы сделаете это неправильно, наша конфиденциальность и наши свободы, которые мы пытаемся защитить, могут оказаться под угрозой ».
Помимо распознавания лиц, активистов беспокоят призывы к гражданским лицам сканировать социальные сети как средство давать советы правоохранительным органам.
«Необученные люди, ищущие в Интернете, могут в конечном итоге принести больше вреда, чем пользы, даже с самыми лучшими намерениями», — сказал Эван Грир, директор группы по цифровым правам и конфиденциальности Fight for the Future. Грир процитировал ответ на теракт в Бостонском марафоне на Reddit, когда сабреддит Find Boston Bombers ошибочно назвал несколько человек подозреваемыми.
«Вы всегда должны спрашивать себя, как это могло быть использовано на вас и вашем сообществе», — сказала она.
Исторически нападения на американскую землю вызвали реакцию правоохранительных органов и политику наблюдения, которая, как показывают исследования, нанесла ущерб общинам меньшинств. Это вызывает беспокойство мусульманских, арабских и чернокожих общин после бунта в Капитолии.
После взрыва в Оклахома-Сити, когда антиправительственные экстремисты убили 168 человек, федеральное правительство быстро приняло Закон 1996 года о борьбе с терроризмом и эффективной смертной казни, который, как писал проект Маршалла, «непропорционально повлиял на черных и коричневых. обвиняемые по уголовным делам, а также иммигранты ».
Даже законы о преступлениях на почве ненависти оказывают непропорционально сильное влияние на общины чернокожих: чернокожие составляют 24% всех обвиняемых в преступлениях на почве ненависти в 2019 году, хотя, согласно статистике Министерства юстиции США, они составляют лишь 13% населения США.
«Всякий раз, когда они принимают законы, направленные на борьбу с насилием со стороны белых, это наносит гораздо больший урон чернокожим», — заявила Маргари Хилл, исполнительный директор организации «Мусульманское антирасистское объединение», на инаугурационной панели, организованной Муслимом комитет политических действий Emgage.
В ответ на теракты 11 сентября федеральные и местные органы власти реализовали несколько программ сплошного наблюдения по всей стране — наиболее печально известно в Нью-Йорке, — которые ACLU и другие правозащитные группы давно утверждали, нарушая неприкосновенность частной жизни и гражданские права многих американских мусульман и арабов.
Многие группы гражданских прав, представляющие цветные сообщества, не уверены в перспективах правоохранительных органов, использующих те же инструменты для искоренения правого экстремизма, а в некоторых случаи, белое превосходство.
«[Law enforcement] знает, что превосходство белых — это реальная угроза, и люди, которые поднимаются в беспорядках, являются реальной угрозой», — сказал Лау Барриос, руководитель кампании мусульманской низовой организации MPower Change, ссылаясь на доклад Министерства внутренней безопасности, в котором белые расы были названы самой постоянной и смертоносной угрозой, с которой столкнулась страна в октябре 2020 года.
Вместо этого они сосредотачивают свои ресурсы на таких движениях, как Black Lives Matter, — сказала она. вселили в них больше страха, чем насилие сторонников превосходства белой расы, хотя они никоим образом не сопоставимы »
Эти группы также заявляют, что любые призывы к усилению слежки на самом деле необоснованны. Беспорядки в Капитолии планировались открыто, на открытых форумах в Интернете, и полиция Капитолия была предупреждена заранее Они утверждают, что полиции Нью-Йорка и ФБР нет недостатка в механизмах наблюдения, уже доступных правоохранительным органам.
Аппарат наблюдения в США огромен и включает в себя сотни совместных террористических групп, сотни По словам Рендероса, полицейские управления, оснащенные дронами и даже больше, которые сотрудничают с сетью Amazon Ring
.
«Чтобы быть чернокожим, быть мусульманином, быть женщиной, быть иммигрантом в Соединенных Штатах, необходимо наблюдать», — сказал он. «Сколько еще потребуется наблюдения, чтобы мы были в безопасности? Короткий ответ: не будет ».
