Седой мужчина идет по вестибюлю офиса, держа чашку кофе, глядя вперед, проходя мимо входа.
Похоже, он не подозревает, что за ним следит сеть камер, которые могут определить не только то, где он был, но и то, кто был с ним.
Технологии наблюдения уже давно способны идентифицировать вас. Теперь с помощью искусственного интеллекта он пытается выяснить, кто ваши друзья.
С помощью нескольких кликов это программное обеспечение «совместного появления» или «корреляционного анализа» может найти любого, кто появлялся на кадрах наблюдения в течение нескольких минут от седовласого мужчины за последний месяц, вычеркнуть тех, кто мог быть рядом с ним. раз или два, и сосредоточиться на человеке, который появлялся 14 раз. Программное обеспечение может мгновенно отмечать потенциальные взаимодействия между двумя мужчинами, которые теперь считаются вероятными партнерами, в календаре с возможностью поиска.
Vintra, компания из Сан-Хосе, которая в прошлом году продемонстрировала технологию на отраслевой видеопрезентации, продает функцию совместного появления как часть набора инструментов для анализа видео. Фирма хвастается на своем веб-сайте отношениями с San Francisco 49ers и полицейским управлением Флориды. Служба внутренних доходов и дополнительные полицейские управления по всей стране оплатили услуги Vintra, согласно базе данных государственных контрактов.
Хотя технология совместного появления уже используется авторитарными режимами, такими как китайский, Vintra, похоже, является первой компанией, продвигающей ее на Западе, говорят отраслевые специалисты.
В первом кадре ведущий идентифицирует «цель». Во втором он находит людей, которые появлялись в одном кадре с ним в течение 10 минут. В третьем камера снимает «соратника» от первого лица.
(IPVM)
Но фирма является одной из многих тестирующих новые приложения для искусственного интеллекта и наблюдения с небольшим общественным контролем и несколькими формальными гарантиями от вторжений в частную жизнь. В январе, например, официальные лица штата Нью-Йорк раскритиковали фирму, владеющую Мэдисон-Сквер-Гарден, за использование технологии распознавания лиц для запрета сотрудникам юридических фирм, подавших на компанию в суд, посещать мероприятия на арене.
Отраслевые эксперты и наблюдатели говорят, что если инструмент совместного появления сейчас не используется — а один аналитик выразил уверенность в этом — он, вероятно, станет более надежным и более доступным по мере развития возможностей искусственного интеллекта.
Ни одна из организаций, ведущих бизнес с Vintra, с которыми связалась The Times, не подтвердила использование функции совместного появления в программном пакете Vintra. Но некоторые прямо не исключали этого.
Правительство Китая, которое наиболее агрессивно использовало слежку и ИИ для контроля над своим населением, использует поиск по совместным появлениям, чтобы выявлять протестующих и диссидентов, объединяя видео с обширной сетью баз данных, чего Vintra и ее клиенты не смогли бы сделать. , сказал Конор Хили, директор правительственных исследований IPVM, исследовательской группы по наблюдению, которая принимала презентацию Vintra в прошлом году. По его словам, технология Vintra может быть использована для создания «более простой версии» возможностей китайского правительства.
Некоторые штаты и местные органы власти в США ограничивают использование распознавания лиц, особенно в полиции, но федеральный закон не применяется. По словам Клэр Гарви, специалиста по технологиям слежения, Клэр Гарви, ни один закон прямо не запрещает полиции проводить обыски с участием лиц, таких как Винтра Национальная ассоциация адвокатов по уголовным делам. В нескольких штатах есть какие-либо ограничения на то, как частные лица используют распознавание лиц.
Полицейское управление Лос-Анджелеса завершило программу профилактической работы полиции, известную как PredPol, в 2020 году на фоне критики за то, что она не останавливает преступность и привела к усилению охраны чернокожих и латиноамериканских районов. Программа использовала искусственный интеллект для анализа огромных объемов данных, в том числе предполагаемой принадлежности к банде, чтобы в режиме реального времени предсказать, где могут произойти преступления против собственности.
В отсутствие национальных законов многим полицейским управлениям и частным компаниям приходится самостоятельно взвешивать баланс между безопасностью и конфиденциальностью.
«Это воплощение оруэлловского будущего», — сказал сенатор Эдвард Дж. Марки, демократ из Массачусетса. «Очень тревожное состояние наблюдения, когда вас отслеживают, помечают и классифицируют для использования организациями государственного и частного секторов, о которых вы не знаете».
В ближайшие недели Марки планирует повторно внести законопроект, который остановит использование технологий распознавания лиц и биометрических технологий федеральными правоохранительными органами и потребует от местных властей и правительств штатов запретить их в качестве условия получения федеральных грантов.
На данный момент некоторые отделы говорят, что им не нужно делать выбор из соображений надежности. Но по мере развития технологий они будут.
Vintra, софтверная компания из Сан-Хосе, в прошлом году представила «корреляционный анализ» IPVM, исследовательской группе абонентов.
(IPVM)
Руководители Vintra не ответили на многочисленные звонки и электронные письма от The Times.
Но исполнительный директор компании Брент Букештейн подробно рассказал о возможном использовании технологии во время видеопрезентации с IPVM.
«Вы можете пойти сюда и создать цель на основе этого парня, а затем посмотреть, с кем этот парень тусуется», — сказал Букештейн. «Вы действительно можете начать строить сеть».
Он добавил, что «в 96% случаев нет событий, в которых заинтересована служба безопасности, но всегда есть информация, которую генерирует система».
Четыре агентства, которые используют транзитную станцию Сан-Хосе, использованную в презентации Vintra, отрицали, что их камеры использовались для создания видео компании.
Две компании, указанные на веб-сайте Vintra, 49ers и Moderna, фармацевтическая компания, которая произвела одну из наиболее широко используемых вакцин против COVID-19, не ответили на электронные письма.
Несколько полицейских управлений признали, что сотрудничали с Vintra, но ни одно из них прямо не заявило, что проводило совместный обыск.
Брайан Джексон, помощник начальника полиции в Линкольне, штат Небраска, сказал, что его отдел использует программное обеспечение Vintra, чтобы сэкономить время на анализе многочасового видео за счет быстрого поиска шаблонов, таких как синие автомобили и другие объекты, которые соответствуют описаниям, используемым для раскрытия конкретных преступлений. Но камеры, к которым подключается его отдел, включая камеры Ring и те, которые используются предприятиями, недостаточно хороши для сопоставления лиц, сказал он.
«Есть ограничения. Это не волшебная технология», — сказал он. «Для хороших результатов требуются точные входные данные».
Джарод Каснер, помощник начальника в Кенте, штат Вашингтон, сказал, что его отдел использует программное обеспечение Vintra. Он сказал, что не знал о функции совместного появления и должен был подумать, является ли она законной в его штате, одном из немногих, который ограничивает использование распознавания лиц.
«Мы всегда ищем технологии, которые могут помочь нам, потому что они умножают силы» для отдела, который борется с кадровыми проблемами, — сказал он. Но «мы просто хотим убедиться, что мы в пределах границ, чтобы убедиться, что мы делаем это правильно и профессионально».
Офис шерифа округа Ли во Флориде заявил, что использует программное обеспечение Vintra только для подозреваемых, а не «для отслеживания людей или транспортных средств, которые не подозреваются в какой-либо преступной деятельности».
Полицейское управление Сакраменто сообщило в электронном письме, что оно использует программное обеспечение Vintra «экономно, если вообще использует», но не уточнило, использовало ли оно когда-либо функцию совместного появления.
«Мы находимся в процессе пересмотра нашего контракта с Vintra и того, следует ли продолжать использовать его сервис», — говорится в заявлении департамента, в котором также говорится, что он не может указать на случаи, когда программное обеспечение помогло раскрыть преступления.
В заявлении IRS говорится, что оно использует программное обеспечение Vintra «для более эффективного просмотра длинных видеозаписей в качестве улик при проведении уголовных расследований». Чиновники не сказали, использовало ли IRS инструмент совместного появления или где были размещены камеры, только то, что оно следовало «установленным протоколам и процедурам агентства».
Джей Стэнли, поверенный Американского союза гражданских свобод, который впервые рассказал о видеопрезентации Vintra в прошлом году в своем блоге, сказал, что не удивлен, что некоторые компании и ведомства уклоняются от ее использования. По его опыту, полицейские управления часто внедряют новые технологии, «не сообщая, не говоря уже о разрешении демократических наблюдателей, таких как городские советы».
Стэнли предупредил, что программное обеспечение может использоваться для отслеживания личных и политических связей, в том числе с потенциальными интимными партнерами, профсоюзными активистами, антиполицейскими группами или конкурентами.
Даниэль ВанЗандт, которая занимается анализом Vintra для исследовательской фирмы Frost & Sullivan, говорит, что эта технология уже используется. Поскольку она ознакомилась с конфиденциальными документами Vintra и других компаний, на нее распространяются соглашения о неразглашении, запрещающие ей обсуждать отдельные компании и правительства, которые могут использовать это программное обеспечение.
Ритейлеры, которые уже собирают обширные данные о людях, заходящих в их магазины, также тестируют программное обеспечение, чтобы определить, «что еще оно может мне сказать?» — сказал ВанЗандт.
Это может включать в себя выявление членов семей лучших клиентов банка, чтобы обеспечить хорошее обращение с ними, что повышает вероятность того, что те, у кого нет богатства или семейных связей, получат меньше внимания.
«Эти опасения по поводу предвзятости очень велики в отрасли» и активно решаются с помощью стандартов и испытаний, — сказал ВанЗандт.
Не все верят, что эта технология получит широкое распространение. Правоохранительные органы и агенты корпоративной безопасности часто обнаруживают, что они могут использовать менее инвазивные технологии для получения аналогичной информации, сказал Флориан Матусек из Genetec, компании видеоаналитики, которая работает с Vintra. Это включает в себя сканирование систем ввода билетов и данных мобильных телефонов, которые имеют уникальные функции, но не привязаны к отдельным лицам.
«Существует большая разница между описаниями продуктов и демонстрационными видеороликами и фактическими действиями, развернутыми в полевых условиях», — сказал Матусек. «Пользователи часто обнаруживают, что другие технологии могут решить их проблему так же хорошо, не проходя и не перепрыгивая через все препятствия, связанные с установкой камер или соблюдением правил конфиденциальности».
Матусек сказал, что он не знает ни одного клиента Genetec, который использовал бы совместное появление, которое его компания не предоставляет. Но он не мог этого исключить.
