Изображение: Apple
Apple явно считала победителем свою систему обнаружения материалов сексуального насилия над детьми (CSAM) и, более чем вероятно, ожидала большего количества обычных аплодисментов, к которым привыкла . Нетрудно представить Купертино, думающего, что он решил неразрешимую проблему CSAM таким образом, который лучше всего подходит для него самого и его пользователей.
Apple утверждает, что ее система является более частной, потому что она не сканирует и не отслеживает загруженные на серверы фотографии, в отличие от почти всех остальных в отрасли, но по прошествии нескольких недель похоже, что Apple создала Rube. Машина Гольдберга, чтобы дифференцировать себя.
Последствия этого одностороннего подхода далеко идущие и затронут всех, а не только тех, кто находится в саду, обнесенном стеной Apple.
В течение некоторого времени правительства настаивали на использовании больших технологий для создания возможностей дешифрования. Один из способов достижения компромисса — иметь зашифрованную систему, но не позволять пользователям зашифровать свои собственные резервные копии, тем самым обеспечивая некоторую видимость контента, в то время как другой способ — иметь полную систему с сквозным шифрованием и проверять контент, когда он расшифровывается на пользовательском устройстве для просмотра.
В то время как остальная часть отрасли остановилась на первом, Apple переключила полосы движения на второе.
Этот сдвиг произошел в тот момент, когда Австралия приняла свой проект правил, определяющих, как действует ее Закон о безопасности в Интернете.
«Если служба использует шифрование, поставщик службы примет разумные меры для разработки и внедрения процессов для обнаружения и устранения материалов или действий в службе, которые являются или могут быть незаконными или вредными», — говорится в проекте. .
См. Также: Apple настроила систему CSAM для поддержания порога дезактивации в один триллион ложных срабатываний
Канада пошла еще дальше в аналогичном проекте. В своей итерации он требует упреждающего мониторинга контента, относящегося к CSAM, терроризму, подстрекательству к насилию, разжиганию ненависти и несогласованному обмену изображениями, и создания новой роли Комиссара по цифровой безопасности для оценки достаточности любого используемого ИИ, согласно Профессор права Оттавского университета доктор Майкл Гейст.
Если это станет законом, у онлайн-коммуникационных служб в Канаде также будет 24 часа на то, чтобы принять решение по части вредоносного контента.
Как этот потенциальный закон взаимодействует с решением Apple установить порог в 30 CSAM-изображений, прежде чем вводить людей в процесс и проверять метаданные контента, мы будем наблюдать в будущем.
В то время как предложение Канады считается собранием худших идей со всего мира, Индия, Великобритания и Германия также продвигают регулирование Интернета.
Apple заявила, что ее система CSAM будет запущена только в Соединенных Штатах, когда появятся iOS 15, iPadOS 15, watchOS 8 и macOS Monterey, что означает, что можно утверждать, что Apple сможет обойти правила другие западные народы.
Но не так быстро. Глава Apple по конфиденциальности Эрик Нойеншвандер сказал в недавнем интервью, что хэш-список, используемый для идентификации CSAM, будет встроен в операционную систему.
«У нас одна глобальная операционная система», — сказал он.
Даже если Apple постоянно заявляла, что ее политика направлена на предотвращение чрезмерного охвата, использования коррумпированными режимами или ложных приостановок, неясно, как Apple ответит на один очень важный вопрос: что происходит, когда Apple выдается постановление суда что идет вразрез с его политикой?
Несомненно, законодатели, не являющиеся гражданами США, будут скептически относиться к тому, есть ли на устройствах Apple те системы, которые им нужны.
«Мы соблюдаем закон везде, где ведем бизнес», — сказал Тим Кук в 2017 году после того, как компания удалила приложения VPN из своего китайского магазина приложений.
Следуя закону: Citizen Lab обнаружила, что процесс цензуры Apple в Китае проникает в Гонконг и Тайвань
Хотя есть много достойных опасений и вопросов о самой системе Apple, Последствия существования такой системы вызывают большее беспокойство.
В течение многих лет Apple отклоняла требования властей США помочь разблокировать телефоны людей, предположительно причастных к массовым расстрелам. Отвечая на требования ФБР в 2016 году, Кук написал клиентам письмо, в котором опроверг предположения о том, что разблокировка одного телефона станет концом дела, и сказал, что эту технику можно использовать снова и снова.
«В чужих руках это программное обеспечение, которого сегодня не существует, могло бы разблокировать любой iPhone, находящийся в чьем-то физическом владении», — сказал генеральный директор.
Ключевым аргументом Apple были слова между emdash, и теперь, в августе 2021 года, хотя точной возможности не существует, функция на устройстве должна появиться на всех ее устройствах, и это хорошо достаточно поводов для беспокойства.
«Apple в одностороннем порядке решила подключить своих пользователей к глобальному эксперименту массового наблюдения, по-видимому, недооценив потенциальные затраты, которые это может иметь для лиц, не участвующих в производстве или хранении контента CSAM, и вынесло любой такой затраты на базу пользователей в более чем миллиард человек по всему миру », — написал старший научный сотрудник Citizen Lab Кристофер Парсон.
«Это не деятельность компании, которая серьезно отразилась на весе ее действий, а, напротив, отражает компанию, которая готова пожертвовать своими пользователями, не соблюдая адекватный баланс их потребностей в конфиденциальности и безопасности. "
В качестве аргумента давайте откажемся от всех претензий Apple — возможно, крупнейший из технологических гигантов сможет противостоять законодательному давлению, и система остается зацикленной только на CSAM в Соединенных Штатах. Тем не менее, это потребует от Apple и защитников конфиденциальности вечной бдительности, чтобы гарантировать, что компания выполнит эту задачу.
Более серьезная проблема — это остальная отрасль. Есть скользкая дорожка, и Apple сделала первый шаг вниз. Возможно, у него есть ботинки с ледяными захватами и он привязан к дереву, чтобы убедиться, что он не может спускаться дальше, но немногие другие делают это.
Внезапно сканирование на устройстве стало намного менее отвратительным, потому что, если такая крупная компания, как Apple, может это сделать, и она продвигает себя на основе конфиденциальности и продолжает продавать миллионы устройств, она должна поэтому быть приемлемым для пользователей.
Опираясь на это, сомнительные компании, которые хотят загружать данные на свои собственные серверы, теперь потенциально имеют номенклатуру, созданную для них Apple. Это не данные пользователя, это ваучеры безопасности. То, что раньше можно было считать формой кражи, теперь делается для защиты пользователей, выполнения правительственных распоряжений и повышения безопасности в мире.
Те системы, которые следуют по пятам Apple, вряд ли будут так сильно заботиться о конфиденциальности пользователей, технических знаниях и ресурсах, способности противостоять судебным постановлениям или просто откровенно добрых намерениях, которые, похоже, есть у Купертино.
Даже если Apple завтра откажется от своих планов, будет уже слишком поздно. Джинн вышел из бутылки. Критики и те, кто хочет придерживаться подхода, основанного на устройстве, просто скажут, что Apple не выдержала давления со стороны крайних частей дебатов о конфиденциальности, если она все же решит изменить свое мнение.
Компании будут соревноваться в том, кто может лучше всего копаться в устройствах, хвастаться тем, сколько их пользователей было арестовано, и почему это делает их более безопасными, чем другие варианты. При этом, без сомнения, будет отсутствовать количество допущенных ошибок, крайних случаев, которые никогда не будут должным образом рассмотрены, или страданий, причиненных некоторым из тех, кто платит за устройства. Это не будет красиво.
Apple, похоже, не понимает, что она превратила отношения пользователей с их продуктами из отношений собственности в потенциально враждебные.
Если ваше устройство сканирует контент и куда-то загружает его, и вы не можете его выключить, то кто является настоящим владельцем? На этот вопрос нам нужно будет ответить в ближайшее время, особенно потому, что сканирование на стороне клиента никуда не исчезнет.
Открытие утра понедельника ЗДНЕТ
Открытие утра понедельника — это наш первый залп на неделю в сфере технологий. Поскольку у нас есть глобальный сайт, эта редакционная статья публикуется в понедельник в 8:00 AEST в Сиднее, Австралия, что в воскресенье в США — 18:00 по восточному времени. Он написан членом глобальной редакционной коллегии ZDNet, в которую входят наши ведущие редакторы из Азии, Австралии, Европы и Северной Америки.
ПРЕДЫДУЩИЙ УТРО ПОНЕДЕЛЬНИКА ОТКРЫТИЕ:
