В юридических спорах, как и в жизни, иногда то, что не сказано, раскрывает больше, чем то, что есть. Взгляните на записки, поданные в Верховный суд в защиту закона, предоставляющего Google и другим технологическим компаниям ограниченный иммунитет от судебных исков.
Гонсалес против Google, намеченный на устный спор в Верховном суде во вторник, касается раздела 230 Закона о пристойности в коммуникациях, закона, принятого в 1996 году для регулирования тогдашнего нового Интернета. Группы защиты детей, которые подали записки друзей суда по делу, отмечают, что платформы социальных сетей сознательно причиняют вред детям, предоставляя опасный контент в привыкание способ. Показательно, что ни один из десятков сводок, поданных со стороны технологических компаний, не затрагивает этот вред.
Одной из основных целей Конгресса при принятии статьи 230 было обеспечение, как выразились некоторые сенаторы, «столь необходимая защита для детей,” не только из-за откровенного содержания, но и из-за злоупотреблений. По иронии судьбы, платформы теперь утверждают, что Конгресс действительно намеревался предоставить им иммунитет от деловых решений, которые, как они знают, навредят детям.
Дело Гонсалеса было возбуждено семьей американца, убитого ИГИЛ во время терактов в Париже в 2015 году. Семья утверждает, что как предсказуемое следствие усилий, направленных на то, чтобы как можно больше людей смотрели на YouTube Google, видео о вербовке террористов доставляются людям, которые могут быть заинтересованы в терроризме. В аналогичном деле, которое будет рассмотрено в среду, Twitter против Taamneh, суд рассмотрит вопрос о том, нарушает ли предполагаемая неспособность платформ предпринять «значительные шаги» для удаления террористического контента федеральный закон о борьбе с терроризмом.
Последствия роста популярности социальных сетей выходят далеко за рамки расширения доступа к террористическому контенту. За годы, когда количество пользователей Instagram выросло с миллиона до миллиарда, в Соединенных Штатах наблюдался поразительный 146% всплеск в самоубийствах с применением огнестрельного оружия среди детей в возрасте от 10 до 14 лет. Общее количество самоубийств среди молодежи выросло на беспрецедентные 57%. Хотя корреляция между ростом платформ и кризисом психических заболеваний среди молодежи не доказывает причинно-следственной связи, просочившееся внутреннее исследование Facebook показало, что 6% американских подростков-пользователей Instagram «прослеживают свое желание убить себя» до платформы.
Исследователи и клиницисты также неоднократно документировали широко распространенный психологический и физический вред детям, связанный с социальными сетями. В прошлый понедельник Центры США по контролю и профилактике заболеваний сообщили, что девочки-подростки страдают от рекордного уровня грусти и риска самоубийства, что некоторые эксперты частично связывают с ростом социальных сетей. А во вторник комитет Сената США услышал душераздирающие истории об опасностях, как выразился один скорбящий родитель, «необузданной мощи индустрии социальных сетей».
Платформы социальных сетей зарабатывают деньги, продавая рекламу. Больше времени, проведенного на платформе, означает больше просмотров ее рекламы, а это значит, что она может взимать больше за эту рекламу. Кроме того, чем больше времени пользователь проводит на платформе, тем больше данных платформа собирает о пользователе, которые она, в свою очередь, может использовать, чтобы дольше удерживать пользователя на платформе.
Люди не сортируют лично, кто что видит на этих платформах. Скорее, люди дают технологиям искусственного интеллекта инструкции максимизировать то, что платформы называют «вовлечением пользователей». ИИ делает это с фантастической скоростью, проверяя, какие рекомендации работают лучше всего на миллиардах пользователей. Затем он предоставляет контент, основанный не только на том, что ребенок говорит, что хочет, но и на том, что статистически наиболее вероятно удержит таких детей, как она, приклеенными к экрану. Слишком часто ответ заключается в том, что она использует ее страхи и тревоги.
Это означает, что с пугающей частотой подросткам в депрессии предлагают советы по самоубийству, озабоченные своим телом девушки получают контент, пропагандирующий расстройства пищевого поведения, а юноши, интересующиеся наркотиками, получают возможность купить таблетки со смертельным фентанилом. Кроме того, платформы используют нейробиологически адаптированные уловки, такие как автоматическая прокрутка, постоянные напоминания о необходимости вернуться на платформу и стимулирующие дофамин «лайки», которые могут вызвать привыкание у детей. Часто дети, которые искренне хотят отключить платформу, не могут; их мозг просто недостаточно взрослый, чтобы сопротивляться зависимостям в той же степени, что и у взрослых.
Чтобы поддерживать ежеквартальный рост, платформы должны находить способы привлекать и удерживать больше пользователей дольше. Если платформам будет позволено продолжать получать прибыль от технологий, которые, как они знают, навредят огромному количеству детей, не опасаясь финансовых последствий, они продолжат совершенствовать свои методы, и больше детей пострадают. Детское самоубийство и кризис психического здоровья, которые мы переживаем сейчас, будут усугубляться, и конца этому не видно.
Это не должно быть так. Метод поисковой системы Google для определения приоритетности контента для зрителей, основанный на опыте, авторитетности и надежности веб-сайтов, показывает, что существуют способы определения того, кто что видит, гораздо менее опасные для детей и всех остальных.
Решение суда не положит конец дебатам по статье 230, но оно может начать восстановление закона до первоначальной цели защиты молодежи. Но не должно быть предметом споров о том, что сознательное использование уязвимости детей в качестве оружия против них должно быть незаконным.
И если мы не можем согласиться с этим, любой, кто считает, что беспрецедентный вред, который несут дети, является ценой, которую общество должно заплатить за свободу в Интернете, должен, по крайней мере, признать этот вред.
Эд Ховард — старший советник Института защиты детей юридического факультета Университета Сан-Диего.
