Предупреждение о деликатном содержании
В этой статье обсуждаются темы, которые могут беспокоить читателей, в том числе самоубийства и сексуальная эксплуатация детей.
Когда алгоритмы Google работают так, как они должны — когда они показывают вам ту часть информации, которую вы ищете, а не вздор, странное порно, пропаганду или опасные медицинские советы — вы должны благодарить таких людей, как Эд Стакхаус.
Stackhouse — это то, что Google называет «оценщиком». Когда его поисковая система не уверена в результатах, которые она выдает для данного поиска, работа Stackhouse состоит в том, чтобы решить, какие из них люди должны увидеть.
Это может быть трудоемким и исследовательским процессом. Это также может быть мучительным, окном в самые темные уголки человеческого опыта. «В последнее время я чаще всего вижу форумы о самоубийствах», — сказал он. «Какой лучший способ повеситься, если я ростом 5 футов 9 дюймов?» «Какой длины веревку мне следует использовать?»
Еще одна вещь, которую он заметил в последние несколько недель, — это новый тип результатов поиска: то, что кажется статьями, сгенерированными ИИ, с подсказкой обозначить их как точные или ложные, уместные или жуткие, стилистически верные или нет.
«Они на самом деле не говорят нам, что это Бард, — сказал Стэкхаус, — но на нем повсюду отпечатки пальцев Барда».
Бард, если вы не знакомы, является участником Google в том, что провозглашается Гонка вооружений ИИ, в которой крупнейшие игроки в сфере высоких технологий делают все возможное, чтобы усовершенствовать и продавать чат-ботов, которые могут общаться как люди. Его основным конкурентом является Майкрософт, которая стремится продемонстрировать новую версию Bing, своей поисковой системы, недавно пропитанной интернет-сенсацией, известной как ChatGPT. (Материнская компания Facebook Мета, кружащая по периферии, пробует воду, чтобы увидеть, Скандальная репутация позволит ему конкурировать.)
Ставки могут оказаться довольно высокими: в настоящее время Google имеет почти монополию в поиске, собирая $40 млрд выручки в квартал от этой части своего бизнеса. Главный исполнительный директор Microsoft Сатья Наделла считает, что переход к разговорному поиску может обнулить табло. «Я рад, что у пользователей наконец появился выбор», — сказал он Wall Street Journal.
Инвесторы, кажется, согласны: рыночная капитализация материнской компании Google, Alphabet, упала более чем на 100 миллиардов долларов после того, как Bard допустил ошибку в своей первоначальной демонстрации, дав представление как о финансовых стимулах, так и о затратах, связанных с ошибкой.
Поисковые системы всегда были ненадежными проводниками истины, но поисковые интерфейсы чат-ботов особенно коварны из-за того, что было названо проблемой «одного верного ответа»: вместо того, чтобы представить список возможных результатов и предложить пользователям выбрать один из них, они выдают один канонический ответ. Когда возникает вопрос: «Безопасно ли кипятить ребенка?» и ответ «Да» — реальный пример из Bing — у вас проблемы.
В таком случае можно было бы ожидать, что вовлеченные компании будут уделять больше внимания работе по контролю качества, которая помогает их якобы умным новым программным инструментам избегать глупых ошибок. Вместо этого люди, выполняющие эту работу, рассматриваются как одноразовые.
«У нас одна из самых низких зарплат в США», — говорит Стэкхаус, который работает оценщиком уже почти десять лет. «Лично я зарабатываю на 3 доллара в час меньше, чем моя дочь, работающая в фаст-фуде».
В начале февраля, когда Google и Microsoft готовили свои громкие объявления о чат-ботах, Стакхаус присоединился к группе оценщиков, представивших петиция в Google, требуя, чтобы компания выполнила свои собственные установленные минимальные стандарты. Оценщики часто зарабатывают всего 14 долларов в час — меньше, чем 15 долларов, которые Google обещает подрядчикам. У Стэкхауса серьезное заболевание сердца, требующее медицинского лечения, но его работодатель Аппен, единственным клиентом которого является Google, ограничивает его рабочее время до 26 часов в неделю, оставляя его на неполный рабочий день и не имея права на льготы. Это стандартная политика для тысяч оценщиков.
Оценщики присоединяются к волне недовольных подрядчиков: работники, которые следят за тем, чтобы видео на YouTube содержали правильные метаданные, на той же неделе объявили забастовку, заявив о несправедливой трудовой практике. Это даже не дно бочки. А Журнал Тайм расследование выяснилось, что подрядчикам в Кении платили менее 2 долларов в час за просмотр контента для ChatGPT — большая часть контента настолько токсична, что травмировала их.
Есть определенная жестокая ирония в том факте, что по мере того, как самая популярная за последние годы технология дебютирует, те, которые лучше всего подходят для того, чтобы держать ее на рельсах, также являются самыми ненадежными в компаниях, которые в них нуждаются. Это не случайно. Чат-бот — это своего рода фокус; чтобы иллюзия работала должным образом, помощники, свернувшись калачиком внутри коробки, должны оставаться скрытыми от публики, а их вклад незамеченным.
В то время как Google и Microsoft хотят, чтобы вы забыли об их существовании, для рабочих это не так просто.
«Я видел задачи с расистскими оскорблениями, фанатизмом и насилием, — говорит Стакхаус, — а также с ужасной медицинской кровью и жесткой порнографией. «Были времена, когда я видел, как часть графического контента воспроизводится в моих снах. Вот почему я больше никогда не работаю допоздна. Дважды за свои 10 лет я видел детское порно, но, слава богу, это крайне редко. Я бы бросил».
Хуже всего, пожалуй, то, что если вы хотите работать, вы не можете ограничивать тип контента, который вы просматриваете. «Если вы откажетесь от порнографического контента, ваши задачи могут уменьшиться», — говорит Стакхаус. «Поэтому большинство людей не отказываются».
В Appen работает до 5000 оценщиков, таких как Stackhouse, и еще тысячи в других дочерних компаниях, оценивающих данные для других частей бизнеса Google, Microsoft и Meta.
«Как будто мы анонимны, — говорит Стакхаус. «Мы призраки».
«Мы не просим многого, только справедливую оплату и возможность работать удаленно, — говорит Кэти Маршер, — просто чтобы нас считали людьми, а не просто цифрами в электронной таблице». В настоящее время Маршер бастует, так как работает на аналогичной должности с Cognizant, подрядчиком, чья рабочая сила занимается контролем качества для YouTube.
«Мы действительно являемся частью этой двухуровневой системы», — сказала она. «Есть сотрудники Google, и они получают опционы на акции и очень хорошо оплачиваются, и есть вся эта другая рабочая сила».
Для записи:
17:04 16 февраля 2023 г.В более ранней версии этой статьи было неверно указано название организации, с которой работники подрядчика YouTube Cognizant проголосовали за создание профсоюза. Это работники связи Америки, а не работники кода Америки.
Маршер и ее коллеги недавно проголосовали за создание профсоюза с работниками связи Америки. Вскоре после этого Cognizant сообщила им, что вводит обязательную политику работы в офисе. Поскольку многие рабочие не могут позволить себе переехать, рабочие восприняли этот переезд как возмездие. Когда это не сдвинулось с места, работники YouTube проголосовали за забастовку.
«Мы хотим попробовать разрушить эту систему; это эксплуатирует рабочих и делает их очень уязвимыми, и мы не думаем, что это правильно», — говорит она.
Это никогда не было правильно. Но теперь, когда некоторые из самых прибыльных компаний мира готовы расширить свое господство с помощью совершенно нового бизнеса, который не мог бы существовать без тяжелого труда их самых низкооплачиваемых работников, пришло время, чтобы призраки в машине проявили себя и получили признание. они должны.