Согласно отчету, впервые опубликованному Washington Post, Федеральная торговая комиссия США требует документы от OpenAI в рамках расследования того, наносит ли разговорный ИИ-инструмент компании ChatGPT вред потребителям.
Сообщается, что в ходе расследования будет изучено, нарушает ли ChatGPT законы о защите прав потребителей из-за недостаточной защиты данных пользователей.
По мере того, как популярность ChatGPT резко возросла за восемь месяцев с момента его выпуска и положила начало конкуренции между технологическими компаниями Силиконовой долины за разработку конкурирующих чат-ботов с искусственным интеллектом, растут опасения по поводу того, что технология может пойти не так. ChatGPT обучается на множестве текстов из Интернета, что помогает ему генерировать человеческие ответы на запросы, но у него уже есть опыт выдачи ложных сведений.
Расследование FTC в отношении стартапа, поддерживаемого корпорацией Microsoft, знаменует собой первое официальное расследование в отношении генеративного инструмента искусственного интеллекта. Председатель FTC Лина Хан, выступавшая перед Конгрессом в четверг, выступила с резкой критикой популярного чат-бота с искусственным интеллектом, предупредив, что регулирующие органы должны проявлять «заранее бдительность» в области искусственного интеллекта.
FTC отказалась комментировать непубличное расследование. Microsoft также отказалась от комментариев, а OpenAI не ответила на запрос о комментариях.
Расследование началось после слушаний в Конгрессе в мае, в ходе которых генеральный директор OpenAI Сэм Альтман дал показания и призвал к усилению регулирования и независимому аудиту искусственного интеллекта. Альтман выдвинул идею о том, чтобы правительство сформировало отдельное агентство для надзора за регулированием ИИ.
«Я думаю, что если эта технология пойдет не так, она может пойти совсем не так… мы хотим заявить об этом», — сказал Альтман. «Мы хотим работать с правительством, чтобы этого не произошло».
В марте Центр искусственного интеллекта и цифровой политики, известная группа по технической этике, подал жалобу в FTC. Группа потребовала провести расследование быстро развивающейся технологии и призвала приостановить обучение моделей ИИ на шесть месяцев, чтобы «обеспечить создание необходимых ограждений для защиты потребителей, бизнеса и коммерческого рынка».
«Нам нужно, чтобы они предписали OpenAI предотвращать дальнейшие выпуски GPT до тех пор, пока не будут доступны адекватные меры безопасности», — сказал Марк Ротенберг, руководитель центра и давний защитник конфиденциальности.
Федеральное регулирование искусственного интеллекта отстает от развития технологии. Хан сказал, что FTC, которая обеспечивает соблюдение как антимонопольного законодательства, так и законов о защите прав потребителей, рассматривает множество вопросов, в том числе то, как эти инструменты могут навредить потребителям и используют ли ведущие технологические компании, стоящие за генеративным ИИ, данные для дискриминации конкурентов.
В майской статье для New York Times Хан написал, что нет никаких сомнений в том, что потенциал ИИ будет «крайне разрушительным», но назвал рост Facebook и Google в середине 2000-х годов предостережением. Она назвала бесплатные услуги этих технологических компаний инновационными, хотя они «имели высокую цену», поскольку компании отслеживали и продавали личные данные пользователей.
«То, что начиналось как революционный набор технологий, в конечном итоге привело к концентрации огромной частной власти над ключевыми службами и закреплению бизнес-моделей, которые дорого обходятся нашей конфиденциальности и безопасности», — написал Хан. Она назвала сговор, монополизацию, слияния и ценовую дискриминацию областями, в которых она уже видит потенциальные опасности в применении генеративного ИИ. Серьезной проблемой также является честная конкуренция, поскольку несколько компаний контролируют облачные сервисы, данные и вычислительную мощность для разработки инструментов ИИ.
В своем запросе документов от OpenAI FTC попросила фирму предоставить подробную информацию обо всех полученных ею жалобах на то, что ChatGPT делает «ложные, вводящие в заблуждение, пренебрежительные или вредные» заявления о людях, сообщает Post. Федеральная торговая комиссия США выясняет, не прибегала ли компания к недобросовестным или вводящим в заблуждение действиям, которые нанесли «репутационный ущерб» потребителям, сообщает Post.
Технологические лидеры Силиконовой долины выступили с собственными призывами к регулированию ИИ. Google, разработчик конкурирующего чат-бота Bard, выступает за «многоуровневый подход к управлению ИИ с участием многих заинтересованных сторон», а не за то, что он называет «отделом ИИ», — написала компания в комментарии для Национальной телекоммуникационной и информационной службы. Администрация.
Microsoft, как и Альтман, призвала к созданию более централизованного нового государственного агентства для надзора за нормативными изменениями.
Судебный комитет Сената провел в среду свое первое слушание по вопросам ИИ и авторского права, на котором руководители музыкальных и технических компаний давали показания по таким темам, как добросовестное использование и защита интеллектуальной собственности.
На слушаниях в Конгрессе в четверг Хан столкнулась с шквалом нападок со стороны законодателей-республиканцев, которые назвали ее «хулиганкой» за ее агрессивную антимонопольную позицию, поставили под сомнение ее этику и объявили ее лидерство «катастрофой».
Bloomberg внес свой вклад в этот отчет.
