Любой, кто соблазнился чат-ботами с искусственным интеллектом, такими как ChatGPT и Bard, — вау, они могут писать эссе и рецепты! — в конечном итоге сталкивается с так называемыми галлюцинациями, склонностью искусственного интеллекта к фабрикации информации.
Чат-боты, которые угадывают, что сказать, основываясь на информации, полученной со всего Интернета, не могут не ошибаться. И когда они терпят неудачу — например, из-за публикации рецепта торта с крайне неточными измерениями муки — это может стать настоящим сенсацией.
Тем не менее, поскольку основные технические инструменты продолжают интегрировать ИИ, очень важно понять, как использовать его для обслуживания нас. После тестирования десятков продуктов ИИ за последние два месяца я пришел к выводу, что большинство из нас используют технологию неоптимальным образом, в основном потому, что технологические компании дали нам неверные указания.
Чат-боты наименее полезны, когда мы задаем им вопросы, а затем надеемся, что любые ответы, которые они придут сами по себе, верны, и именно так они были разработаны для использования. Но когда ему предлагается использовать информацию из надежных источников, таких как заслуживающие доверия веб-сайты и исследовательские работы, ИИ может выполнять полезные задачи с высокой степенью точности.
«Если вы дадите им правильную информацию, они смогут делать с ней интересные вещи», — сказал Сэм Хьютмейкер, основатель Context, стартапа в области искусственного интеллекта. «Но сами по себе 70 процентов того, что вы получаете, не будут точными».
С помощью простой настройки, советуя чат-ботам работать с конкретными данными, они генерировали внятные ответы и полезные советы. Это превратило меня за последние несколько месяцев из капризного скептика в области искусственного интеллекта в увлеченного опытного пользователя. Когда я отправился в путешествие по маршруту путешествия, спланированному ChatGPT, все прошло хорошо, потому что рекомендации были получены с моих любимых туристических сайтов.
Направление чат-ботов на конкретные высококачественные источники, такие как веб-сайты известных СМИ и академических изданий, также может помочь уменьшить производство и распространение дезинформации. Позвольте мне поделиться некоторыми подходами, которые я использовал, чтобы получить помощь в приготовлении пищи, исследованиях и планировании путешествий.
Планирование питания
Чат-боты, такие как ChatGPT и Bard, могут писать рецепты, которые хорошо выглядят в теории, но не работают на практике. В ходе эксперимента отдела еды The New York Times в ноябре ранняя модель искусственного интеллекта создала рецепты для меню на День Благодарения, которое включало чрезвычайно сухую индейку и плотный пирог.
Я также столкнулся с неутешительными результатами с рецептами морепродуктов, созданными искусственным интеллектом. Но все изменилось, когда я поэкспериментировал с плагинами ChatGPT, которые по сути являются сторонними приложениями, работающими с чат-ботом. (Только подписчики, которые платят 20 долларов в месяц за доступ к ChatGPT4, последней версии чат-бота, могут использовать плагины, которые можно активировать в меню настроек.)
В меню плагинов ChatGPT я выбрал Tasty Recipes, который извлекает данные с веб-сайта Tasty, принадлежащего известному медиа-сайту BuzzFeed. Затем я попросил чат-бота составить план питания, включающий блюда из морепродуктов, свиной фарш и овощные гарниры, используя рецепты с сайта. Бот представил вдохновляющий план питания, в том числе банхми из свинины с лемонграссом, тако с тофу на гриле и пасту «все в холодильнике»; каждое предложение еды содержало ссылку на рецепт на Tasty.
Для рецептов из других публикаций я использовал Link Reader, плагин, который позволял мне вставлять веб-ссылки для создания планов питания, используя рецепты с других надежных сайтов, таких как Serious Eats. Чат-бот извлек данные с сайтов для составления планов питания и сказал мне посетить сайты, чтобы прочитать рецепты. Это потребовало дополнительной работы, но это превзошло план питания, придуманный ИИ.
Исследовать
Когда я проводил исследование для статьи о популярной серии видеоигр, я обратился к ChatGPT и Bard, чтобы освежить в памяти прошлые игры, резюмируя их сюжеты. Они испортили важные детали историй и персонажей игр.
После тестирования многих других инструментов искусственного интеллекта я пришел к выводу, что для исследований крайне важно зацикливаться на надежных источниках и быстро перепроверять данные на точность. В конце концов я нашел инструмент, который позволяет это сделать: Humata.AI, бесплатное веб-приложение, которое стало популярным среди ученых-исследователей и юристов.
Приложение позволяет загружать документ, например PDF, и оттуда чат-бот отвечает на ваши вопросы о материале вместе с копией документа, выделяя соответствующие части.
В одном тесте я загрузил исследовательскую работу, которую нашел в PubMed, государственной поисковой системе научной литературы. Инструмент выдал релевантное резюме длинного документа за считанные минуты, процесс, который занял бы у меня часы, и я просмотрел основные моменты, чтобы перепроверить точность резюме.
По его словам, Сайрус Хаджванди, основатель Humata, базирующейся в Остине, штат Техас, разработал это приложение, когда он был исследователем в Стэнфорде и ему нужна была помощь в чтении объемных научных статей. По его словам, проблема с чат-ботами, такими как ChatGPT, заключается в том, что они полагаются на устаревшие модели Интернета, поэтому данные могут не иметь соответствующего контекста.
Планирование путешествия
Когда писатель-путешественник Times недавно попросил ChatGPT составить маршрут поездки в Милан, бот направил ее в центральную часть города, которая была безлюдной, потому что это был итальянский праздник, среди прочего.
Мне повезло больше, когда я запросил маршрут отпуска для себя, моей жены и наших собак в округе Мендосино, штат Калифорния. Как и при планировании еды, я попросил ChatGPT включить предложения с некоторых из моих любимых туристических сайтов, таких как Thrillist, который принадлежит Vox, и раздел путешествий The Times.
В течение нескольких минут чат-бот сгенерировал маршрут, который включал в себя рестораны и мероприятия, подходящие для собак, в том числе ферму с вином и сыром и поезд до популярной пешеходной тропы. Это избавило меня от нескольких часов планирования, и самое главное, собаки прекрасно провели время.
Нижняя граница
Google и OpenAI, которые тесно сотрудничают с Microsoft, заявляют, что работают над уменьшением количества галлюцинаций в своих чат-ботах, но мы уже можем воспользоваться преимуществами ИИ, взяв под контроль данные, на которые боты полагаются при поиске ответов.
Иными словами, основное преимущество обучающих машин с огромными наборами данных заключается в том, что теперь они могут использовать язык для имитации человеческого мышления, говорит Натан Бенайч, венчурный капиталист, инвестирующий в компании, занимающиеся искусственным интеллектом. По его словам, важным шагом для нас является сочетание этой способности с высококачественной информацией.
