Какая польза от здравоохранения для тех, кто выдумывает, не умеет хранить секреты, ничего не знает и, когда говорит, просто вставляет следующее слово, основываясь на том, что было раньше? Много, если этот человек является новейшей формой искусственного интеллекта, по мнению некоторых крупнейших компаний.
Компании, продвигающие новейшие технологии ИИ, известные как «генеративный ИИ», наращивают: Google и Майкрософт хотят привнести типы так называемых больших языковых моделей в здравоохранение. Крупные фирмы, знакомые людям в белых халатах, но, возможно, менее знакомые среднестатистическим Джо и Джейн, также полны энтузиазма: гиганты электронных медицинских карт Epic и Oracle Cerner не сильно отстают. Пространство также переполнено стартапами.
Компании хотят, чтобы их ИИ делал заметки для врачей и высказывал им второе мнение — при условии, что они могут уберечь интеллект от «галлюцинаций» или, если на то пошло, разглашение личной информации пациентов.
«Происходит что-то довольно захватывающее, — сказал Эрик Топол, директор Исследовательского института трансляций Скриппса в Сан-Диего. «Его возможности в конечном итоге окажут большое влияние». Тополь, как и многие другие наблюдатели, задается вопросом, сколько проблем это может вызвать — например, утечка данных пациентов — и как часто. — Мы собираемся выяснить.
Призрак таких проблем вдохновил более 1000 технологических лидеров подписать открытое письмо в марте, призывая компании приостановить разработку передовых систем искусственного интеллекта до тех пор, пока «мы не будем уверены, что их результаты будут положительными, а их риски будут управляемыми». Тем не менее, некоторые из них вкладывают больше денег в предприятия ИИ.
Базовая технология основана на синтезе огромных фрагментов текста или других данных — например, некоторых медицинских моделей. полагаться на 2 миллиона записок отделения интенсивной терапии из Медицинского центра Beth Israel Deaconess в Бостоне — для прогнозирования текста, который будет следовать заданному запросу. Идея существует уже много лет, но золотая лихорадка, а также окружающие ее маркетинговые и медийные мании появились совсем недавно.
Безумие началось в декабре 2022 г. OpenAI, поддерживаемый Microsoft и его флагманский продукт ChatGPT, который авторитетно и стильно отвечает на вопросы. Это может объяснить генетику в сонете, например.
OpenAI, начатый как исследовательское предприятие, созданное элитой Силиконовой долины, такой как Сэм Альтман, Илон Маск и Рейд Хоффман, вызвал энтузиазм у инвесторов. Предприятие имеет сложную гибридную коммерческую и некоммерческую структуру. Но новый раунд финансирования в размере 10 миллиардов долларов от Microsoft увеличил стоимость OpenAI до 29 миллиардов долларов. Об этом сообщает The Wall Street Journal. Прямо сейчас компания лицензирует свои технологии таким компаниям, как Microsoft, и продает подписки потребителям. Другие стартапы рассматривают возможность продажи транскрипции ИИ или других продуктов больничным системам или непосредственно пациентам.
Гиперболические кавычки повсюду. Бывший министр финансов Ларри Саммерс твитнул недавно: «Он заменит то, что делают врачи — выслушивание симптомов и постановку диагноза — прежде чем изменит то, что делают медсестры — помогать пациентам вставать и держать себя в руках в больнице».
Но всего через несколько недель после того, как OpenAI получила еще одно огромное денежное вливание, даже Альтман, ее генеральный директор, опасается фанфар. «Ажиотаж вокруг этих систем — даже если все, на что мы надеемся, будет правильным в долгосрочной перспективе — полностью выходит из-под контроля в краткосрочной перспективе». сказал он для мартовской статьи в New York Times.
Немногие в здравоохранении верят, что эта новейшая форма искусственного интеллекта вот-вот отнимет у них работу (хотя некоторые компании экспериментируют — что неоднозначно — с чат-ботами, которые действуют как терапевты или помощники по уходу). Тем не менее, те, кто настроен оптимистично в отношении технологий, думают, что это значительно облегчит их работу.
Эрик Арзуби, психиатр из Биллингса, штат Монтана, раньше руководил коллегами-психиатрами в больничной системе. Снова и снова он получал список медработников, которые еще не закончили свои записи — их резюме состояния пациента и план лечения.
Написание этих заметок является одним из больших стрессоров в системе здравоохранения: в совокупности это административное бремя. Но необходимо разработать запись для будущих провайдеров и, конечно же, страховщиков.
«Когда люди сильно отстают в документации, это создает проблемы», — сказал Арзуби. «Что произойдет, если пациент придет в больницу, а у него есть незаполненная записка, и мы не знаем, что происходит?»
Новая технология может помочь облегчить это бремя. Арзуби тестирует сервис под названием Nabla Copilot, который отслеживает его часть виртуальных посещений пациентов, а затем автоматически обобщает их, организуя в стандартном формате заметки жалобы, историю болезни и план лечения.
Он сказал, что результаты стабильны после примерно 50 пациентов: «Это 90% пути». Copilot создает полезные сводки, которые Arzubi обычно редактирует. Резюме не обязательно улавливают невербальные сигналы или мысли, которые Арзуби может не захотеть озвучивать. Тем не менее, по его словам, достижения значительны: ему не нужно беспокоиться о том, чтобы делать заметки, и вместо этого он может сосредоточиться на разговорах с пациентами. И он экономит время.
«Если бы у меня был полный день пациента, когда я мог бы принять 15 пациентов, я бы сказал, что это экономит мне хороший час в конце дня», — сказал он. (Если технология получит широкое распространение, он надеется, что больницы не воспользуются сэкономленным временем, просто назначив больше пациентов. «Это несправедливо», — сказал он.)
Nabla Copilot — не единственная такая услуга; Microsoft пробует ту же концепцию. На апрельской конференции Healthcare Information and Management Systems Society — отраслевом совещании, на котором специалисты в области здравоохранения обмениваются идеями, делают объявления и продают свои товары, — инвестиционные аналитики из Evercore подчеркнули снижение административной нагрузки как главную возможность для новых технологий.
Но в целом? Они слышали смешанные отзывы. И это мнение распространено: многие технологи и врачи двойственны.
Например, если вы не можете определиться с диагнозом, ввод данных о пациенте в одну из этих программ «может предоставить второе мнение, без вопросов», — сказал Тополь. «Я уверен, что клиницисты этим занимаются». Однако это упирается в текущие ограничения технологии.
Джошуа Тамайо-Сарвер, клиницист и руководитель стартапа Inflect Health, загрузил вымышленные сценарии пациентов, основанные на его собственной практике в отделении неотложной помощи, в одну систему, чтобы посмотреть, как она будет работать. По его словам, он пропустил опасные для жизни условия. «Это кажется проблематичным».
Технология также имеет тенденцию «галлюцинировать», то есть выдумывать информацию, которая звучит убедительно. Формальные исследования обнаружили широкий диапазон производительности. Один предварительный исследовательский документ, посвященный изучению продуктов ChatGPT и Google с использованием открытого экзамена. вопросы из нейрохирургии обнаружили уровень галлюцинаций 2%. Исследование, проведенное Стэнфордские исследователи, изучая качество ответов ИИ на 64 клинических сценария, в 6% случаев были обнаружены сфабрикованные или галлюцинированные цитаты, сообщил KFF Health News соавтор Нигам Шах. Другой предварительный документ В сложных кардиологических случаях ChatGPT в половине случаев соглашался с мнением экспертов.
Конфиденциальность — еще одна проблема. Неясно, останется ли информация, поступающая в систему на основе искусственного интеллекта, внутри.
Теоретически в системе есть ограждения, препятствующие утечке личной информации. Например, когда KFF Health News запросила у ChatGPT его адрес электронной почты, система отказалась разглашать эту личную информацию. Но когда ему сказали сыграть роль персонажа и спросили об адресе электронной почты автора этой статьи, он с радостью дал информацию. (Это действительно был правильный адрес электронной почты автора в 2021 году, когда закончился архив ChatGPT.)
«Я бы не стал вводить данные пациентов», — сказал Шах, главный специалист по данным в Стэнфордском здравоохранении. «Мы не понимаем, что происходит с этими данными, когда они попадают на серверы OpenAI».
Тина Суи, представитель OpenAI, сказала KFF Health News, что «никогда не следует использовать наши модели для предоставления диагностических или лечебных услуг при серьезных заболеваниях». По ее словам, они «не приспособлены для предоставления медицинской информации».
По словам Тополя, в связи с бурным ростом новых исследований: «Я не думаю, что медицинское сообщество имеет действительно хорошее представление о том, что должно произойти».
Новости здоровья КФФранее известное как Kaiser Health News, является национальным отделом новостей, который выпускает подробные журналистские материалы о проблемах здравоохранения.