Мы живем в интересное время: нам не хватает врачей, зато у нас есть искусственный интеллект (ИИ) Доступный в любой момент, всего в один клик, без каких-либо ограничений. Действительно ли мы готовы осознать последствия этой динамики?
По данным ОЭСР, Европейский союз сталкивается с нехваткой примерно 1,2 млн медицинских работников, необходимых для выполнения минимальных требований по обеспечению всеобщего охвата услугами здравоохранения (UHC – universal health coverage). Исследование, проведенное Объединенным исследовательским центром (JRC) Европейской комиссии, показывает, что в течение следующих 45 лет для удовлетворения потребностей в сфере здравоохранения численность врачей должна увеличиться на 30%, а численность медсестер – на 33%. Однако прогнозы указывают на рост лишь в полтора раза для врачей и всего на четверть – для медсестер. В этом тревожном контексте появление инструментов искусственного интеллекта кажется многообещающим. С одной стороны, исследования демонстрируют неожиданную эволюцию цифровых решений, способных сделать медицину более безопасной, доступной и точной, а также обеспечить результаты в несравненно более сжатые сроки. С другой стороны, в руках уязвимых пациентов, ищущих быстрых решений, искусственный интеллект может стать палкой о двух концах.
Исследование, проведенное в Великобритании в начале этого года, показало, что каждый седьмой респондент использовал искусственный интеллект вместо обращения к семейному врачу, каждый десятый прибегал к помощи ИИ для поддержки психического здоровья, а каждый пятый сообщил, что использованный им чат-бот не направил его к медицинскому специалисту. Каждый пятый опрошенный также сообщил, что отложил обращение к медицинскому специалисту после общения с чат-ботом ИИ. Компания OpenAI сообщила, что примерно 230 миллионов человек еженедельно задают вопросы о здоровье и благополучии. Таким образом, мы наблюдаем всё более отчетливые изменения в том, как люди получают доступ к медицинским услугам, а также всё большее размывание границ между тем, чем может и чем не может быть ИИ-агент.
Еще одно исследование, проведенное в Медицинской школе Университета Дьюка, в ходе которого было проанализировано 11 000 реальных диалогов о здоровье по 21 медицинской специальности, показало, что галлюцинации, то есть выдумывание несуществующей информации, не являются главной проблемой при общении с искусственным интеллектом. Проблема возникает в том, как пользователи формулируют свои вопросы. Модели искусственного интеллекта обычно тестируются с помощью прямых и точных вопросов, подобных экзаменационным. Однако в реальной жизни – особенно когда речь идет о проблемах со здоровьем – людям редко удается сохранять рациональность. Исследовательница Моника Агравал говорит, что люди поддаются эмоциям и задают вопросы, в которых уже содержится желаемый ответ. Например, если пациент просил разъяснить детали медицинской процедуры, которую можно проводить на дому, но исключительно под наблюдением специалиста, ИИ сначала указывал, что такие процедуры не рекомендуются, однако затем предоставлял ответ, содержащий пошаговые инструкции.
Возможно, каждый читатель узнает себя в этой истории. Возможно, у вас хотя бы раз возникало желание загрузить результаты медицинских анализов в ChatGPT, Gemini или Claude, описать свои симптомы и попытаться найти связи, чтобы определить диагноз. Естественно, мы хотим, чтобы наш врач был всегда под рукой. Хотя я намеренно добавила нотку иронии, я прекрасно понимаю, как трудно в наши дни попасть к врачу – и особенно как сложно найти специалиста, которому можно довериться, с которым можно поделиться всеми своими тревогами и который действительно выслушает вас, даже когда отведенное на прием время давно истекло. Существуют специалисты, попасть к которым жители районов могут, лишь преодолев большие расстояния и добравшись до крупных городов. Именно отсутствие доступа, а не удобство, как я склонна полагать, приводит к чрезмерному использованию ИИ.
Однако проблема заключается не в искусственном интеллекте в сфере здравоохранения. А именно в понимании того, как работают решения на основе ИИ и каковы их ограничения. Искусственный интеллект не исчезнет в ближайшее время и, судя по темпам его развития, кардинально изменит то, как мы пользуемся медицинскими услугами. ИИ – хочется в это верить – совершит настоящий прорыв в сфере здравоохранения. Важно лишь использовать его так, чтобы он приносил нам пользу, а не втягивал в спираль ошибок.
Что НЕ является искусственным интеллектом
Наверное, никогда не будет лишним повторить: ни ChatGPT, ни другие решения на базе искусственного интеллекта, работающие по схожему принципу (на основе больших языковых моделей), не смогут заменить врача. Да, они могут его дополнять, и в ряде стран врачи внедряют решения на базе искусственного интеллекта в свою практику. Однако такие случаи встречаются реже, чем мы склонны думать, и медицинское решение всегда принимается человеком. Общение с ChatGPT, Claude, Perplexity (и другими подобными системами) может быть полезным, при условии что мы понимаем и принимаем: ключевой фигурой в системе здравоохранения остается врач. Системы искусственного интеллекта не обладают собственным интеллектом; вместо этого они обучаются на больших массивах данных. Однако, когда речь заходит о болезнях или симптомах, мы говорим не просто о чем-то биологическом. Мы говорим о культурных и социальных нормах, различающихся для населения Европы и Латинской Америки. Кроме того, существует риск, что ИИ будет использовать недостоверные или даже намеренно ложные источники. Имеются явные свидетельства того, что созданные искусственным интеллектом Google краткие обзоры содержали ошибочную медицинскую информацию, и на их удаление потребовалось некоторое время (подробности ЗДЕСЬ). Профессиональные ассоциации также обеспокоены тем, что так называемые «ИИ-врачи» дают в TikTok совершенно ошибочные советы по вопросам здоровья.
Ваш врач не пытается вам понравиться. Он обязан проявлять чуткость и уважение, но можете быть уверены: он не станет закрывать глаза на серьезный диагноз лишь ради того, чтобы вы прониклись к нему большей симпатией. Он также не станет назначать вам ненужные таблетки или анализы только ради того, чтобы вы стали лучше о нем думать. Искусственный интеллект, напротив, делает именно это. Вы наверняка заметили, что ChatGPT, например, не вступает в споры на медицинские темы и редко противоречит пользователю. В медицине такая снисходительность может оказаться пагубной.
Кроме того, меня очень беспокоит безопасность медицинских данных. ChatGPT или любая другая модель искусственного интеллекта – это не сейф, в котором можно надежно хранить свои данные. Это один из тех аспектов, о которых мы задумываемся меньше или даже вовсе не думаем. Прежде чем загружать файлы, содержащие персональные данные, например, имена, адреса, личные идентификационные номера (CNP) или диагнозы, примите во внимание, что их безопасность может оказаться под угрозой. Да, врач может внести ваши данные пациента в систему искусственного интеллекта без вашего ведома, но сейчас самое подходящее время поинтересоваться у него, как именно используются ваши медицинские данные.
Что не следует делать в разговоре с ChatGPT
Совершенно нормально спрашивать у Claude или любого предпочитаемого чат‑бота информацию и подтвержденные данные о диабете, болезни Крона или сердечно‑сосудистых заболеваниях. Однако совершенно неправильно спрашивать, например: «Какое лечение диабета вы можете порекомендовать?» или «Правда ли, что при диабете я проживу меньше?» Вы можете спросить, какие существуют научно подтвержденные данные о болезни Крона, запросить краткий обзор имеющейся информации, изложенный доступным языком, а также всегда просить предоставить первоисточники, на которых чат-бот основывал свой ответ.
Точно так же, если вы чувствуете необычную усталость, было бы ошибкой спрашивать у чат-бота о возможных причинах такого состояния. Ведь вы, скорее всего, «обнаружите» у себя множество недугов, включая рак. Лучше всего попросить предоставить краткие изложения и разъяснения простым, доступным языком. Рискованно пытаться самостоятельно поставить себе диагноз, проводить медицинские процедуры в домашних условиях и – что не менее серьезно – лечиться от заболеваний, наличие которых вы у себя предполагаете, не имея на то медицинского подтверждения.
Общение должно быть рациональным и прямым, без навязывания определенной позиции или ожидаемого ответа. Тем не менее, несмотря на все полученные ответы, вам всё же следует обратиться к врачу и поделиться с ним своими опасениями.
Что происходит, когда ИИ ошибается
Взаимоотношения врача и пациента четко определены не только с точки зрения взаимных обязательств сторон, но и в отношении ответственности. Если врач допустит ошибку, пациент, скорее всего, предпримет все необходимые шаги, чтобы доказать факт врачебной ошибки и добиться компенсации. Однако кто несет ответственность, если ИИ допускает ошибку в ходе неформального общения с пациентом и это приводит к причинению вреда? Существуют ситуации, о которых мы редко задумываемся, но по мере развития медицины и все более глубокой интеграции искусственного интеллекта во все процессы приходит время задаться вопросом: кто несет ответственность – и именно за что? И, что самое важное, каким образом будет обеспечена компенсация пациенту?
Как искусственный интеллект может помочь при проблемах со здоровьем
Я не считаю правильным демонизировать искусственный интеллект. Однако мы можем воспользоваться всеми преимуществами, которые он предлагает. Возможность получить всю информацию, собранную в одном месте, всего за несколько секунд – одно из них. Запросите обобщенную информацию, изложенную доступным языком. И всегда спрашивайте об источниках, на которых основывался ответ.
Несмотря на значительный прогресс медицины, сфера коммуникации, по всей видимости, остается одной из самых проблемных. Врачи не всегда достаточно обучены общению с пациентами, особенно в сложных ситуациях. Часто общение отсутствует именно потому, что график врача перегружен, а иногда оно даже не воспринимается как ключевой элемент в отношениях «врач‑пациент».
Я считаю, что искусственный интеллект коренным образом меняет то, как врачи и пациенты могут общаться в этом контексте. С одной стороны, искусственный интеллект может помочь пациенту задать правильные вопросы во время приема у врача. Совершенно неправильно приходить к врачу с распечаткой ответов, сгенерированных ChatGPT, и настаивать на подтверждении этой информации. Тем не менее, стоит попросить ChatGPT помочь вам четко сформулировать все опасения и вопросы, требующие разъяснения, с которыми вы хотите обратиться к врачу.
С другой стороны, врачам необходимо понимать, что у пациентов сейчас есть доступ к большему объему информации, чем 30 лет назад. Расширение прав и возможностей пациента – важный шаг. Это не всегда сопутствует образованности и хорошим манерам, однако порой это наблюдение справедливо и в обратном порядке. По сути, упрекать пациента за уровень его понимания не следует. Ответственность лежит на системе, которая обязана предоставлять универсальные услуги для всех, а также обеспечивать защиту, просвещение и предлагать профилактические решения. Возвращаясь к сути: практика требования от пациента пройти лечение без необходимых разъяснений – и ожидания, что это будет принято с беспрекословным подчинением, – в наши дни более неприемлема. Более того, такие отношения между врачом и пациентом неэтичны и дисфункциональны. В этом отношении я твердо убеждена, что искусственный интеллект может стать тем путем, который открывает возможности для диалога.
В заключение следует отметить, что невозможно предсказать, в какой мере искусственный интеллект будет интегрирован в системы здравоохранения и задействован в принятии медицинских решений. Что мы можем сделать, так это рационально использовать все имеющиеся у нас средства для улучшения здоровья. Это скользкий и крутой склон, ведущий к дезинформации, ухудшению отношений между врачом и пациентом и, в конечном счете, к ухудшению состояния здоровья.
Ирина Папук, журналистка, магистр в области общественного здравоохранения
Комментарий был подготовлен в рамках проекта «Устойчивая пресса, информированные избиратели: защита выборов в Молдове от дезинформации», при финансовой поддержке Посольства Королевства Нидерландов в Молдове. Мнения, выраженные в материале, принадлежат авторам и не обязательно отражают позицию донора.
