ChatGPT оказался менее точен, чем обычные врачи
Из-за того, что медицинские услуги недоступны или слишком дороги, все больше людей на планете использует ИИ, такие как ChatGPT, для медицинских консультаций и первичной диагностики. Однако заменить полноценный поход к врачу ИИ не в состоянии. «Холод» совместно с сервисом быстрых ответов на вопросы о здоровье Symptomato рассказывает о реальных кейсах, когда люди пытались лечиться с помощью ИИ, и что из этого вышло.
Он выдавал пациентам страшные диагнозы и призывал делать дорогую диагностику там, где этого не требовалось
Что такое Symptomato?
Это сервис медицинских онлайн-консультаций. Специалисты готовы ответить на любой ваш вопрос о здоровье, рассказать об устройстве иностранной системы здравоохранения, а также выдать заключение, рекомендации и подобрать ближайшего очного специалиста в 17 странах мира.
По промокоду «holod» вы получите скидку в 15% на первый вопрос. Промокод действует до конца 2025 года.
Люди обращаются к искусственному интеллекту не потому, что он надежнее врача, а потому что это удобнее, быстрее, понятнее и вызывает меньше тревоги. Ответ на вопрос в чат-боте появляется практически мгновенно: без очередей, косых взглядов и осуждения. По данным недавнего опроса KFF Health Tracking, 17% взрослых американцев обращались к чат-ботам вроде GPT за советами по здоровью, а с учетом недавних законодательных изменений в США, которые сделают медицину еще менее доступной для малообеспеченных слоев населения, количество таких людей будет только расти.
Реклама на «Холоде»
Это партнерский материал. Чтобы «Холод» мог продолжать свою деятельность, мы должны расширять независимые источники финансирования нашей работы.
Если вы хотите рассказать о своей компании, продукте или даже о себе, то напишите нам на: [email protected] — мы постараемся придумать крутой проект, который вам обязательно понравится.
Сложности взаимодействия с системой здравоохранения за рубежом — еще одна причина бурного роста интереса к медицинской диагностике с помощью ИИ. В глобальном исследовании Expat Insider 2024 лишь 68% эмигрантов признались, что довольны тем, насколько доступна медпомощь в стране проживания. Остальным мешает языковой барьер, высокая стоимость медицины и сложная система записи. Для них GPT становится «домашним врачом», который говорит на любом языке, доступен круглосуточно и терпеливо отвечает даже на самые «дурацкие» вопросы.
«Раньше люди лечились гуглом, теперь стали лечиться чатом GPT», — говорит хирург и основатель Symptomato Александр Ванюков.
Врачи обеспокоены: все чаще, вместо того чтобы обратиться к специалисту, люди задают вопросы о своем здоровье искусственному интеллекту. Доступность ИИ создает новую проблему для врачей — гипердиагностику. Если гугление симптомов зачастую доводило до того, что пациент приходил к выводу, что у него рак, после чего шел к врачу, то с помощью ИИ диапазон возможных «диагнозов» значительно расширился.
Причина того, что ИИ делает подобную гипердиагностику, заключается в модели обучения: чат-боты вроде ChatGPT используют «тревожные данные», то есть тексты на форумах, статьи, включая опубликованные в непрофильных журналах, а также, наоборот, узкоспециальную литературу, где рассматриваются исключительные и крайне редкие медицинские кейсы.
Этих девочек воспитывают как мальчиков Все из-за позора, которому подвергаются семьи, где нет сыновей Мир13 минут чтения
Если максимально коротко, ИИ фокусируется на тех материалах, которые вызывают наибольший общественный интерес, а при таком подборе данных говорить об объективной постановке диагноза невозможно. Например, при описании банального головокружения модель может выдать список диагнозов от обезвоживания до опухоли мозга.
Как обратиться в Symptomato?
Мы помогаем разобраться — спокойно, по-человечески и с профессиональной ответственностью. Задать любой вопрос о здоровье можно через чат-бот в телеграме @symptomato_bot и на сайте Symptomato.
Еще одна причина гипердиагностики — стремление ИИ перестраховаться — согласно модели таких сервисов, как ChatGPT, лучше переоценить риски, чем пропустить что-то опасное. Поэтому вместо постановки наиболее вероятного диагноза он перечислит весь спектр возможных болезней, включая маловероятные. Реальная клиническая практика работает по-другому.
Я переехала в Узбекистан и счастлива Мой уровень жизни тут намного выше, чем в России. Тут дешево, но женщинам здесь живется непросто Общество10 минут чтения
Наконец, врач видит пациента перед глазами. Он может оценить контекст: возраст, анамнез, психоэмоциональное состояние пациента, его привычки и многое другое. ИИ раздает диагнозы исключительно на основе заданных текстовых команд, не распознает эмоций и интонаций пациента и не задает уточняющих вопросов, работая только с «исходными текстовыми данными».
Слепая вера вместо здравого смысла
Одним из примеров таких «исходных данных» стал недавний пациент сервиса Symptomato. Наслушавшись «экспертов» в интернете и поспрашивав о своих симптомах ChatGPT, клиент обратился к специалистам, будучи полностью уверенным, что причина его хронической усталости — недостаток тестостерона. Более того, 40-летний мужчина пришел не просто с проблемой, а с конкретным и страшным диагнозом — гипогонадизм, что означает невозможность организма вырабатывать тестостерон естественным образом, вследствие чего необходима заместительная терапия.
ИИ подверг рискам пациента и выдал неверный диагноз
Врачи отнеслись к этому диагнозу скептически и начали спрашивать пациента о его жизни, привычках, анализах и так далее. Выяснилось, что у него нет лишнего веса, он не курит и не пьет, пару раз в неделю занимается спортом, но усталость испытывает каждый день по утрам, из-за чего даже 10-минутная прогулка до метро для него оказывается сложной задачей.
Нехорошая квартира За три месяца в Японии пропали восемь девушек. Их объединяло желание покончить с собой, но дело оказалось сложнее, чем на первый взгляд Криминал13 минут чтения
Прежде чем заниматься гормональной терапией, современные клинические рекомендации требует проверить уровень железа, витаминов и микроэлементов, так как низкий уровень тестостерона — это не причина хронической усталости, а такой же, как и усталость, симптом авитаминоза или анемии. В ходе более близкого знакомства с пациентом эти опасения подтвердились: мужчина признал, что во время одного из анализов уровень тестостерона был выше, чем обычно. Пациент связал это с тем, что в день перед тестом он хорошо выспался при помощи сильного снотворного.
Таким образом врачи выяснили еще одну деталь — серьезные проблемы со сном, чем, скорее всего, и объясняется хроническая усталость — организм просто не успевает нормально восстановиться. Врачи рекомендовали пациенту наладить режим сна, постепенно отказаться от сильных снотворных и восстановить баланс витаминов и микроэлементов. Это должно было помочь вернуть гормоны в норму.
Справедливости ради, надо сказать, что искусственный интеллект тоже предложил пациенту пересдать анализы на витамины и микроэлементы, но, не дожидаясь результатов, стал разъяснять, какие именно бывают тестостерон-замещающие лекарства и как правильно поговорить с врачом, чтобы врач эти лекарства выписал.
«В условиях неопределенности: у меня нет доступа к физическому осмотру, медицинской истории, лабораторным данным или контексту жизни человека. Поэтому я иногда “перестраховываюсь” — не потому что не доверяю разумности пользователя, а потому что стараюсь не упустить ничего потенциально серьезного», — отвечал на критику от врачей Symptomato сам СhatGPT.
Выходит, вместо простого и очевидного решения ИИ поставил пациента под угрозу: так как из-за тестостерон-замещающей терапии организм просто перестает вырабатывать гормон сам и мужчине пришлось бы потреблять препараты до конца своих дней.
Предскажите мне инсульт
Еще один пациент — 26-летний мужчина — обратился в Symptomato с вопросом, как предотвратить инсульт. Он описал себя как трудоголика с множеством тревог, симптомов и диагнозов: остеохондроз, проблемы с шеей, нарушением кровообращения, зрением и общей тревожностью. Он особенно боялся возможного инсульта и хотел бы заранее узнать, где может появиться «очаг».
Это крупнейшая фастфуд-сеть в мире В 1990-е годы сын бедного фермера начал продавать дешевое мороженое. Сейчас у его компании больше точек, чем у McDonald’s или Starbucks Экономика9 минут чтения
Врачи удивились: инсульт в таком возрасте — редкость. Конечно, бывают наследственные аневризмы, но, как правило, проявляются они позже. От разрыва аневризмы в голове умер, например, великий композитор Феликс Мендельсон, но, во-первых, не в 26 лет, а в 38, а во-вторых, от разрыва таких же аневризм умерли у Мендельсона дед, отец и родная сестра, то есть аневризма была наследственной.
По мнению специалистов, проблема в данном кейсе была не в сосудах, а в высокой тревожности и ипохондрии клиента. Ему рекомендовали не спешить с дорогостоящими обследованиями, а начать с лечебной физкультуры для шеи и записи к психотерапевту, а специалисты Symptomato подобрали подходящих специалистов прямо в городе, где проживает пациент.
ChatGPT же, наоборот, предложил обширную диагностику: сразу четыре МРТ (мозга, шеи, сосудов, зрительного нерва) и электроэнцефалограмму. Все это он отметил как «обязательно» и «крайне рекомендую», тем самым усилив тревогу пациента.
Этих подростков боится даже Google Молодые хакеры обходят системы безопасности крупнейших компаний мира. Они обнаружили там «серьезную брешь» Интернет и мемы10 минут чтения
ИИ исходит из бесконечных ресурсов, поэтому не экономит деньги пациента: за бестолковые обследования клиент заплатил бы несколько тысяч евро. Причем сам ИИ признает свое несовершенство:
«Я не имею информации о финансовом положении пользователя, доступности медицинской помощи в его стране или страховке. Врач вживую может учитывать эти реалии, а я — нет. Поэтому мои рекомендации должны рассматриваться как общий ориентир», — отвечал на критику Symptomato ИИ.
ChatGPT в своем ответе отдельно подчеркнул, что он выдает базовые рекомендации, задает направление, которое в дальнейшем стоит обсуждать с настоящим лечащим врачом.
У ИИ есть чему поучиться
ChatGPT выигрывает не благодаря точности, а из-за «эмпатии» и доступности. Он всегда на связи, не осуждает, говорит на вашем языке и особенно ценен для людей в уязвимой ситуации: мигрантов, тревожных пациентов, тех, кто боится системы. Он вежлив и приятен в общении, с пациентом говорит уважительно и сочувственно.
«В этом он даже, наверное, лучше нас», — признает создатель сервиса Symptomato хирург Александр Ванюков.
Даже если вопрос сформулирован непонятно, каждый свой ответ ИИ начинает с похвалы пациенту за то, как тот хорошо разобрался в проблеме, как тщательно собрал информацию о своем недуге, как четко сформулировал запрос. Если вопрос задает человек с действительно серьезным диагнозом, например, онкологическим, ChatGPT первым делом сочувствует ему, говорит, что понимает, как тяжело проходить химиотерапию.
Крупнейший природный эксперимент случайно провели в Украине Все из-за уничтоженной дамбы. Здесь рекордно быстро вырос лес, который хранит «токсичную бомбу» Мир7 минут чтения
Иногда ИИ восхищается мужеством и стойкостью пациента, даже если пациент в своем запросе никакой стойкости не проявил, а только поделился тревогой. А если к искусственному интеллекту обращается женщина с вопросом, например, о беременности или о появившихся вдруг сильных болях во время менструации, ИИ сам мгновенно становится женщиной, говорит «я нашла информацию» и «я рада буду помочь». Для многих пациенток это важно, так как они хотели бы иметь дело именно с женщиной-гинекологом.
Тем не менее ChatGPT пока не может заменить консультацию со специалистом, что сам ИИ и признает. Все же в вопросах здоровья лучше довериться людям — а специалисты Symptomato сэкономят вам время, нервы, а иногда и деньги в поиске оптимального решения.
Помогите «Холоду» рассказывать человеческие истории
Мы ставим в центр своей журналистики человека и рассказываем о людях, которые сталкиваются с несправедливостью, но не теряют духа и продолжают бороться за свои права и свободы. Чтобы и дальше освещать человеческие истории, нам нужна поддержка читателей — благодаря вашим пожертвованиям мы продолжаем работать, несмотря на давление государства.
- Зарубежная карта
- Карта РФ ↘︎
- Patreon ↘︎
- Перевод
- Крипта
-
Ежемесячно
-
Разово
-
10 €
- 20 €
- 50 €
- Другая
Введите сумму (€)
ФИО
Эл. почта для чека и отчетов
Поддержать ежемесячно — 20 €
- 10 €
- 50 €
- 100 €
- Другая
Введите сумму (€)
ФИО
Эл. почта для чека и отчетов
Поддержать разово — 50 €
- Банк РФ
- Зарубежный банк
Номер карты:
5536 9138 6472 8742
Скопировано!
Получатель:
Taisiya Bekbulatova
Скопировано!
Получатель:
Projektas Šaltis
Скопировано!
Номер счёта:
LT613500010016198323
Скопировано!
SWIFT BIC:
EVIULT2VXXX
Скопировано!
Банк:
Lietuvos Bankas (Bank of Lithuania)
Скопировано!
Комментарий-назанчение платежа:
Parama įstatymų numatytais tikslais (be konkretaus tikslo)
Скопировано!
Просим вас указывать комментарий, чтобы мы могли точно определять поступление средств. Фраза переводится так: «Поддержка в уставных целях (без конкретной цели)».
Сумма: €
Пожертвовать
Совершая пожертвование, вы принимаете политику конфиденциальности
Чтобы не пропускать главные материалы «Холода», подпишитесь на наши социальные сети!
Автор:редакция «Холода»