Почему ChatGPT или другая модель ИИ вам не врач? Ситуации, в которых не стоит просить помощи у искусственного интеллекта

Для чего люди чаще всего используют ChatGPT: новое исследование

Команда OpenAI поделилась результатами крупнейшего на сегодняшний день исследования о том, как люди используют ChatGPT. Вместе с Дэвидом Демингом, профессором Гарвардского университета (США), они проанализировали более 1,5 миллиона разговоров пользователей. Сегодня известно, что около 700 миллионов человек еженедельно активно используют ChatGPT. В итоге использование ChatGPT распределяется так: 

• 28,3% — практические советы (как что-то сделать, помощь с учебой, советы по физической активности);
• 24% — поиск информации (факты, рецепты, учебные материалы);
• 24% — создание текстов;
• 4,2 % — программирование 
• 2,1 % — поиск товаров;
• 1,9 % — эмоциональная поддержка, общение;
• 0,4 % — ролевые игры.

Более 70 % людей используют ChatGPT для личных нужд, и только 30 % применяют его для решения рабочих задач. Также известно, что за последний год доля написания текстов уменьшилась с более чем трети до около четверти. А вот доля информационных запросов (просьбы найти информацию, подсказать, посоветовать, объяснить) выросла с 14 % до 24 %. 

Отдельно запросы о здоровье в исследовании не выделены, но известно, что они относятся к категории информационных запросов. На данный момент нет данных о том, как люди в Украине используют ChatGPT для медицинских консультаций, однако есть актуальное исследование, касающееся жителей США. Опрос, проведенный компанией Drip Hydration, показал, что 39% американцев доверяют советам по своему здоровью, полученным от инструментов типа ChatGPT. Но можно ли полагаться на медицинские советы от искусственного интеллекта (ИИ)?

Интересное по теме:

Почему искусственный интеллект не может заменить врача?

Искусственный интеллект активно внедряется в медицину, значительно повышая эффективность диагностики и лечения. ИИ используется для анализа МРТ, КТ, рентгеновских снимков. Это особенно важно для раннего выявления онкологических заболеваний, пневмонии и туберкулеза. Также ИИ применяется для персонализированного лечения, анализируя геномные данные и историю болезни пациента для создания оптимальных терапевтических стратегий. Однако управляет ИИ врач — человек, имеющий медицинское образование и клинический опыт.

Большые языковые модели (LLM) искусственного интеллекта, к которым относится и ChatGPT, могут анализировать большой объем информации, быстро находить закономерности и даже предлагать возможные диагнозы. Но это еще не делает его врачом. Врач видит перед собой не просто набор симптомов, а живого человека с уникальной историей — его хроническими заболеваниями, образом жизни, эмоциональным состоянием. Алгоритм не способен уловить нюансы: как вы выглядите во время разговора, как меняется ваш голос или что скрывают слова «мне просто немного плохо». Именно эти мелочи часто подсказывают врачу истинную причину проблемы со здоровьем.
Есть и другой важный момент — ответственность: когда возникает ошибка, именно специалист может исправить ситуацию, а не программа. Известно, что даже самые современные алгоритмы могут ошибаться, особенно в сложных случаях или когда не хватает данных. ИИ не может объяснить пациенту, почему выбран именно такой метод лечения, не может поддержать человека, когда ему страшно, или дать совет с учетом жизненных обстоятельств. Забота, клиническое мышление и доверие между пациентом и врачом — это то, чего ни один алгоритм не способен предложить. Поэтому пока что врача заменить он не может. 

Интересное по теме:

Ситуации, когда советы ИИ могут быть опасными

Но есть ситуации, когда обращаться к искусственному интеллекту за советами по здоровью может быть рискованно:

• неотложные состояния. Боль в груди, затрудненное дыхание, внезапный паралич или потеря сознания требуют немедленной помощи врача. Промедление даже на несколько минут может стоить жизни;
• сложные или редкие заболевания. Алгоритмы могут давать ложные подсказки, когда симптомы нетипичны или не хватает данных;
• назначение лекарств. ИИ не учитывает индивидуальные особенности. Лекарства, подходящие одному человеку, могут быть опасны для другого из-за хронических заболеваний, образа жизни или взаимодействия с другими препаратами;
• эмоциональная поддержка. Искусственный интеллект не способен распознать кризисную ситуацию или предупредить опасное поведение, поэтому его нельзя использовать вместо психолога или психиатра.

Известны случаи, когда ИИ-боты якобы способствовали суицидальному поведению пользователей. Родственники умерших и журналисты утверждают, что после длительных разговоров с чат-ботами у подростков обострились суицидальные мысли и в нескольких случаях они покончили с собой. 

Иск семьи против OpenAI за смерть 16-летнего Адама Рейна. Семья утверждает, что длительные разговоры с ChatGPT «нормализовали» суицидальные мысли у Адама. Подросток неоднократно обсуждал с ChatGPT способы совершить самоубийство, в том числе и накануне того, как лишил себя жизни. В документе, поданном в Высший суд округа Сан-Франциско в Калифорнии, утверждается, что чат-бот давал ему оценки и советы относительно вероятности «успеха» выбранного способа и даже предложил помощь в написании предсмертного письма родителям. По данным суда, Адам и ChatGPT обменивались до 650 сообщений в день. OpenAI уже признала, что система могла «не сработать» в длительных диалогах и анонсировала усиление защиты.

Генеральный директор подразделения Microsoft по разработке искусственного интеллекта Мустафа Сулейман говорит о «риске психоза» для пользователей. В Microsoft это определяют как появление или обострение маниакальных эпизодов, бредовых идей или паранойи во время длительных и увлекательных разговоров с чат-ботами на базе ИИ. Поэтому ИИ вам не то что не врач — он даже вам не друг.

Есть еще один интересный момент, который свидетельствует не в пользу ИИ как врача — «приятные ответы». Языковые модели, среди которых есть и ChatGPT, иногда формулируют ответы так, чтобы они звучали убедительно или соответствовали ожиданиям пользователя, даже если информация недостоверна. Это явление называют «галлюцинациями ИИ». В медицине такой «приятный», но ошибочный совет может подтолкнуть к неправильным решениям. Поэтому рекомендации ИИ могут быть только вспомогательными, но никогда — окончательными в вопросах здоровья.

Как безопасно пользоваться ИИ в вопросах здоровья?

Искусственный интеллект может быть полезным помощником в вопросах здоровья, если пользоваться им осторожно. Он может подсказать базовую информацию о функционирование человеческого организма, заболеваниях, препаратах, витаминах и минералах или здоровом образе жизни, напомнить о приеме лекарств, быстро найти ресурсы, где публикуется научно подтвержденная, достоверная информация. Но даже такие данные ИИ может интерпретировать некорректно, поэтому не следует слепо доверять его выводам. ИИ не заменяет врача: диагнозы, лечение и важные медицинские решения всегда нужно обсуждать со специалистом.

Интересное по теме: