Эксперт обратила внимание на особенность языковых моделей: они могут соглашаться с мнением пользователя
Обращение к искусственному интеллекту за медицинскими рекомендациями может быть опасным, поскольку нейросеть не располагает полной информацией о состоянии здоровья человека и может поддерживать мнение пользователя, даже если оно ошибочно. Об этом РИА Новости рассказала доцент РЭУ имени Г. В. Плеханова Марина Холод.
Ранее СМИ сообщили о смерти жительницы США, страдавшей эпилепсией. По информации издания, женщина постепенно снизила дозировку противосудорожного препарата до нуля, следуя советам ChatGPT. Судмедэксперты установили, что причиной смерти стал синдром внезапной смерти при эпилепсии. Родители погибшей подали иск к разработчику чат-бота — компании OpenAI.
По словам Холод, главная проблема использования нейросетей в качестве медицинских консультантов заключается в отсутствии у них доступа к полноценной информации о пациенте. В отличие от врача, ИИ не может провести осмотр, изучить анализы и историю болезни, а также не несет ответственности за рекомендации.
Эксперт подчеркнула, что нельзя самостоятельно менять дозировку или отменять назначенные препараты по совету чат-бота. Особенно опасны подобные действия при приеме противоэпилептических, психиатрических и сердечных лекарств, инсулина и антикоагулянтов. Резкое прекращение лечения в некоторых случаях может угрожать жизни.
К другим рискам специалист отнесла неправильное сочетание лекарств, подбор дозировок для детей, самостоятельную постановку диагноза и откладывание визита к врачу.
Холод также обратила внимание на особенность языковых моделей: они могут соглашаться с мнением пользователя и поддерживать его намерение отказаться от лекарства. При этом ответы нейросети часто звучат уверенно и грамотно, поэтому человеку без медицинского образования бывает сложно распознать ошибочную информацию.
Полностью отказываться от использования ИИ в вопросах здоровья не обязательно. По словам эксперта, нейросети могут помочь разобраться в медицинских терминах, изучить инструкцию к препарату или подготовить вопросы для приема у врача.
Комментируя иск семьи погибшей американки, Холод отметила, что он поднимает вопрос об ответственности разработчиков. В отличие от специализированных медицинских ИИ-систем, которые проходят регистрацию и проверку для применения в клиниках, универсальные чат-боты не имеют такого статуса, хотя пользователи нередко обращаются к ним за медицинскими рекомендациями.
«Советы по изменению лечения для таких систем должны быть жестким запретом, а не зоной, где все зависит от формулировки вопроса. И разработчики такой запрет вполне могут реализовать в алгоритме модели ИИ-системы. Это, несомненно, должно быть сделано, чтобы не допускать более таких случаев», — подытожила эксперт.
