Люди все еще больше доверяют медицинским советам от медсестер, чем от искусственного интеллекта. Но есть нюанс - характер самого совета часто важнее, чем его источник. Если рекомендация кажется интуитивно правильной, люди склонны доверять ей независимо от того, кто ее дал - человек или машина. Это работает и в обратную сторону: неожиданные советы вызывают недоверие, даже если они медицински точны.
Что показало исследование
Ученые из Университета штата Аризона опросили 1502 взрослых американцев. Участники читали диалоги, где человек просил совета по здоровью у одного из трех источников: медсестры, специализированного ИИ-помощника или ChatGPT. Советы были либо интуитивными (соответствовали ожиданиям), либо неожиданными (медицински точными, но противоречащими здравому смыслу).
Результаты:
· Советы от медсестры получили рейтинг доверия 3.53 из 5.
· От ИИ-помощника - 3.13.
· От ChatGPT - 3.21.
Разница между двумя ИИ-источниками была незначительной - то есть специальная маркировка "медицинский ИИ" не повысила доверие.
Что оказалось важнее
Интуитивные советы получили средний рейтинг 3.46 против 3.12 у неожиданных. В ситуациях с высоким риском (например, боль в груди) неожиданные советы вызывали еще большее недоверие. Люди просто не верили рекомендациям, которые шли вразрез с их ожиданиями, даже если они были правильными.
Автор исследования Эшли Ландрум: "Люди доверяли медсестре больше, но они не отвергали ИИ-источники как ненадежные. То, что говорил совет и казался ли он интуитивно правильным, имело такое же или даже большее значение, чем его источник. Это классический пример предвзятости подтверждения - мы верим тому, что уже соответствует нашим убеждениям".
Неожиданный поворот
В морально чувствительном сценарии (заморозка яйцеклеток для сохранения фертильности) участники оценивали консервативно окрашенные советы как менее заслуживающие доверия, независимо от источника. Это показывает, что люди применяют одни и те же эвристики критического мышления и к человеческим, и к машинным источникам.
Что это значит для разработчиков ИИ
Ландрум советует: "Сейчас много говорят о том, доверяют ли люди ИИ. Но наши данные показывают, что это слишком простой вопрос. Доверие зависит от человека, ситуации и того, как информация подана. Простая маркировка 'специализированный медицинский ИИ' не повысила доверие по сравнению с ChatGPT".
Если совет неожиданный, особенно в ситуации высокого риска, ИИ-системе нужно не просто дать ответ, а объяснить, почему рекомендация имеет смысл, откуда она взялась и когда стоит обратиться к врачу.
В России ИИ в медицине активно внедряется - от анализа снимков до чат-ботов в поликлиниках. Исследование показывает, что даже при наличии технологий люди сохраняют скептицизм. Для российских разработчиков это сигнал: важно не просто создать "умную" систему, но и научить ее объяснять свои решения. Для пациентов - напоминание о том, что интуитивное не всегда означает правильное.
