Доктор Веред Шварц утверждает, что человеческий тон ответов, генерируемых ИИ, в сочетании с их уверенной подачей могут легко убедить пользователей в достоверности информации, даже если она неточна. (CTV News)
Новое исследование показывает, что искусственный интеллект может быть очень убедительным в медицинских консультациях, и эксперты утверждают, что вера в него отнимает у пациентов драгоценное время общения с настоящим врачом.
Исследование, проведённое учёными из Университета Британской Колумбии, показало, что большие языковые модели, такие как ChatGPT, не только предоставляют медицинскую информацию, но и зачастую более убедительны и приятны в общении, чем живые люди…
— Разговоры с большими языковыми моделями были более убедительными, чем разговоры с людьми, — говорит доктор Веред Шварц, доцент кафедры информатики Университета Британской Колумбии и автор книги «Потерянные в автоматическом переводе». — Они также считались более эмпатичными.
Шварц утверждает, что человеческий тон ответов, генерируемых ИИ, в сочетании с их уверенным изложением информации могут легко убедить пользователей в достоверности информации, даже если она неточна.
— Когда книга написана настолько авторитетно и содержит ответы на все вопросы, вы, конечно, предполагаете, что она знает, о чем пишет», — сказал Шварц.
Врачи говорят, что видят результаты на собственном опыте. Пациенты всё чаще приходят на приём, уже приняв решение, часто ссылаясь на диагнозы или рекомендации по лечению, полученные с помощью инструментов искусственного интеллекта. Эти рекомендации иногда оказываются неверными, и врачу приходится тратить время на попытки их переубедить.
— Часто люди попадают в точку, — говорит доктор Кассандра Стиллер-Молдован, семейный врач из Колвуда, Британская Колумбия. — Но иногда приходится долго убеждать их, что это не совсем так. И эта образовательная часть занимает много времени.
Группа канадских исследователей обнаружила, что при точной диагностике заболеваний такие сервисы, как ChatGPT, чаще ошибаются, чем оказываются правы.
Исследователи из Университета Ватерлоо оценили эффективность ChatGPT версии 4, задав ему ряд открытых медицинских вопросов. Только 31% ответов ChatGPT были признаны полностью правильными.
Канадская медицинская ассоциация считает, что растущая зависимость от искусственного интеллекта понятна, учитывая, что миллионы канадцев не имеют доступа к семейному врачу.
— Одна из причин, по которой люди обращаются в интернет, заключается в том, что они не могут получить тот доступ, которого заслуживают, — сказала президент Кнадской Медицинской Ассоциации доктор Кэтлин Росс. — Когда вы долгое время обращаетесь к врачу общей практики, выстраиваются доверительные отношения, и вы можете начать обсуждать эти сложные вопросы.
Однако из-за длительного ожидания в поликлиниках и отделениях неотложной помощи, а также из-за сокращения личного общения с проверенными специалистами многие канадцы предпочитают обращаться к инструментам искусственного интеллекта.
Фото: CTV News
