OpenAI поменял свою политику, и запретил своему чат-боту ChatGPT предоставлять пользователям медицинские или юридические консультации на основе искусственного интеллекта.
Это изменение связано с тем, что пользователи всё чаще обращаются к искусственному интеллекту для решения личных проблем, связанных с психическим и физическим здоровьем.
29 октября компания, занимающаяся исследованиями в области искусственного интеллекта, обновила свою политику использования, уточнив, что пользователи ChatGPT не могут использовать сервис для «индивидуальных консультаций, требующих лицензии, таких как юридические или медицинские консультации, без соответствующего участия лицензированного специалиста».
Изменение стало более очевидным после последнего обновления политики использования компанией от 29 января 2025 года.
Согласно этому обновлению, пользователи не должны «следовать или способствовать» действиям, которые могут существенно повлиять на «безопасность, благополучие или права других лиц», включая «предоставление персонализированных юридических, медицинских или финансовых консультаций».
ChatGPT быстро стал популярным инструментом для многих канадцев, ищущих решения своих проблем со здоровьем.
Исследование, проведённое учёными из Университета Ватерлоо, оценило эффективность ChatGPT-4, когда ему задавали ряд открытых медицинских вопросов, основанных на сценариях, модифицированных для экзамена на получение медицинской лицензии.
Вывод: только 31% ответов чат-бота были признаны полностью правильными, а 34% — понятными.
Исследование Университета Британской Колумбии, опубликованное в октябре, показало, что ChatGPT может быть настолько убедительным, что влияет на время, которое пациент проводит с врачом в реальной жизни.
Исследователи обнаружили, что язык, используемый чат-ботом при оказании медицинской помощи, воспринимался более убедительным и приятным, чем язык реальных людей. Поэтому, даже если предоставленная им информация была неточной, её было трудно расшифровать, поскольку чат-бот производил впечатление уверенного и заслуживающего доверия советчика.
В свою очередь, врачи отмечают, что пациенты приходят на приём уже с твёрдым решением, часто руководствуясь советами, полученными от инструментов искусственного интеллекта.
Фото: Pixabay
