Фото: The Canadian Press/Jonathan Hayward
В новом докладе, посвященном взглядам молодежи, говорится, что правительство должно обязать компании, занимающиеся разработкой ИИ, “принять меры по ограничению вызывающих привыкание аспектов их чат-ботов на основе искусственного интеллекта”.
Это одна из серии рекомендаций, сделанных молодыми людьми в возрасте от 17 до 23 лет, которые приняли участие в круглых столах по всей стране.
В докладе говорится, что платформы ИИ обязаны «решить проблему вызывающего привыкание дизайна чат-ботов на основе ИИ, требуя таких мер, как фильтрация контента и необязательное удаление кэша данных, а также предоставляя пользователям возможность определять уровень отзывчивости и диалогичности».
Доклад был опубликован Центром медиа, технологий и демократии Университета Макгилла в четверг.
Организаторы провели четыре консультационных мероприятия в период с ноября 2025 года по март 2026 года, в которых приняли участие 100 молодых людей.
Участники сосредоточились на четырех темах: чат-боты на основе ИИ, целостность информации, конфиденциальность данных и обеспечение соответствия возрастным ограничениям. В докладе отмечается, что участники достигли совершеннолетия вместе с технологиями ИИ.
В отчете отмечается, что чат-боты, как правило, укрепляют убеждения и эмоциональные состояния пользователей и «создают ложное ощущение того, что их понимают».
Добавляется, что эти эффекты являются результатом преднамеренных дизайнерских решений, принятых в погоне за прибылью.
Среди прочих рекомендаций в отчете говорится, что платформы социальных сетей и поисковые системы должны иметь простые варианты отказа от интегрированных технологий ИИ.
В нем также содержится призыв к созданию нового государственного органа, который мог бы оценивать системы, проверять алгоритмы и обеспечивать соблюдение стандартов безопасности.
Участники проведут мероприятие на Парламентском холме в четверг, чтобы представить отчет и свои рекомендации.
Федеральное правительство работает над отдельными законопроектами, направленными на решение проблем конфиденциальности в интернете и онлайн-угроз, а также пообещало разработать национальную стратегию в области ИИ.
Обещанный законопроект об онлайн-угрозах может включать возрастные ограничения на доступ к социальным сетям, как это было сделано в Австралии в прошлом году для лиц младше 16 лет. Правительство также рассматривает вопрос о включении чат-ботов с ИИ в любой запрет.
В отчете говорится, что участники чувствовали себя исключенными из процессов управления по цифровым вопросам. В нём также отмечены проблемы конфиденциальности, связанные с технологиями проверки возраста, и содержится призыв к созданию стандартизированной системы проверки возраста, которая «ограничила бы доступ пользователей к платформам генеративного ИИ путем создания анонимизированной системы цифровых токенов».
Фото: The Canadian Press/Jonathan Hayward
