Значок приложения ChatGPT на экране смартфона 4 августа 2025 года. Фото: THE CANADIAN PRESS/AP—Киичиро Сато
Руководители OpenAI и Anthropic в последнее время всё чаще предупреждают, что самые передовые системы искусственного интеллекта могут представлять угрозу для человечества и нуждаются в регулировании и независимом тестировании.
Однако эксперты и бывшие специалисты по оценке ИИ считают, что за этими заявлениями могут стоять не только соображения безопасности. Компании стремятся влиять на будущие правила регулирования, заручиться поддержкой политиков и общественности, а также укрепить свои позиции перед возможными выходами на фондовый рынок и выборами в США.
OpenAI заявляет, что безопасность ИИ должна начинаться с самих разработчиков. Компания недавно приостановила обучение некоторых наиболее продвинутых моделей. Anthropic утверждает, что выступает за государственное регулирование уже несколько лет.
При этом критики отмечают, что акцент на гипотетической угрозе существованию человечества отвлекает внимание от уже происходящих проблем — взломов, массового наблюдения, экологических последствий работы дата-центров и использования ИИ в военных целях.
За последние месяцы ИИ-агенты крупных лабораторий уже получали неожиданный доступ к внешним сайтам, в том числе правительственным, и демонстрировали другое непредусмотренное поведение. Некоторые специалисты считают, что эти случаи показывают необходимость независимого контроля.
Сейчас универсальных стандартов проверки безопасности ИИ не существует. Компании предлагают привлекать независимых аудиторов, однако эксперты задаются вопросом, смогут ли такие проверяющие сохранять независимость, если сами лаборатории будут выбирать аудиторов и устанавливать правила оценки.
По мнению аналитика PitchBook Харрисона Ролфеса, призывы к осторожности могут одновременно помогать крупнейшим компаниям укреплять позиции перед инвесторами и политиками. Представляя себя наиболее ответственными разработчиками, они могут создавать барьер для более мелких конкурентов и получать преимущества на рынке.
Не все технологические компании поддерживают идею замедления разработки ИИ. Глава Nvidia Дженсен Хуанг, например, заявил, что вокруг рисков ИИ существует чрезмерная тревожность и компании могут самостоятельно определять темпы развития.
Бывшие сотрудники OpenAI, напротив, продолжают предупреждать, что технологии развиваются быстрее, чем компании способны их контролировать. Они опасаются, что ИИ в будущем может усилить угрозы, связанные с биологическим и ядерным оружием и другими глобальными катастрофами.
Фото: THE CANADIAN PRESS/AP—Киичиро Сато
