Стоит ли включать функции агентного ИИ в Windows 11? Нет, это представляет угрозу безопасности, вот почему.

• Функции искусственного интеллекта Agentic AI в Windows 11 внедряют автоматизацию на системном уровне, которая позволяет операционной системе щелкать мышью, вводить текст и выполнять действия от вашего имени.
• Несмотря на то, что эти функции обладают большими возможностями, они все еще находятся на экспериментальной стадии и создают существенные риски для безопасности и конфиденциальности.
• Для большинства пользователей включение агентного ИИ сегодня не рекомендуется.

Microsoft начинает тестирование «агентного ИИ» в Windows 11 — новой системной функции, которая позволяет искусственному интеллекту действовать от вашего имени, щелкая мышью, набирая текст и перемещаясь по приложениям, как это делал бы человек. Это одно из самых амбициозных изменений в операционной системе за последние десятилетия. И хотя оно обещает мощную автоматизацию, текущая реализация создает риски для безопасности и конфиденциальности, к которым большинство пользователей не готовы.

Если вы видите новый переключатель «Экспериментальные агентские функции» в приложении «Параметры», вы можете задаться вопросом, стоит ли его включать ради удобства. Краткий ответ — нет. По крайней мере, пока нет. Сама Microsoft не может гарантировать его безопасность , и компания заявляет, что безопасность — это не «разовая функция», а «постоянное обязательство», то есть ошибки и проблемы будут устраняться по мере их возникновения.

Иными словами, в настоящее время для обычных пользователей внедрение агентного ИИ открывает двери для рисков, которые перевешивают любую экономию времени.

Искусственный интеллект, способный действовать в ваших интересах, также может действовать против вас.

В Windows 11 наиболее значительным изменением является то, что искусственный интеллект больше не ограничивается генерацией ответов. Функции агента позволяют системе выполнять задачи в отдельной сессии операционной системы, известной как «рабочее пространство агента». Это означает, что агент может открывать приложения, управлять файлами и выполнять многоэтапные операции, пока вы продолжаете работать в основной сессии рабочего стола.

Это мощный инструмент, но он также создает новый вид атаки. В отличие от чат-бота, агент с искусственным интеллектом может вносить изменения в вашу систему. Если что-то пойдет не так (неправильная инструкция, ошибка пользователя или измененная подсказка), последствия затронут ваши реальные файлы и приложения, а не только окно диалога.

Важно отметить, что рабочая область агента изначально запускается в отдельной системной сессии. Однако в будущих версиях Microsoft планирует развертывать рабочие области агентов в виде облегченных и безопасных виртуальных сред с отдельными правами доступа и возможностями.

Введение препарата через перекрестный зонд представляет собой реальную угрозу.

Microsoft сообщает о новом классе атак, называемых внедрением перекрестных подсказок , при которых скрытый текст на веб-страницах, в документах или интерфейсах приложений может перехватить поток инструкций агента. Вредоносный веб-сайт может внедрить инструкции, которые незаметно указывают агенту на необходимость загрузки вредоносного ПО. Поскольку агент имеет разрешение на выполнение системных действий, этот тип атаки имеет больший потенциальный эффект, чем традиционная манипуляция подсказками.

Это не теоретический риск. Это известная уязвимость в агентных системах, которую исследователи неоднократно демонстрировали. И Windows 11 только начинает разрабатывать средства защиты.

Агент имеет доступ к вашим личным папкам.

После включения этой функции учетные записи агентов автоматически получают доступ на чтение и запись к вашим файлам в папках «Документы», «Загрузки», «Рабочий стол», «Изображения», «Видео» и «Музыка».

Это необходимо для выполнения агентом задач, но это также означает, что любая ошибка, неверное толкование или скомпрометированная инструкция со стороны агента могут повлиять на персональные данные. Случайная организация не той папки — это одно дело. Случайное удаление или перемещение большого количества файлов — совсем другое.

Многие пользователи не готовы к последствиям автономного действия ИИ на их локальные данные.

Галлюцинации превращаются в ошибки системного уровня.

Модели ИИ по-прежнему испытывают галлюцинации и неправильно интерпретируют инструкции. Обычно это безвредно, но при включенных действиях агента галлюцинация может привести к запуску неправильного приложения, непреднамеренному изменению или удалению файлов, переходу на небезопасные веб-сайты или выполнению неправильных шагов в рабочем процессе.

Когда искусственный интеллект получает физический контроль над операционной системой, даже небольшие ошибки могут иметь серьезные последствия.

Оно работает в фоновом режиме, даже когда вы об этом забудете.

В настоящее время, в этой первой предварительной версии, выявлено несколько известных проблем. Например, если функция Copilot Actions активна, система может отказываться переходить в спящий режим или выключаться. Вы даже можете увидеть предупреждения о том, что «кто-то еще использует этот компьютер».

Тот факт, что агент продолжает работать в фоновом режиме без видимых последствий, может привести к путанице, задержкам обновлений или зависанию процессов, которые продолжаются еще долго после того, как пользователь считает, что они остановились.

Ваше устройство незаметно для вас превращается в многопользовательскую систему.

Внедрение интеллектуального ИИ в Windows 11 — это захватывающая идея. Она представляет собой будущее, где компьютеры смогут автоматизировать повседневные задачи, оптимизировать рабочие процессы и действовать скорее как интеллектуальные помощники, чем как пассивные устройства. Однако в своем нынешнем виде эта функция не завершена, экспериментальна, слабо защищена и уязвима для новых типов атак.

Такое сочетание не подходит для основного персонального компьютера.

Заключение

Если вы разработчик, исследователь в области безопасности или целенаправленно экспериментируете с передовыми технологиями ИИ, включение агентных функций может быть полезным в контролируемой среде. Если же вы обычный пользователь, особенно тот, кто хранит личные или рабочие файлы на компьютере, лучше не включать эту функцию.

Риски реальны, средства защиты недостаточно развиты, а преимущества пока ограничены. Windows 11 закладывает основу для того, что может стать мощным уровнем автоматизации, но сейчас этой технологии нужно больше времени, прежде чем она будет готова для широкого круга пользователей.