Microsoft начинает тестирование «агентного ИИ» в Windows 11 — новой системной функции, которая позволяет искусственному интеллекту действовать от вашего имени, щелкая мышью, набирая текст и перемещаясь по приложениям, как это делал бы человек. Это одно из самых амбициозных изменений в операционной системе за последние десятилетия. И хотя оно обещает мощную автоматизацию, текущая реализация создает риски для безопасности и конфиденциальности, к которым большинство пользователей не готовы.
Если вы видите новый переключатель «Экспериментальные агентские функции» в приложении «Параметры», вы можете задаться вопросом, стоит ли его включать ради удобства. Краткий ответ — нет. По крайней мере, пока нет. Сама Microsoft не может гарантировать его безопасность , и компания заявляет, что безопасность — это не «разовая функция», а «постоянное обязательство», то есть ошибки и проблемы будут устраняться по мере их возникновения.
Иными словами, в настоящее время для обычных пользователей внедрение агентного ИИ открывает двери для рисков, которые перевешивают любую экономию времени.
Искусственный интеллект, способный действовать в ваших интересах, также может действовать против вас.
В Windows 11 наиболее значительным изменением является то, что искусственный интеллект больше не ограничивается генерацией ответов. Функции агента позволяют системе выполнять задачи в отдельной сессии операционной системы, известной как «рабочее пространство агента». Это означает, что агент может открывать приложения, управлять файлами и выполнять многоэтапные операции, пока вы продолжаете работать в основной сессии рабочего стола.
Это мощный инструмент, но он также создает новый вид атаки. В отличие от чат-бота, агент с искусственным интеллектом может вносить изменения в вашу систему. Если что-то пойдет не так (неправильная инструкция, ошибка пользователя или измененная подсказка), последствия затронут ваши реальные файлы и приложения, а не только окно диалога.
Важно отметить, что рабочая область агента изначально запускается в отдельной системной сессии. Однако в будущих версиях Microsoft планирует развертывать рабочие области агентов в виде облегченных и безопасных виртуальных сред с отдельными правами доступа и возможностями.
Введение препарата через перекрестный зонд представляет собой реальную угрозу.
Microsoft сообщает о новом классе атак, называемых внедрением перекрестных подсказок , при которых скрытый текст на веб-страницах, в документах или интерфейсах приложений может перехватить поток инструкций агента. Вредоносный веб-сайт может внедрить инструкции, которые незаметно указывают агенту на необходимость загрузки вредоносного ПО. Поскольку агент имеет разрешение на выполнение системных действий, этот тип атаки имеет больший потенциальный эффект, чем традиционная манипуляция подсказками.
Это не теоретический риск. Это известная уязвимость в агентных системах, которую исследователи неоднократно демонстрировали. И Windows 11 только начинает разрабатывать средства защиты.
Агент имеет доступ к вашим личным папкам.
После включения этой функции учетные записи агентов автоматически получают доступ на чтение и запись к вашим файлам в папках «Документы», «Загрузки», «Рабочий стол», «Изображения», «Видео» и «Музыка».
Это необходимо для выполнения агентом задач, но это также означает, что любая ошибка, неверное толкование или скомпрометированная инструкция со стороны агента могут повлиять на персональные данные. Случайная организация не той папки — это одно дело. Случайное удаление или перемещение большого количества файлов — совсем другое.
Многие пользователи не готовы к последствиям автономного действия ИИ на их локальные данные.
Галлюцинации превращаются в ошибки системного уровня.
Модели ИИ по-прежнему испытывают галлюцинации и неправильно интерпретируют инструкции. Обычно это безвредно, но при включенных действиях агента галлюцинация может привести к запуску неправильного приложения, непреднамеренному изменению или удалению файлов, переходу на небезопасные веб-сайты или выполнению неправильных шагов в рабочем процессе.
Когда искусственный интеллект получает физический контроль над операционной системой, даже небольшие ошибки могут иметь серьезные последствия.
Оно работает в фоновом режиме, даже когда вы об этом забудете.
В настоящее время, в этой первой предварительной версии, выявлено несколько известных проблем. Например, если функция Copilot Actions активна, система может отказываться переходить в спящий режим или выключаться. Вы даже можете увидеть предупреждения о том, что «кто-то еще использует этот компьютер».
Тот факт, что агент продолжает работать в фоновом режиме без видимых последствий, может привести к путанице, задержкам обновлений или зависанию процессов, которые продолжаются еще долго после того, как пользователь считает, что они остановились.
Ваше устройство незаметно для вас превращается в многопользовательскую систему.
Внедрение интеллектуального ИИ в Windows 11 — это захватывающая идея. Она представляет собой будущее, где компьютеры смогут автоматизировать повседневные задачи, оптимизировать рабочие процессы и действовать скорее как интеллектуальные помощники, чем как пассивные устройства. Однако в своем нынешнем виде эта функция не завершена, экспериментальна, слабо защищена и уязвима для новых типов атак.
Такое сочетание не подходит для основного персонального компьютера.
Заключение
Если вы разработчик, исследователь в области безопасности или целенаправленно экспериментируете с передовыми технологиями ИИ, включение агентных функций может быть полезным в контролируемой среде. Если же вы обычный пользователь, особенно тот, кто хранит личные или рабочие файлы на компьютере, лучше не включать эту функцию.
Риски реальны, средства защиты недостаточно развиты, а преимущества пока ограничены. Windows 11 закладывает основу для того, что может стать мощным уровнем автоматизации, но сейчас этой технологии нужно больше времени, прежде чем она будет готова для широкого круга пользователей.
Сборки 26200.5581 (KB5055651) и 26120.3950 (KB5055653) для Windows 11 добавляют новые визуальные эффекты функции «Загрузить», новые параметры HDR, настройки панели задач и многое другое.
В бета-версию Windows 11 вышло обновление KB5050105 (сборка 22635.4805), включающее изменения для функций Snap, Input, Settings, а также исправления ошибок.
Сборка 27808 для Windows 11 распространяется в канале Canary и включает изменения в диспетчере задач, ряд исправлений и известные проблемы.
В обновление KB5079473 (сборка 26200.8037) для Windows 11 добавлена проверка скорости работы панели задач, встроенная функция Sysmon, панорамирование и наклон камеры, а также исправлены ошибки в клавишах для версий 25H2 и 24H2.
Чтобы переместить панель задач Windows 11 вверх, влево, вправо или вниз, необходимо использовать WindHawk, ExplorerPatcher или Start11. Реестр больше не работает.
Microsoft улучшает Windows 11, снижая потребление оперативной памяти, повышая производительность и обеспечивая более плавную работу системы в приложениях и проводнике файлов.
В обновлении KB5070303 (сборка 26220.7262) для Windows 11 25H2 представлены экспериментальные функции управления с помощью ИИ, поддержка HD-голосов для программы Narrator, а также новое меню Click to Do.
В Windows 11 на панели задач появятся агенты искусственного интеллекта, и вот как работает эта функция и что это значит для стратегии Microsoft в отношении операционных систем, основанных на использовании агентов.
В календаре на панели задач появится поддержка просмотра предстоящих событий и встреч в Windows 11, как это было возможно в Windows 10.
Chrome теперь поддерживает вертикальные вкладки. Выполните следующие шаги, чтобы включить эту функцию в Windows 11 и упорядочить свой просмотр благодаря более удобной боковой панели.
