Faut-il activer les fonctionnalités dIA agentique sur Windows 11 ? Non, cela représente un risque pour la sécurité. Voici pourquoi.

• Les fonctionnalités d'IA agentique de Windows 11 introduisent une automatisation au niveau du système qui permet au système d'exploitation de cliquer, de taper et d'effectuer des actions en votre nom.
• Bien que ces fonctionnalités soient puissantes, elles restent expérimentales et présentent des risques importants en matière de sécurité et de confidentialité.
• Pour la plupart des utilisateurs, l'activation de l'IA agentive n'est pas recommandée aujourd'hui.

Microsoft commence à tester l'« IA agentique » au sein de Windows 11 , une nouvelle fonctionnalité système permettant à l'intelligence artificielle d'agir à votre place en cliquant, en tapant et en naviguant dans les applications comme le ferait un humain. Il s'agit de l'une des évolutions les plus ambitieuses apportées au système d'exploitation depuis des décennies. Si elle promet une automatisation puissante, sa mise en œuvre actuelle introduit des risques de sécurité et de confidentialité auxquels la plupart des utilisateurs ne sont pas préparés.

Si vous voyez le nouveau bouton « Fonctionnalités expérimentales » dans l’application Paramètres, vous vous demandez peut-être si l’activer vaut le coup. La réponse est non. Du moins, pas encore. Microsoft ne peut pas garantir sa sécurité et précise que la sécurité n’est pas une fonctionnalité ponctuelle, mais un engagement continu : les erreurs et les problèmes seront traités au fur et à mesure.

Autrement dit, à l'heure actuelle, pour les utilisateurs lambda, l'activation de l'IA agentielle ouvre la porte à des risques qui surpassent tout gain de temps.

Une IA capable d'agir pour vous est aussi une IA capable d'agir contre vous.

Sous Windows 11, le changement le plus important réside dans le fait que l'IA ne se limite plus à générer des réponses. Les fonctionnalités d'agent permettent au système d'exécuter des tâches dans une session distincte du système d'exploitation, appelée « espace de travail de l'agent ». Ainsi, l'agent peut ouvrir des applications, gérer des fichiers et réaliser des opérations complexes pendant que vous continuez à travailler sur votre session principale.

C'est un outil puissant, mais il crée aussi une nouvelle forme d'attaque. Contrairement à un chatbot, un agent IA peut modifier votre système. En cas de problème (instruction erronée, erreur de l'utilisateur ou message manipulé), les conséquences affectent vos fichiers et applications, et pas seulement une fenêtre de conversation.

Il est important de noter que l'espace de travail de l'agent s'exécute initialement dans une session système distincte. Cependant, dans les versions ultérieures, Microsoft prévoit de déployer les espaces de travail des agents sous forme d'environnements virtuels légers et sécurisés, dotés d'autorisations et de fonctionnalités spécifiques.

L'injection croisée est une menace réelle

Microsoft dénonce une nouvelle forme d'attaque appelée injection croisée d'invites , où du texte caché dans des pages web, des documents ou des interfaces d'applications peut détourner le flux d'instructions de l'agent. Un site web malveillant pourrait ainsi intégrer des instructions ordonnant discrètement à l'agent de télécharger un logiciel malveillant. L'agent étant autorisé à effectuer des actions système, ce type d'attaque a un impact potentiellement plus important que la manipulation classique des invites.

Il ne s'agit pas d'un risque théorique. C'est une faiblesse connue des systèmes multi-agents, que les chercheurs ont démontrée à maintes reprises. Et Windows 11 n'en est qu'aux prémices de la mise au point de solutions de défense.

L'agent a accès à vos dossiers personnels.

Une fois cette fonctionnalité activée, les comptes agents obtiennent automatiquement un accès en lecture et en écriture à vos fichiers dans les dossiers Documents, Téléchargements, Bureau, Images, Vidéos et Musique.

Cela est nécessaire à l'agent pour accomplir ses tâches, mais cela signifie également que toute erreur, mauvaise interprétation ou instruction erronée de sa part pourrait affecter les données personnelles. Classer accidentellement le mauvais dossier est une chose. Supprimer ou déplacer accidentellement de grands ensembles de fichiers en est une autre.

De nombreux utilisateurs ne sont pas préparés à gérer les conséquences d'une IA agissant de manière autonome sur leurs données locales.

Les hallucinations deviennent des erreurs systémiques

Les modèles d'IA peuvent encore avoir des hallucinations et mal interpréter les instructions. Généralement, cela est sans conséquence, mais lorsque les actions autonomes sont activées, une hallucination peut conduire à l'exécution d'une application erronée, à la modification ou à la suppression involontaire de fichiers, à la navigation vers des sites web non sécurisés ou à l'exécution d'étapes incorrectes dans un flux de travail.

Lorsque l'IA prend le contrôle physique du système d'exploitation, même de petites erreurs peuvent avoir des conséquences importantes.

Il fonctionne en arrière-plan, même lorsque vous l'oubliez

Dans cette première version préliminaire, quelques problèmes sont encore connus. Par exemple, si Copilot Actions est actif, le système peut refuser de se mettre en veille ou de s'éteindre. Vous pourriez même voir des avertissements indiquant que « quelqu'un d'autre utilise encore ce PC ».

Le fait que l'agent continue de fonctionner en arrière-plan sans visibilité évidente peut entraîner de la confusion, des mises à jour bloquées ou des processus persistants qui durent longtemps après que l'utilisateur pense qu'ils sont terminés.

Votre appareil devient un système multi-utilisateurs sans que vous vous en rendiez compte.

L'IA agentique sur Windows 11 est une idée prometteuse. Elle préfigure un avenir où les ordinateurs pourront automatiser les tâches quotidiennes, optimiser les flux de travail et se comporter davantage comme des assistants intelligents que comme de simples appareils passifs. Cependant, dans sa version actuelle, cette fonctionnalité est inachevée, expérimentale, peu protégée et vulnérable aux nouvelles attaques.

Ce n'est pas une configuration adaptée à un ordinateur personnel principal.

Conclusion

Si vous êtes développeur, chercheur en sécurité ou si vous expérimentez volontairement les dernières avancées en intelligence artificielle, l'activation des fonctionnalités d'agentivité peut s'avérer intéressante dans un environnement contrôlé. En revanche, si vous êtes un utilisateur lambda, notamment si vous stockez des fichiers personnels ou professionnels sur votre ordinateur, il est préférable de désactiver cette option.

Les risques sont réels, les protections ne sont pas encore abouties et les avantages restent limités. Windows 11 pose les bases de ce qui pourrait devenir une puissante couche d'automatisation, mais pour l'instant, cette technologie a besoin de plus de temps avant d'être prête pour le grand public.