윈도우 11에서 에이전트 기반 AI 기능을 활성화해야 할까요? 아니요, 보안 위험이 있습니다. 이유는 다음과 같습니다.

• Windows 11의 에이전트형 AI 기능은 운영 체제가 사용자를 대신하여 클릭, 입력 및 작업을 수행할 수 있도록 하는 시스템 수준의 자동화를 도입합니다.
• 이러한 기능들은 강력하지만 아직 실험 단계에 있으며 상당한 보안 및 개인정보 보호 위험을 내포하고 있습니다.
• 대부분의 사용자에게는 현재 에이전트형 AI를 활성화하는 것이 권장되지 않습니다.

마이크로소프트는 윈도우 11 에 '에이전틱 AI'라는 새로운 시스템 수준 기능을 테스트하기 시작했습니다. 이 기능은 인공지능이 사용자를 대신하여 클릭, 입력, 애플리케이션 탐색 등을 마치 사람처럼 수행할 수 있도록 합니다. 이는 윈도우 11 운영 체제가 수십 년 만에 시도하는 가장 야심찬 변화 중 하나입니다. 강력한 자동화 기능을 약속하지만, 현재 구현 방식은 대부분의 사용자가 감당하기 어려운 보안 및 개인정보 보호 위험을 내포하고 있습니다.

설정 앱에서 새롭게 추가된 "실험적 에이전트 기능" 토글을 보셨다면 , 이 기능을 켜는 것이 편리할 가치가 있는지 궁금하실 수 있습니다. 간단히 말씀드리면, 아직은 아닙니다. 마이크로소프트 자체도 이 기능의 안전성을 보장할 수 없으며 , 보안은 "일회성 기능"이 아니라 "지속적인 노력"이라고 강조합니다. 즉, 오류나 문제가 발생할 경우 즉시 해결해 나갈 것이라는 의미입니다.

다시 말해, 현재 일반 사용자의 경우 에이전트형 AI를 활성화하는 것은 시간 절약이라는 이점보다 더 큰 위험을 초래할 수 있습니다.

당신을 위해 행동할 수 있는 인공지능은 당신에게 불리하게 행동할 수도 있습니다.

Windows 11에서 가장 중요한 변화는 AI가 더 이상 단순히 답변을 생성하는 데 그치지 않는다는 점입니다. 에이전트 기능은 시스템이 "에이전트 작업 공간"이라고 하는 운영 체제의 별도 세션에서 작업을 수행할 수 있도록 합니다. 즉, 사용자가 기본 데스크톱 세션에서 작업을 계속하는 동안 에이전트가 앱을 열고, 파일을 관리하고, 여러 단계를 거치는 작업을 완료할 수 있습니다.

이는 강력한 기능이지만, 새로운 형태의 공격 가능성도 내포하고 있습니다. 챗봇과 달리 AI 에이전트는 시스템을 변경할 수 있습니다. 만약 잘못된 지시, 사용자 실수, 조작된 프롬프트와 같은 오류가 발생하면, 그 결과는 단순히 대화창에만 국한되지 않고 실제 파일과 애플리케이션에도 영향을 미칩니다.

에이전트 작업 영역은 초기에는 별도의 시스템 세션에서 실행된다는 점에 유의해야 합니다. 하지만 향후 릴리스에서 Microsoft는 에이전트 작업 영역을 별도의 권한과 기능을 갖춘 경량의 안전한 가상 환경으로 배포할 계획입니다.

교차 유도 주사는 실질적인 위협입니다.

마이크로소프트는 웹페이지, 문서 또는 앱 인터페이스 내에 숨겨진 텍스트를 통해 에이전트의 명령 흐름을 가로채는 '크로스 프롬프트 인젝션' 이라는 새로운 유형의 공격을 경고했습니다 . 악성 웹사이트는 에이전트에게 악성 프로그램을 다운로드하도록 지시하는 명령을 은밀하게 삽입할 수 있습니다. 에이전트가 시스템 작업을 수행할 권한을 가지고 있기 때문에 이러한 유형의 공격은 기존의 프롬프트 조작보다 더 큰 피해를 초래할 수 있습니다.

이는 이론적인 위험이 아닙니다. 연구자들이 여러 차례 입증한 에이전트 시스템의 알려진 취약점입니다. 그리고 윈도우 11은 이제 막 이러한 취약점에 대한 방어책을 마련하기 시작했을 뿐입니다.

담당자는 귀하의 개인 폴더에 접근할 수 있습니다.

이 기능을 활성화하면 에이전트 계정은 문서, 다운로드, 바탕 화면, 사진, 비디오 및 음악 폴더에 있는 파일에 대한 읽기 및 쓰기 권한을 자동으로 얻게 됩니다.

이는 상담원이 업무를 완료하는 데 필수적이지만, 상담원 측의 실수, 오해 또는 잘못된 지시로 인해 개인 데이터에 영향을 미칠 수 있음을 의미합니다. 실수로 잘못된 폴더에 파일을 정리하는 것과 대량의 파일을 실수로 삭제하거나 이동하는 것은 완전히 다른 문제입니다.

많은 사용자는 인공지능이 자신의 로컬 데이터에 자율적으로 작용할 때 발생할 수 있는 결과에 대처할 준비가 되어 있지 않습니다.

환각은 시스템 수준의 오류로 이어진다

AI 모델은 여전히 ​​오류를 범하거나 지시를 잘못 해석할 수 있습니다. 대개 이는 무해하지만, 에이전트 기반 동작이 활성화된 경우 오류로 인해 잘못된 앱이 실행되거나, 의도치 않게 파일이 수정 또는 삭제되거나, 안전하지 않은 웹사이트에 접속하거나, 워크플로에서 잘못된 단계를 수행할 수 있습니다.

인공지능이 운영체제에 대한 물리적 제어권을 확보하게 되면, 사소한 실수라도 심각한 결과를 초래할 수 있습니다.

잊어버리더라도 백그라운드에서 실행됩니다.

현재 이 첫 번째 미리 보기 버전에는 몇 가지 알려진 문제가 있습니다. 예를 들어, Copilot Actions가 활성화된 경우 시스템이 절전 모드로 전환되거나 종료되지 않을 수 있습니다. 또한 "다른 사용자가 이 PC를 사용 중입니다"라는 경고 메시지가 표시될 수도 있습니다 .

에이전트가 눈에 띄지 않게 백그라운드에서 계속 작동하는 것은 혼란, 업데이트 지연 또는 사용자가 중지했다고 생각한 후에도 오랫동안 지속되는 프로세스로 이어질 수 있습니다.

당신도 모르는 사이에 당신의 기기는 다중 사용자 시스템이 됩니다.

윈도우 11의 에이전트형 AI는 매우 흥미로운 아이디어입니다. 이는 컴퓨터가 일상적인 작업을 자동화하고, 워크플로를 간소화하며, 수동적인 장치가 아닌 지능형 비서처럼 작동할 수 있는 미래를 제시합니다. 그러나 현재 이 기능은 미완성 상태이며, 실험적이고, 보안이 취약하며, 새로운 유형의 공격에 노출되어 있습니다.

그건 주력 개인용 컴퓨터에 적합한 조합이 아닙니다.

결론

개발자, 보안 연구원 또는 인공지능의 최첨단 기술을 의도적으로 실험하는 사용자라면 통제된 환경에서 에이전트 기능을 활성화해 보는 것이 좋을 수 있습니다. 하지만 일반 사용자, 특히 컴퓨터에 개인 파일이나 업무 관련 파일을 저장하는 사용자라면 해당 기능을 꺼두는 것이 좋습니다.

위험성은 실제로 존재하며, 보안 기능은 아직 미흡하고, 얻을 수 있는 이점도 제한적입니다. 윈도우 11은 강력한 자동화 계층으로 발전할 수 있는 기반을 마련하고 있지만, 현재로서는 이 기술이 일반 사용자에게 제공될 준비가 되려면 더 많은 시간이 필요합니다.