Czy powinienem włączyć funkcje agentowej sztucznej inteligencji w systemie Windows 11? Nie, to zagrożenie bezpieczeństwa. Oto dlaczego

• Funkcje agentowej sztucznej inteligencji systemu Windows 11 wprowadzają automatyzację na poziomie systemu, dzięki której system operacyjny może klikać, pisać i wykonywać czynności w Twoim imieniu.
• Choć funkcje te są bardzo zaawansowane, to wciąż mają charakter eksperymentalny i wiążą się z poważnymi zagrożeniami dla bezpieczeństwa i prywatności.
• Dla większości użytkowników włączanie sztucznej inteligencji opartej na agentach nie jest obecnie zalecane.

Microsoft rozpoczyna testowanie „agentowej sztucznej inteligencji” w systemie Windows 11 – nowej funkcji systemowej, która pozwala sztucznej inteligencji działać w Twoim imieniu, klikając, pisząc i nawigując po aplikacjach tak, jak robiłby to człowiek. To jedna z najbardziej ambitnych zmian wprowadzonych w systemie operacyjnym od dziesięcioleci. Choć obiecuje ona potężną automatyzację, obecna implementacja wprowadza zagrożenia dla bezpieczeństwa i prywatności, na które większość użytkowników nie jest przygotowana.

Jeśli widzisz nowy przełącznik „Eksperymentalne funkcje agenta” w aplikacji Ustawienia, możesz się zastanawiać, czy warto go włączać dla wygody. Krótka odpowiedź brzmi: nie. Przynajmniej na razie. Sam Microsoft nie może zagwarantować bezpieczeństwa , a firma twierdzi, że bezpieczeństwo nie jest „jednorazową funkcją”, lecz „ciągłym zobowiązaniem”, co oznacza, że ​​błędy i problemy będą rozwiązywane na bieżąco.

Innymi słowy, dla przeciętnego użytkownika wdrożenie sztucznej inteligencji opartej na agentach otwiera obecnie drzwi ryzyku, które przeważa nad oszczędnością czasu.

Sztuczna inteligencja, która może działać dla Ciebie, to także sztuczna inteligencja, która może działać przeciwko Tobie

W systemie Windows 11 najważniejszą zmianą jest to, że sztuczna inteligencja nie ogranicza się już do generowania odpowiedzi. Funkcje agenta umożliwiają systemowi wykonywanie zadań w oddzielnej sesji systemu operacyjnego, zwanej „obszarem roboczym agenta”. Oznacza to, że agent może otwierać aplikacje, zarządzać plikami i wykonywać wieloetapowe operacje, podczas gdy Ty kontynuujesz pracę w głównej sesji pulpitu.

To potężne narzędzie, ale jednocześnie tworzy nową formę ataku. W przeciwieństwie do chatbota, agent AI może wprowadzać zmiany w systemie. Jeśli coś pójdzie nie tak (nieprawidłowa instrukcja, błąd użytkownika lub zmanipulowany komunikat), konsekwencje będą dotyczyć rzeczywistych plików i aplikacji, a nie tylko okna rozmowy.

Należy pamiętać, że obszar roboczy agenta początkowo działa w osobnej sesji systemowej. Jednak w przyszłych wersjach Microsoft planuje wdrażać obszary robocze agenta jako lekkie i bezpieczne środowiska wirtualne z odrębnymi uprawnieniami i możliwościami.

Wstrzyknięcie krzyżowe stanowi realne zagrożenie

Microsoft wskazuje na nową klasę ataków zwanych wstrzykiwaniem krzyżowym (cross-prompt injection ), w których ukryty tekst na stronach internetowych, w dokumentach lub interfejsach aplikacji może przejąć kontrolę nad przepływem instrukcji agenta. Złośliwa witryna internetowa może osadzić instrukcje, które po cichu nakazują agentowi pobranie złośliwego oprogramowania. Ponieważ agent ma uprawnienia do podejmowania działań systemowych, ten typ ataku ma większy potencjał niż tradycyjna manipulacja monitami.

To nie jest teoretyczne ryzyko. To znana słabość systemów agentowych, którą badacze wielokrotnie wykazywali. A Windows 11 jest dopiero na początku drogi do zrozumienia mechanizmów obronnych.

Agent ma dostęp do Twoich folderów osobistych

Po włączeniu tej funkcji konta agentów automatycznie uzyskają dostęp do odczytu i zapisu plików w folderach Dokumenty, Pobrane, Pulpit, Zdjęcia, Wideo i Muzyka.

Jest to niezbędne do wykonywania zadań przez agenta, ale oznacza to również, że każdy błąd, błędna interpretacja lub nieprawidłowa instrukcja po stronie agenta może wpłynąć na dane osobowe. Przypadkowe uporządkowanie niewłaściwego folderu to jedno. Przypadkowe usunięcie lub przeniesienie dużych zestawów plików to zupełnie inna sprawa.

Wielu użytkowników nie jest przygotowanych na radzenie sobie ze skutkami autonomicznego działania sztucznej inteligencji na ich lokalnych danych.

Halucynacje stają się błędami na poziomie systemowym

Modele sztucznej inteligencji nadal mają halucynacje i błędnie interpretują instrukcje. Zazwyczaj jest to nieszkodliwe, ale po włączeniu akcji agentowych halucynacje mogą prowadzić do uruchomienia niewłaściwej aplikacji, nieumyślnej modyfikacji lub usunięcia plików, przejścia do niebezpiecznych stron internetowych lub wykonania nieprawidłowych kroków w przepływie pracy.

Kiedy sztuczna inteligencja przejmuje fizyczną kontrolę nad systemem operacyjnym, nawet drobne błędy mogą mieć poważne konsekwencje.

Działa w tle, nawet gdy o tym zapomnisz

Obecnie, w tej pierwszej wersji zapoznawczej, występuje kilka znanych problemów. Na przykład, jeśli funkcja Copilot Actions jest aktywna, system może nie przejść w tryb uśpienia lub się wyłączyć. Mogą nawet pojawić się ostrzeżenia, że ​​„ktoś inny nadal korzysta z tego komputera”.

Fakt, że agent kontynuuje działanie w tle bez wyraźnej widoczności, może prowadzić do nieporozumień, wstrzymania aktualizacji lub opóźnionych procesów, które trwają długo po tym, jak użytkownik uzna, że ​​zostały zatrzymane.

Twoje urządzenie staje się systemem wielodostępnym, bez Twojej wiedzy

Agentyczna sztuczna inteligencja w systemie Windows 11 to ekscytujący pomysł. Reprezentuje przyszłość, w której komputery będą mogły automatyzować codzienne zadania, usprawniać przepływy pracy i działać bardziej jak inteligentni asystenci niż urządzenia pasywne. Jednak w obecnej formie funkcja ta jest niedokończona, eksperymentalna, słabo zabezpieczona i podatna na nowe rodzaje ataków.

Ta kombinacja nie powinna znaleźć się na głównym komputerze osobistym.

Wniosek

Jeśli jesteś programistą, badaczem bezpieczeństwa lub osobą celowo eksperymentującą z najnowocześniejszą sztuczną inteligencją, warto rozważyć włączenie funkcji agentowych w kontrolowanym środowisku. Jeśli jesteś zwykłym użytkownikiem, zwłaszcza osobą przechowującą na komputerze pliki osobiste lub służbowe, pozostaw ten przełącznik wyłączony.

Ryzyko jest realne, zabezpieczenia nie są jeszcze dojrzałe, a korzyści wciąż ograniczone. Windows 11 tworzy podwaliny pod to, co może stać się potężną warstwą automatyzacji, ale na razie technologia ta potrzebuje jeszcze trochę czasu, zanim będzie gotowa dla przeciętnych użytkowników.