Microsoft rozpoczyna testowanie „agentowej sztucznej inteligencji” w systemie Windows 11 – nowej funkcji systemowej, która pozwala sztucznej inteligencji działać w Twoim imieniu, klikając, pisząc i nawigując po aplikacjach tak, jak robiłby to człowiek. To jedna z najbardziej ambitnych zmian wprowadzonych w systemie operacyjnym od dziesięcioleci. Choć obiecuje ona potężną automatyzację, obecna implementacja wprowadza zagrożenia dla bezpieczeństwa i prywatności, na które większość użytkowników nie jest przygotowana.
Jeśli widzisz nowy przełącznik „Eksperymentalne funkcje agenta” w aplikacji Ustawienia, możesz się zastanawiać, czy warto go włączać dla wygody. Krótka odpowiedź brzmi: nie. Przynajmniej na razie. Sam Microsoft nie może zagwarantować bezpieczeństwa , a firma twierdzi, że bezpieczeństwo nie jest „jednorazową funkcją”, lecz „ciągłym zobowiązaniem”, co oznacza, że błędy i problemy będą rozwiązywane na bieżąco.
Innymi słowy, dla przeciętnego użytkownika wdrożenie sztucznej inteligencji opartej na agentach otwiera obecnie drzwi ryzyku, które przeważa nad oszczędnością czasu.
Sztuczna inteligencja, która może działać dla Ciebie, to także sztuczna inteligencja, która może działać przeciwko Tobie
W systemie Windows 11 najważniejszą zmianą jest to, że sztuczna inteligencja nie ogranicza się już do generowania odpowiedzi. Funkcje agenta umożliwiają systemowi wykonywanie zadań w oddzielnej sesji systemu operacyjnego, zwanej „obszarem roboczym agenta”. Oznacza to, że agent może otwierać aplikacje, zarządzać plikami i wykonywać wieloetapowe operacje, podczas gdy Ty kontynuujesz pracę w głównej sesji pulpitu.
To potężne narzędzie, ale jednocześnie tworzy nową formę ataku. W przeciwieństwie do chatbota, agent AI może wprowadzać zmiany w systemie. Jeśli coś pójdzie nie tak (nieprawidłowa instrukcja, błąd użytkownika lub zmanipulowany komunikat), konsekwencje będą dotyczyć rzeczywistych plików i aplikacji, a nie tylko okna rozmowy.
Należy pamiętać, że obszar roboczy agenta początkowo działa w osobnej sesji systemowej. Jednak w przyszłych wersjach Microsoft planuje wdrażać obszary robocze agenta jako lekkie i bezpieczne środowiska wirtualne z odrębnymi uprawnieniami i możliwościami.
Wstrzyknięcie krzyżowe stanowi realne zagrożenie
Microsoft wskazuje na nową klasę ataków zwanych wstrzykiwaniem krzyżowym (cross-prompt injection ), w których ukryty tekst na stronach internetowych, w dokumentach lub interfejsach aplikacji może przejąć kontrolę nad przepływem instrukcji agenta. Złośliwa witryna internetowa może osadzić instrukcje, które po cichu nakazują agentowi pobranie złośliwego oprogramowania. Ponieważ agent ma uprawnienia do podejmowania działań systemowych, ten typ ataku ma większy potencjał niż tradycyjna manipulacja monitami.
To nie jest teoretyczne ryzyko. To znana słabość systemów agentowych, którą badacze wielokrotnie wykazywali. A Windows 11 jest dopiero na początku drogi do zrozumienia mechanizmów obronnych.
Agent ma dostęp do Twoich folderów osobistych
Po włączeniu tej funkcji konta agentów automatycznie uzyskają dostęp do odczytu i zapisu plików w folderach Dokumenty, Pobrane, Pulpit, Zdjęcia, Wideo i Muzyka.
Jest to niezbędne do wykonywania zadań przez agenta, ale oznacza to również, że każdy błąd, błędna interpretacja lub nieprawidłowa instrukcja po stronie agenta może wpłynąć na dane osobowe. Przypadkowe uporządkowanie niewłaściwego folderu to jedno. Przypadkowe usunięcie lub przeniesienie dużych zestawów plików to zupełnie inna sprawa.
Wielu użytkowników nie jest przygotowanych na radzenie sobie ze skutkami autonomicznego działania sztucznej inteligencji na ich lokalnych danych.
Halucynacje stają się błędami na poziomie systemowym
Modele sztucznej inteligencji nadal mają halucynacje i błędnie interpretują instrukcje. Zazwyczaj jest to nieszkodliwe, ale po włączeniu akcji agentowych halucynacje mogą prowadzić do uruchomienia niewłaściwej aplikacji, nieumyślnej modyfikacji lub usunięcia plików, przejścia do niebezpiecznych stron internetowych lub wykonania nieprawidłowych kroków w przepływie pracy.
Kiedy sztuczna inteligencja przejmuje fizyczną kontrolę nad systemem operacyjnym, nawet drobne błędy mogą mieć poważne konsekwencje.
Działa w tle, nawet gdy o tym zapomnisz
Obecnie, w tej pierwszej wersji zapoznawczej, występuje kilka znanych problemów. Na przykład, jeśli funkcja Copilot Actions jest aktywna, system może nie przejść w tryb uśpienia lub się wyłączyć. Mogą nawet pojawić się ostrzeżenia, że „ktoś inny nadal korzysta z tego komputera”.
Fakt, że agent kontynuuje działanie w tle bez wyraźnej widoczności, może prowadzić do nieporozumień, wstrzymania aktualizacji lub opóźnionych procesów, które trwają długo po tym, jak użytkownik uzna, że zostały zatrzymane.
Twoje urządzenie staje się systemem wielodostępnym, bez Twojej wiedzy
Agentyczna sztuczna inteligencja w systemie Windows 11 to ekscytujący pomysł. Reprezentuje przyszłość, w której komputery będą mogły automatyzować codzienne zadania, usprawniać przepływy pracy i działać bardziej jak inteligentni asystenci niż urządzenia pasywne. Jednak w obecnej formie funkcja ta jest niedokończona, eksperymentalna, słabo zabezpieczona i podatna na nowe rodzaje ataków.
Ta kombinacja nie powinna znaleźć się na głównym komputerze osobistym.
Wniosek
Jeśli jesteś programistą, badaczem bezpieczeństwa lub osobą celowo eksperymentującą z najnowocześniejszą sztuczną inteligencją, warto rozważyć włączenie funkcji agentowych w kontrolowanym środowisku. Jeśli jesteś zwykłym użytkownikiem, zwłaszcza osobą przechowującą na komputerze pliki osobiste lub służbowe, pozostaw ten przełącznik wyłączony.
Ryzyko jest realne, zabezpieczenia nie są jeszcze dojrzałe, a korzyści wciąż ograniczone. Windows 11 tworzy podwaliny pod to, co może stać się potężną warstwą automatyzacji, ale na razie technologia ta potrzebuje jeszcze trochę czasu, zanim będzie gotowa dla przeciętnych użytkowników.
Zamień zdjęcie w obraz, szkic ołówkiem lub komiks dzięki FotoSketcher Studio. Dowiedz się, jak wybrać efekt, dostosować podgląd i zapisać swoją grafikę.
Dowiedz się, co Audio Identifier ujawnia na temat szybkości transmisji, koderów i tagów, jak działa jego starszy proces pracy i które obecne narzędzia sprawdzają pliki lub identyfikują utwory.
My Photo Index to starszy katalog zdjęć dla systemu Windows, umożliwiający tagowanie, ocenianie i przeglądanie lokalnych obrazów. Zapoznaj się z udokumentowanymi funkcjami, ograniczeniami zgodności i aktualizowaną alternatywą.
Dowiedz się, jak używać narzędzia Attribute Changer do edytowania atrybutów plików systemu Windows i znaczników czasu, aktualizowania dat zdjęć JPEG EXIF i bezpiecznego podglądu zmian wsadowych.
Ustaw osobną tapetę dla każdego monitora systemu Windows 10, zidentyfikuj wyświetlacze, dostosuj dopasowanie obrazu i rozwiąż problemy z brakującymi opcjami monitora.
Dowiedz się, do czego służy pViewer, jak działają tryby zdjęć i komiksów, którą edycję systemu Windows pobrać i czym różnią się wersje starsza i przepisana.
Dowiedz się, jak utworzyć projekt NeoDownloader, wybrać zakres indeksowania, ustawić filtry obrazów i miejsce docelowe oraz przeglądać pliki do pobrania w partiach.
Skonfiguruj pokaz slajdów w systemie Windows 7 lub 8, utwórz krótki skrót VBScript i przypisz klawisz skrótu, aby przejść do następnej tapety.
Użyj XnConvert do stosowania efektów, zmiany rozmiaru zdjęć i konwersji formatów obrazów w partiach. Wybierz ustawienia wyjściowe, wyświetl podgląd edycji i chroń swoje oryginały.
Przenieś zainstalowane aplikacje systemu Windows na inny komputer za pomocą aplikacji PickMeApp. Dowiedz się, jak działają pakiety TAP, jak przechwycić ustawienia i co może nie zostać przeniesione.
