Windows 11de yapay zeka destekli özellikleri etkinleştirmeli miyim? Hayır, bu bir güvenlik riski, işte nedeni:

• Windows 11'in yapay zeka destekli özellikleri, işletim sisteminin sizin adınıza tıklama, yazma ve eylemler gerçekleştirmesine olanak tanıyan sistem düzeyinde otomasyonu sunar.
• Bu özellikler güçlü olsa da, henüz deneysel aşamada olup önemli güvenlik ve gizlilik riskleri içermektedir.
• Günümüzde çoğu kullanıcı için yapay zeka destekli ajansların etkinleştirilmesi önerilmemektedir.

Microsoft, yapay zekanın sizin adınıza tıklama, yazma ve uygulamalarda gezinme gibi işlemleri tıpkı bir insan gibi gerçekleştirmesine olanak tanıyan yeni bir sistem düzeyinde özellik olan "otomatik yapay zeka"yı Windows 11 içinde test etmeye başlıyor. Bu, işletim sisteminin son on yıllarda yaptığı en iddialı değişikliklerden biri. Güçlü bir otomasyon vaat etse de, mevcut uygulama çoğu kullanıcının başa çıkmaya hazır olmadığı güvenlik ve gizlilik riskleri de içeriyor.

Ayarlar uygulamasında yeni "Deneysel ajan özellikleri" seçeneğini görürseniz , bunu açmanın sağladığı kolaylığa değip değmeyeceğini merak edebilirsiniz. Kısa cevap hayır. En azından henüz değil. Microsoft'un kendisi bile güvenliğini garanti edemez ve şirket, güvenliğin "tek seferlik bir özellik" değil, "sürekli bir taahhüt" olduğunu, yani hataların ve sorunların ortaya çıktıkça ele alınacağını söylüyor.

Başka bir deyişle, şu anda, tipik kullanıcılar için, ajansal yapay zekayı etkinleştirmek, zaman tasarrufu sağlayan herhangi bir faydadan daha ağır basan risklere kapı açmaktadır.

Sizin için hareket edebilen yapay zeka, aynı zamanda size karşı da hareket edebilir.

Windows 11'de en önemli değişiklik, yapay zekanın artık yalnızca yanıt üretmekle sınırlı olmamasıdır. Ajan özellikleri, sistemin "ajan çalışma alanı" olarak bilinen işletim sisteminin ayrı bir oturumunda görevler gerçekleştirmesini sağlar. Bu, ajan uygulamaları açabileceği, dosyaları yönetebileceği ve çok adımlı işlemleri tamamlayabileceği anlamına gelirken, siz ana masaüstü oturumunuzda çalışmaya devam edebilirsiniz.

Bu güçlü bir özellik, ancak aynı zamanda yeni bir saldırı biçimi de yaratıyor. Bir sohbet robotunun aksine, yapay zekâ ajanı sisteminizde değişiklikler yapabilir. Bir şeyler ters giderse (yanlış bir talimat, kullanıcı hatası veya manipüle edilmiş bir uyarı), sonuçlar yalnızca bir konuşma penceresini değil, gerçek dosyalarınızı ve uygulamalarınızı etkiler.

Şunu belirtmekte fayda var ki, ajan çalışma alanı başlangıçta ayrı bir sistem oturumunda çalışır. Ancak, Microsoft gelecekteki sürümlerde ajan çalışma alanlarını farklı izinlere ve yeteneklere sahip hafif ve güvenli sanal ortamlar olarak dağıtmayı planlıyor.

Çapraz komut istemi enjeksiyonu gerçek bir tehdittir.

Microsoft, web sayfaları, belgeler veya uygulama arayüzlerindeki gizli metinlerin, sistem aracısının talimat akışını ele geçirebildiği, çapraz komut istemi enjeksiyonu adı verilen yeni bir saldırı türüne dikkat çekiyor . Kötü amaçlı bir web sitesi, sistem aracısına sessizce kötü amaçlı yazılım indirmesini söyleyen talimatlar yerleştirebilir. Sistem aracısının sistem eylemleri gerçekleştirme izni olduğundan, bu tür bir saldırının geleneksel komut istemi manipülasyonundan daha büyük bir potansiyel etkisi vardır.

Bu teorik bir risk değil. Araştırmacıların defalarca gösterdiği, ajan tabanlı sistemlerde bilinen bir zayıflık. Ve Windows 11, savunma mekanizmalarını bulma konusunda henüz yolun başında.

Temsilcinin kişisel dosyalarınıza erişimi vardır.

Bu özelliği etkinleştirdiğinizde, temsilci hesapları Belgeler, İndirilenler, Masaüstü, Resimler, Videolar ve Müzik klasörlerindeki dosyalarınıza otomatik olarak okuma ve yazma erişimi kazanır.

Bu, ajanın görevleri tamamlaması için gereklidir, ancak aynı zamanda ajan tarafındaki herhangi bir hata, yanlış yorumlama veya tehlikeye atılmış talimatın kişisel verileri etkileyebileceği anlamına da gelir. Yanlış klasörü yanlışlıkla düzenlemek bir şeydir; büyük dosya kümelerini yanlışlıkla silmek veya taşımak ise başka bir şeydir.

Birçok kullanıcı, yapay zekanın yerel verileri üzerinde otonom olarak hareket etmesinin sonuçlarını yönetmeye hazır değil.

Halüsinasyonlar sistem düzeyinde hatalara dönüşür.

Yapay zekâ modelleri hâlâ yanılgıya düşüyor ve talimatları yanlış yorumluyor. Genellikle bu zararsızdır, ancak aracı eylemler etkinleştirildiğinde, bir yanılsama yanlış uygulamayı çalıştırmaya, dosyaları istemeden değiştirmeye veya silmeye, güvenli olmayan web sitelerine gitmeye veya bir iş akışında yanlış adımlar atmaya yol açabilir.

Yapay zekâ işletim sisteminin fiziksel kontrolünü ele geçirdiğinde, küçük hataların bile önemli sonuçları olabilir.

Siz unutsanız bile arka planda çalışmaya devam eder.

Şu anki ilk önizleme sürümünde birkaç bilinen sorun mevcut. Örneğin, Copilot Actions etkinse, sistem uyku moduna geçmeyi veya kapanmayı reddedebilir. Hatta "bu bilgisayarı hala başka biri kullanıyor" uyarısı bile görebilirsiniz .

Aracının görünür bir şekilde olmadan arka planda çalışmaya devam etmesi, kafa karışıklığına, güncellemelerin durmasına veya kullanıcının durduğunu düşündüğü zamandan çok sonra bile devam eden süreçlere yol açabilir.

Cihazınız siz farkında olmadan çok kullanıcılı bir sisteme dönüşüyor.

Windows 11'deki ajansal yapay zeka heyecan verici bir fikir. Bilgisayarların günlük görevleri otomatikleştirebildiği, iş akışlarını kolaylaştırabildiği ve pasif cihazlardan ziyade akıllı asistanlar gibi davranabildiği bir geleceği temsil ediyor. Ancak mevcut haliyle bu özellik tamamlanmamış, deneysel, yetersiz korumalı ve yeni saldırı türlerine karşı savunmasız durumda.

Bu, birincil kişisel bilgisayarda bulunması gereken bir kombinasyon değil.

Çözüm

Eğer bir geliştirici, güvenlik araştırmacısı veya yapay zekanın en son teknolojileriyle bilinçli olarak deneyler yapan biriyseniz, ajan özelliklerini kontrollü bir ortamda açmak denemeye değer olabilir. Ancak, özellikle kişisel veya işle ilgili dosyalarınızı bilgisayarınızda saklayan sıradan bir kullanıcıysanız, bu özelliği kapalı bırakın.

Riskler gerçek, koruma mekanizmaları henüz olgunlaşmamış ve faydaları hala sınırlı. Windows 11, güçlü bir otomasyon katmanı haline gelebilecek bir yapının temellerini atıyor, ancak şu anda bu teknolojinin genel kullanıcılar için hazır hale gelmesi için daha fazla zamana ihtiyacı var.