Patutkah saya mendayakan ciri AI ejentik pada Windows 11? Tidak, ia adalah risiko keselamatan, inilah sebabnya

• Ciri-ciri AI ejen Windows 11 memperkenalkan automasi peringkat sistem yang membolehkan sistem pengendalian mengklik, menaip dan melaksanakan tindakan bagi pihak anda.
• Walaupun ciri-ciri ini berkuasa, ia masih bersifat eksperimental dan memperkenalkan risiko keselamatan dan privasi yang bermakna.
• Bagi kebanyakan pengguna, mendayakan AI agentik hari ini tidak digalakkan.

Microsoft mula menguji "AI agentik" dalam Windows 11 , keupayaan peringkat sistem baharu yang membolehkan kecerdasan buatan bertindak bagi pihak anda dengan mengklik, menaip dan menavigasi aplikasi seperti yang dilakukan oleh manusia. Ia merupakan salah satu perubahan paling bercita-cita tinggi yang telah dibuat oleh sistem pengendalian dalam beberapa dekad. Dan walaupun ia menjanjikan automasi yang berkuasa, pelaksanaan semasa memperkenalkan risiko keselamatan dan privasi yang kebanyakan pengguna tidak bersedia untuk mengendalikannya.

Jika anda melihat togol "Ciri agen eksperimen" baharu di dalam aplikasi Tetapan, anda mungkin tertanya-tanya sama ada menghidupkannya berbaloi dengan kemudahannya. Jawapan ringkasnya ialah tidak. Sekurang-kurangnya belum lagi. Microsoft sendiri tidak dapat menjamin keselamatannya , dan syarikat itu mengatakan bahawa keselamatan bukanlah "ciri sekali sahaja," ia adalah "komitmen berterusan," yang bermaksud bahawa kesilapan dan masalah akan ditangani sebaik sahaja ia berlaku.

Dalam erti kata lain, pada masa ini, bagi pengguna biasa, mendayakan AI agentik hari ini membuka pintu kepada risiko yang melebihi sebarang manfaat penjimatan masa.

AI yang boleh bertindak untuk anda juga adalah AI yang boleh bertindak terhadap anda

Pada Windows 11, perubahan paling ketara ialah AI tidak lagi terhad kepada menjana jawapan. Ciri-ciri Agentik membolehkan sistem melaksanakan tugas dalam sesi berasingan sistem pengendalian yang dikenali sebagai "ruang kerja agen". Ini bermakna agen boleh membuka aplikasi, mengurus fail dan menyelesaikan operasi berbilang langkah semasa anda terus bekerja dalam sesi desktop utama anda.

Ini memang berkuasa, tetapi ia juga mewujudkan satu bentuk serangan baharu. Tidak seperti chatbot, ejen AI boleh membuat perubahan pada sistem anda. Jika sesuatu berlaku (arahan yang salah, kesilapan pengguna atau gesaan yang dimanipulasi), akibatnya akan menjejaskan fail dan aplikasi sebenar anda, bukan sekadar tetingkap perbualan.

Penting untuk diperhatikan bahawa ruang kerja ejen pada mulanya berjalan dalam sesi sistem yang berasingan. Walau bagaimanapun, dalam keluaran akan datang, Microsoft merancang untuk menggunakan ruang kerja ejen sebagai persekitaran maya yang ringan dan selamat dengan kebenaran dan keupayaan yang berbeza.

Suntikan silang segera adalah ancaman sebenar

Microsoft telah mencetuskan kelas serangan baharu yang dipanggil suntikan gesaan silang , di mana teks tersembunyi dalam halaman web, dokumen atau antara muka aplikasi boleh merampas aliran arahan ejen. Laman web berniat jahat boleh membenamkan arahan yang secara senyap memberitahu ejen untuk memuat turun perisian hasad. Oleh kerana ejen mempunyai kebenaran untuk mengambil tindakan sistem, serangan jenis ini mempunyai lebih banyak potensi kesan berbanding manipulasi gesaan tradisional.

Ini bukanlah risiko teori. Ia merupakan kelemahan yang diketahui dalam sistem ejen yang telah ditunjukkan berulang kali oleh penyelidik. Dan Windows 11 hanya pada permulaan memikirkan pertahanan.

Ejen mempunyai akses kepada folder peribadi anda

Sebaik sahaja anda mendayakan ciri ini, akaun ejen secara automatik mendapat akses baca dan tulis ke fail anda dalam folder Dokumen, Muat Turun, Desktop, Gambar, Video dan Muzik.

Ini perlu bagi ejen untuk menyelesaikan tugasan, tetapi ia juga bermakna sebarang kesilapan pihak ejen, salah tafsir atau arahan yang terjejas boleh menjejaskan data peribadi. Menyusun folder yang salah secara tidak sengaja adalah satu perkara. Memadam atau memindahkan set fail yang besar secara tidak sengaja adalah satu lagi perkara.

Ramai pengguna tidak bersedia untuk menguruskan akibat AI yang bertindak secara autonomi pada data tempatan mereka.

Halusinasi menjadi kesilapan peringkat sistem

Model AI masih berhalusinasi dan salah mentafsir arahan. Biasanya, ini tidak berbahaya, tetapi dengan tindakan ejen diaktifkan, halusinasi boleh menyebabkan menjalankan aplikasi yang salah, mengubah suai atau memadam fail secara tidak sengaja, menavigasi ke laman web yang tidak selamat atau melakukan langkah yang salah dalam aliran kerja.

Apabila AI mendapat kawalan fizikal sistem pengendalian, kesilapan kecil pun boleh membawa akibat yang ketara.

Ia berjalan di latar belakang, walaupun anda terlupa

Pada masa ini, dalam pratonton pertama ini, terdapat beberapa isu yang diketahui. Contohnya, jika Tindakan Copilot aktif, sistem mungkin enggan tidur atau ditutup. Anda mungkin juga melihat amaran bahawa "orang lain masih menggunakan PC ini."

Hakikat bahawa ejen terus berfungsi di latar belakang tanpa keterlihatan yang jelas boleh menyebabkan kekeliruan, kemas kini terhenti atau proses berlarutan yang berterusan lama selepas pengguna percaya mereka telah berhenti.

Peranti anda menjadi sistem berbilang pengguna tanpa anda sedari

Agentic AI pada Windows 11 merupakan idea yang menarik. Ia mewakili masa depan di mana komputer boleh mengautomasikan tugasan harian, memperkemas aliran kerja dan bertindak lebih seperti pembantu pintar berbanding peranti pasif. Walau bagaimanapun, dalam bentuknya sekarang, ciri ini belum siap, eksperimental, dilindungi sedikit dan terdedah kepada jenis serangan baharu.

Itu bukan kombinasi yang sepatutnya terdapat pada komputer peribadi utama.

Kesimpulan

Jika anda seorang pembangun, penyelidik keselamatan atau seseorang yang sengaja bereksperimen dengan teknologi AI yang canggih, menghidupkan ciri agen mungkin berbaloi untuk diterokai dalam persekitaran terkawal. Jika anda seorang pengguna harian, terutamanya seseorang yang menyimpan fail peribadi atau berkaitan kerja pada komputer anda, biarkan togol dimatikan.

Risikonya nyata, perlindungannya belum matang, dan manfaatnya masih terhad. Windows 11 sedang meletakkan asas untuk apa yang boleh menjadi lapisan automasi yang berkuasa, tetapi sekarang, teknologi ini memerlukan lebih banyak masa sebelum ia sedia untuk pengguna umum.