ฉันควรเปิดใช้งานคุณสมบัติ AI อัตโนมัติบน Windows 11 หรือไม่? ไม่ เพราะมันมีความเสี่ยงด้านความปลอดภัย นี่คือเหตุผล

• คุณสมบัติ AI อัตโนมัติใน Windows 11 นำเสนอระบบอัตโนมัติระดับระบบที่ช่วยให้ระบบปฏิบัติการสามารถคลิก พิมพ์ และดำเนินการต่างๆ ในนามของคุณได้
• แม้ว่าฟีเจอร์เหล่านี้จะมีประสิทธิภาพ แต่ก็ยังอยู่ในขั้นตอนทดลองและก่อให้เกิดความเสี่ยงด้านความปลอดภัยและความเป็นส่วนตัวอย่างมาก
• สำหรับผู้ใช้ส่วนใหญ่ การเปิดใช้งาน AI แบบตัวแทนในปัจจุบันนั้นไม่แนะนำ

ไมโครซอฟต์เริ่มทดสอบ “ปัญญาประดิษฐ์แบบตัวแทน” (Agent AI) ภายในWindows 11ซึ่งเป็นความสามารถระดับระบบใหม่ที่ช่วยให้ปัญญาประดิษฐ์สามารถกระทำการแทนคุณได้ เช่น การคลิก การพิมพ์ และการใช้งานแอปพลิเคชันต่างๆ เหมือนกับมนุษย์ นับเป็นการเปลี่ยนแปลงครั้งใหญ่ที่สุดครั้งหนึ่งของระบบปฏิบัติการนี้ในรอบหลายทศวรรษ และถึงแม้ว่าจะสัญญาว่าจะมอบระบบอัตโนมัติที่มีประสิทธิภาพ แต่การใช้งานในปัจจุบันกลับนำมาซึ่งความเสี่ยงด้านความปลอดภัยและความเป็นส่วนตัวที่ผู้ใช้ส่วนใหญ่ยังไม่พร้อมรับมือ

หากคุณเห็น ตัวเลือก "คุณสมบัติตัวแทนทดลอง" ใหม่ ในแอปการตั้งค่า คุณอาจสงสัยว่าการเปิดใช้งานนั้นคุ้มค่ากับความสะดวกสบายหรือไม่ คำตอบสั้นๆ คือ ไม่ อย่างน้อยก็ยังไม่คุ้ม แม้แต่ Microsoft เองก็ไม่สามารถรับประกันความปลอดภัยได้และบริษัทกล่าวว่าความปลอดภัยไม่ใช่ "คุณสมบัติที่ใช้ครั้งเดียว" แต่เป็น "ความมุ่งมั่นอย่างต่อเนื่อง" ซึ่งหมายความว่าข้อผิดพลาดและปัญหาต่างๆ จะได้รับการแก้ไขเมื่อเกิดขึ้น

กล่าวอีกนัยหนึ่ง ในปัจจุบัน สำหรับผู้ใช้งานทั่วไป การเปิดใช้งาน AI ที่ทำหน้าที่เสมือนตัวแทนในวันนี้ อาจนำไปสู่ความเสี่ยงที่มากกว่าประโยชน์ด้านการประหยัดเวลาใดๆ

AI ที่สามารถกระทำการเพื่อคุณได้ ก็คือ AI ที่สามารถกระทำการต่อต้านคุณได้เช่นกัน

ใน Windows 11 การเปลี่ยนแปลงที่สำคัญที่สุดคือ AI ไม่ได้จำกัดอยู่แค่การสร้างคำตอบอีกต่อไป ฟีเจอร์ Agent ช่วยให้ระบบสามารถทำงานในเซสชันแยกต่างหากของระบบปฏิบัติการที่เรียกว่า "พื้นที่ทำงานของเอเจนต์" นั่นหมายความว่าเอเจนต์สามารถเปิดแอป จัดการไฟล์ และดำเนินการหลายขั้นตอนได้ในขณะที่คุณยังคงทำงานในเซสชันเดสก์ท็อปหลักของคุณ

นี่เป็นสิ่งที่มีประสิทธิภาพสูง แต่ก็สร้างรูปแบบการโจมตีแบบใหม่เช่นกัน ต่างจากแชทบอท ตัวแทน AI สามารถเปลี่ยนแปลงระบบของคุณได้ หากมีสิ่งผิดปกติเกิดขึ้น (คำสั่งไม่ถูกต้อง ความผิดพลาดของผู้ใช้ หรือข้อความแจ้งเตือนที่ถูกดัดแปลง) ผลที่ตามมาจะส่งผลต่อไฟล์และแอปพลิเคชันของคุณโดยตรง ไม่ใช่แค่หน้าต่างสนทนาเท่านั้น

สิ่งสำคัญที่ควรทราบคือ ในช่วงเริ่มต้น พื้นที่ทำงานของเอเจนต์จะทำงานในเซสชันระบบที่แยกต่างหาก อย่างไรก็ตาม ในเวอร์ชันต่อๆ ไป ไมโครซอฟต์วางแผนที่จะใช้งานพื้นที่ทำงานของเอเจนต์ในรูปแบบสภาพแวดล้อมเสมือนจริงที่มีน้ำหนักเบาและปลอดภัย พร้อมด้วยสิทธิ์และการทำงานที่แตกต่างกัน

การฉีดข้ามขั้นตอนเป็นภัยคุกคามที่แท้จริง

ไมโครซอฟต์ระบุถึงการโจมตีรูปแบบใหม่ที่เรียกว่าการแทรกข้อความข้ามพรอมต์ (cross-prompt injection ) ซึ่งข้อความที่ซ่อนอยู่ภายในเว็บเพจ เอกสาร หรืออินเทอร์เฟซของแอปพลิเคชัน สามารถแทรกแซงการทำงานของเอเจนต์ได้ เว็บไซต์ที่เป็นอันตรายอาจฝังคำสั่งที่บอกให้เอเจนต์ดาวน์โหลดมัลแวร์โดยไม่ให้ผู้ใช้รู้ตัว เนื่องจากเอเจนต์มีสิทธิ์ในการดำเนินการของระบบ การโจมตีประเภทนี้จึงมีผลกระทบมากกว่าการจัดการพรอมต์แบบดั้งเดิม

นี่ไม่ใช่ความเสี่ยงเชิงทฤษฎี แต่เป็นจุดอ่อนที่ทราบกันดีในระบบอัตโนมัติ ซึ่งนักวิจัยได้แสดงให้เห็นซ้ำแล้วซ้ำเล่า และ Windows 11 เพิ่งเริ่มต้นที่จะคิดค้นวิธีการป้องกันเท่านั้น

ตัวแทนมีสิทธิ์เข้าถึงโฟลเดอร์ส่วนตัวของคุณ

เมื่อคุณเปิดใช้งานฟีเจอร์นี้ บัญชีเอเจนต์จะได้รับสิทธิ์ในการอ่านและเขียนไฟล์ของคุณในโฟลเดอร์เอกสาร ดาวน์โหลด เดสก์ท็อป รูปภาพ วิดีโอ และเพลงโดยอัตโนมัติ

สิ่งนี้จำเป็นสำหรับเจ้าหน้าที่ในการปฏิบัติงานให้สำเร็จ แต่ก็หมายความว่าความผิดพลาด การตีความผิด หรือคำสั่งที่ไม่ถูกต้องจากฝั่งเจ้าหน้าที่ อาจส่งผลกระทบต่อข้อมูลส่วนบุคคลได้ การจัดโฟลเดอร์ผิดโดยไม่ได้ตั้งใจเป็นเรื่องหนึ่ง การลบหรือย้ายไฟล์จำนวนมากโดยไม่ได้ตั้งใจเป็นอีกเรื่องหนึ่ง

ผู้ใช้จำนวนมากยังไม่พร้อมรับมือกับผลกระทบที่จะเกิดขึ้นจากการที่ AI ทำงานโดยอัตโนมัติกับข้อมูลในเครื่องของตน

ภาพหลอนกลายเป็นความผิดพลาดระดับระบบ

โมเดล AI ยังคงเกิดภาพหลอนและตีความคำสั่งผิดพลาด โดยปกติแล้วสิ่งนี้จะไม่เป็นอันตราย แต่หากเปิดใช้งานการกระทำแบบตัวแทน ภาพหลอนอาจนำไปสู่การเรียกใช้แอปผิด การแก้ไขหรือลบไฟล์โดยไม่ตั้งใจ การเข้าชมเว็บไซต์ที่ไม่ปลอดภัย หรือการดำเนินการขั้นตอนที่ไม่ถูกต้องในกระบวนการทำงาน

เมื่อ AI เข้าควบคุมระบบปฏิบัติการโดยตรง แม้แต่ความผิดพลาดเล็กน้อยก็อาจส่งผลกระทบอย่างร้ายแรงได้

มันทำงานอยู่เบื้องหลัง แม้กระทั่งตอนที่คุณลืมไปแล้วก็ตาม

ในเวอร์ชันพรีวิวแรกนี้ มีปัญหาที่พบอยู่บ้าง ตัวอย่างเช่น หาก เปิดใช้งาน Copilot Actionsระบบอาจไม่ยอมเข้าสู่โหมดพักเครื่องหรือปิดเครื่อง นอกจากนี้ คุณอาจเห็นคำเตือนว่า“มีคนอื่นกำลังใช้งานพีซีเครื่องนี้อยู่”

การที่เอเจนต์ยังคงทำงานอยู่เบื้องหลังโดยที่ผู้ใช้มองไม่เห็นอย่างชัดเจน อาจนำไปสู่ความสับสน การอัปเดตหยุดชะงัก หรือกระบวนการที่ยังคงทำงานอยู่แม้ผู้ใช้จะคิดว่าหยุดไปแล้วก็ตาม

อุปกรณ์ของคุณจะกลายเป็นระบบใช้งานหลายคนโดยที่คุณไม่รู้ตัว

AI อัตโนมัติบน Windows 11 เป็นแนวคิดที่น่าตื่นเต้น มันแสดงถึงอนาคตที่คอมพิวเตอร์สามารถทำงานประจำวันโดยอัตโนมัติ ปรับปรุงขั้นตอนการทำงาน และทำหน้าที่เหมือนผู้ช่วยอัจฉริยะมากกว่าอุปกรณ์แบบพาสซีฟ อย่างไรก็ตาม ในรูปแบบปัจจุบัน ฟีเจอร์นี้ยังไม่สมบูรณ์ อยู่ในขั้นตอนทดลอง มีการป้องกันที่อ่อนแอ และเสี่ยงต่อการโจมตีรูปแบบใหม่ๆ

นั่นไม่ใช่การใช้งานที่เหมาะสมสำหรับคอมพิวเตอร์ส่วนบุคคลเครื่องหลัก

บทสรุป

หากคุณเป็นนักพัฒนา นักวิจัยด้านความปลอดภัย หรือผู้ที่ตั้งใจทดลองใช้ AI ระดับแนวหน้า การเปิดใช้งานคุณสมบัติแบบเอเจนต์อาจคุ้มค่าที่จะสำรวจในสภาพแวดล้อมที่ควบคุมได้ แต่หากคุณเป็นผู้ใช้ทั่วไป โดยเฉพาะอย่างยิ่งผู้ที่จัดเก็บไฟล์ส่วนตัวหรือไฟล์ที่เกี่ยวข้องกับงานไว้ในคอมพิวเตอร์ ควรปิดตัวเลือกนี้ไว้

ความเสี่ยงมีอยู่จริง ระบบป้องกันยังไม่สมบูรณ์ และประโยชน์ก็ยังจำกัดอยู่ Windows 11 กำลังวางรากฐานสำหรับสิ่งที่อาจกลายเป็นเลเยอร์การทำงานอัตโนมัติที่มีประสิทธิภาพ แต่ในขณะนี้ เทคโนโลยีนี้ต้องการเวลาอีกมากก่อนที่จะพร้อมใช้งานสำหรับผู้ใช้ทั่วไป