בשנת 2025, זיהתה מיקרוסופט את עלייתן של חברות ה-Frontier – ארגונים שמאמצים בינה מלאכותית בקנה מידה רחב ומשלבים סוכני AI כחלק אינטגרלי מהפעילות היומיומית שלהם. יותר מ-80% מחברות Fortune500 כבר מפעילות סוכני AI שנבנו בכלים שלא דורשים קוד או שהינם low code, מה שמסמן שינוי משמעותי: בניית סוכני AI הפכה זמינה לכל עובד, ולא רק למומחים.
הדו"ח מדגיש כי עובדים יוצרים ומשתמשים בסוכני AI כמעט לכל משימה, מניתוח נתונים פיננסיים ועד שירות לקוחות וסינון התראות. לצד ההזדמנויות, הדו"ח מצביע על סיכונים גוברים: ככל שסוכני AI מקבלים יותר גישה וסמכויות, כך גם החולשות והאיומים לארגון מתרחבים. לעיתים, סוכנים אלו נבנים ומופעלים ללא פיקוח מתאים, על ידי עובדים שאינם בקיאים בנהלי אבטחה, מה שמוביל לתופעת "סוכן כפול" – סוכן שמייעל את העבודה אך גם מרחיב את מפת האיומים.
במחקר שנערך על ידי צוות ה-AI Red Team של מיקרוסופט, תועדו מקרים בהם סוכני AI הוטעו באמצעות הוראות מזיקות שהוכנסו בתוכן יומיומי. הצוות זיהה דרכים להסיט את תהליכי ההסקה של הסוכנים באמצעות מסגור מניפולטיבי של משימות, מה שממחיש את הצורך בנראות ובקרה מלאה על כלל סוכני ה-AI.
המגזר הפיננסי מוביל באימוץ סוכני AI, עם 11% מהשימוש העולמי, ומדגים כיצד שילוב בני אדם וסוכני AI מעלה את הפרודוקטיביות אך דורש בקרה הדוקה. גם תעשיית הייצור והקמעונאות מאמצות במהירות סוכנים חכמים לשיפור תהליכים.
האתגר המרכזי הוא חדשנות מהירה לצד סיכונים חדשים. הפריסה המהירה של סוכני AI עלולה להקדים את מנגנוני האבטחה, ולהוביל לתרחישים של "סוכני צל" (Shadow AI) – סוכנים שאינם מפוקחים על ידי צוות ה-IT, או "סוכנים כפולים". לפי מדד אבטחת המידע של מיקרוסופט, רק 47% מהארגונים מיישמים בקרת אבטחה ייעודית ל-GenAI, ו-29% מהעובדים עושים שימוש בסוכני AI שאינם מאושרים על ידי הארגון.
הדו"ח קורא למנהלים להתייחס ל-AI כסיכון ארגוני לכל דבר, ולהטמיע כבר היום מנגנוני אבטחה, לפני שהשימוש בסוכנים יהפוך לנפוץ וקשה לשליטה. הפתרון: רישום מרכזי של כלל הסוכנים, בקרות גישה מבוססות זהות, ניטור בזמן אמת, ושכבות הגנה מפני שימוש לרעה.
להצטרפות לערוץ הטלגרם של The Gadget Reviews