המעבר מעידן הצ'אטבוטים הפסיביים לעידן סוכני ה-AI האוטונומיים אינו רק שדרוג טכנולוגי, אלא שינוי פרדיגמה שמהווה תנאי הישרדותי לחברות בשוק המודרני. הטענה המרכזית היא שארגונים שלא ישכילו להטמיע סוכני AI בתהליכי העבודה שלהם ימצאו את עצמם בנחיתות תחרותית משמעותית, שכן הסוכנים מאפשרים האצה של פי 10 בתפוקה עם אותם משאבי כוח אדם. בניגוד למודלי שפה סטנדרטיים המסתפקים במתן תשובות, סוכני AI מסוגלים לפעול בשם המשתמש, לבצע פעולות במערכות הארגוניות ולקבל החלטות עצמאיות, מה שהופך אותם למנוע צמיחה אדיר אך גם למקור סיכון פוטנציאלי.

דן אלדד, דירקטור Data Science בחברת רובריק (Rubrik), מדגיש כי האתגר המרכזי אינו עצם הטכנולוגיה, אלא השליטה והבקרה עליה בתוך סביבה ארגונית מורכבת. החשש הגדול ביותר של מנהלי אבטחת מידע הוא 'פריצת גבולות' של הסוכן, בין אם על ידי גישה למידע רגיש שאינו מורשה לו ובין אם על ידי ביצוע פעולות הרסניות כמו מחיקת בסיסי נתונים עקב הבנה שגויה של פקודה. הפתרון אינו חסימת הטכנולוגיה, אלא יצירת מסגרת משילתית (Governance) הכוללת 'קווים אדומים' דיגיטליים וניטור רציף של כל אינטראקציה בין הסוכן למערכות החיצוניות והפנימיות.

הדיון נוגע גם בהיבט האנושי והתרבותי של המהפכה. אלדד טוען כי ה-AI לא יחליף את העובדים, אלא ישנה את תפקידם: מעובדים שמבצעים משימות שחורות ומונוטוניות למנהלים של צי סוכנים דיגיטליים. היכולת הקריטית החדשה של כל עובד בארגון היא אימוץ חשיבה ניהולית, שבה הוא לומד לאפיין משימות, להנגיש מידע ולבקר את תוצרי הסוכן בצורה מדויקת. שינוי זה דורש חינוך שוק מקיף והבנה שתקשורת עם AI דורשת מיומנות הדומה לניהול עובדים אנושיים, כולל הגדרת יעדים ברורה ובקרת איכות.

לבסוף, התשתית הטכנולוגית המאפשרת את השימוש הבטוח בסוכנים בארגונים גדולים מתבססת על מושגים כמו AI Gateway, המשמש כחיץ ומנטר בין הארגון לבין מודלי השפה החיצוניים. חברת רובריק, שהחלה את דרכה באבטחת מידע קלאסית, מיישמת כיום את המומחיות שלה בהגנה על ישויות דיגיטליות כדי לאפשר לארגונים לאמץ את מהפכת ה-AI ללא חשש מהדלפות מידע או תקיפות סייבר מבוססות סוכנים. העתיד, לפי אלדד, שייך לארגונים שידעו לשלב בין האוטונומיה של הסוכנים לבין הבקרה האנושית והטכנולוגית ההדוקה.