Insights from the תתעלם מההוראות - איתן לויט episode “העידן החדש של הסייבר עם מקסים בר קוגן | #23”, published May 28, 2026.
In "העידן החדש של הסייבר עם מקסים בר קוגן | #23" (תתעלם מההוראות - איתן לויט, May 2026), המעבר מסוכני בינה מלאכותית (AI Agents) ככלי עזר למערכות אוטונומיות יוצר סיכונים אבטחתים חסרי תקדים. מקסים בר-קוגן מסביר כיצד הדרך היחידה לשלוט ב-AI מתקדם היא באמצעות מערכות AI ייעודיות לניטור ובקרה, שמבטיחות שהאוטומציה העסקית…
In "העידן החדש של הסייבר עם מקסים בר קוגן | #23", סוכנים אלו חורגים מעבר לכתיבת טקסט והופכים למבצעים אקטיביים של תהליכים עסקיים (כמו רכש או קוד). חשיבותם בפרק נובעת מהקושי לשלוט בתוצאות הפעולות שלהם בארגונים גדולים.
In "העידן החדש של הסייבר עם מקסים בר קוגן | #23", זהו הנושא המרכזי של הפרק – איך מוודאים שסוכני ה-AI לא עושים דברים 'מטופשים' או מזיקים בכוונה או שלא בכוונה. מדובר בבעיה שרק תלך ותחמיר ככל שהמודלים יהיו חכמים יותר.
In "העידן החדש של הסייבר עם מקסים בר קוגן | #23", הפרק מציג את ה-AI כחרב פיפיות: מצד אחד כלי תקיפה מטורף (כמו מיטוס), ומצד שני הכרח הגנתי. המסקנה היא שנדרש AI מגן מול AI תוקף.
המעבר מסוכני בינה מלאכותית (AI Agents) ככלי עזר למערכות אוטונומיות יוצר סיכונים אבטחתים חסרי תקדים. מקסים בר-קוגן מסביר כיצד הדרך היחידה לשלוט ב-AI מתקדם היא באמצעות מערכות AI ייעודיות לניטור ובקרה, שמבטיחות שהאוטומציה העסקית תישאר במסגרת המדיניות הרצויה.
“מיטוס עושה מה שצבטים שלמים עשו שם במשך חודשים או שנים בכמה שעות”
— תתעלם מההוראות - איתן לויט, “העידן החדש של הסייבר עם מקסים בר קוגן | #23”
Topics: AI Agents, Cybersecurity, Autonomous Systems, Alignment, Governance
