היכולת לראות מהסוכן חושב לפני שהוא פועל נותנת לחבר או קולגה שעוקבים אחרי אבטחת AI עוד קצת הקשר לראות יחד.
סוכני AI מוצאים חור באבטחה מהלך הסיפור ועובדות מרכזיות
סטארטאפ הישראלי Tenet Security חשף מחקר מטריד על פגיעות ב-Agentים של בינה מלאכותית, שמראה שאפשר להשתלט על 85% מהסוכנים הפופולריים בשוק מבלי להפעיל התראות אבטחה. בניגוד לפתרונות קיימים שמراقبות הרשאות או פקודות, Tenet מתמקדת בשכבת ה-Execution – כלומר, מה שה-Agent עושה בזמן ריצה. באמצעות סנסור קל, הפתרון מזהה פעולות זדוניות עוד לפני שהן מתרחשות, ומסביר לאנשי אבטחה מה עומד להתרחש. המחקר בנה אירוע שגיאה ב-Sentry שהוביל להרצה אוטומטית של npm Scripts ולהתקנת חבילה זדונית, מה שהוכיח את החשיפה הרחבה.
עובדות
- Tenet Security חשף מחקר שמראה שאפשר להשתלט מרחוק על 85% מה-Agentים הפופולריים בשוק.
- הסטארטאפ גייס 6 מיליון דולר בסבב זרע בהובלת The Westly Group ו-MizMaa Ventures.
- המייסדים הם ברק שטרנברג ונבו פורן, יוצאי מערך מחקר ואבטחת AI של Cisco.
- המחקר הדגים השתלטות על Agent דרך שגיאת Sentry שהובילה להתקנת חבילה זדונית (RCE).
- Tenet מציעה פלטפורמה שפועלת ברמת ה-Execution Layer ומסמלצת פעולות של Agent לפני שהן מתרחשות.
הסבר חדשות חזותי של Canto. כלי AI עשויים לסייע בהפקה. מדיניות עריכה