הממצא הזה נותן לחבר או קולגה שעוקבים אחרי הטכנולוגיה עוד קצת הקשר לראות יחד.
כל רובוטי ה-AI נכשלו במבחן בטיחות מהלך הסיפור ועובדות מרכזיות
כדי לפגוע בסיכון, החוקרים מציעים לעבור מהגנה מבוססת תוכנה להגנה חומרתית – כמו הגדרת אזורי 'אין כניסה' סביב בני אדם באמצעות חיישנים, או מנגנוני עצירת חירום שלא ניתנים לעקיפה על ידי המערכת. הגישה ממלאת את הפער בין עולם הטקסט לעולמו הפיזי של הרובוט.
עובדות
- מחקר משותף של קינגס קולג' לונדון, ברמינגהם וקרנגי מלון מצא כי כל מודלי AI שנבדקו נכשלו לפחות פעם אחת בזיהוי פקודות מסוכנות.
- חוקרים הצליחו לגרום לרובוטים לבצע פעולות כמו הסרת קביים, שימוש בכלים חדים, וצילום ללא הסכמה – באמצעות שילוב הוראות בסיפורים או שירה.
- המודלים לא מזהים תמיד מתי פרשנות סיפורתית הופכת לפעולה פיזית מסוכנת, מה שמייצר סיכון בסביבות רגישות כמו בתים ובתי חולים.
- מומחים קוראים להטמיע מנגנוני בטיחות חומרתיים, כמו אזורי 'אין כניסה' מבוססי חיישנים ומנגנוני עצירה שלא ניתנים לעקיפה.
- החוקים הקיימים בארצות הברית, באירופה ובבריטניה לא מותאמים לסיכון של רובוטים פועלים בסביבות אנושיות.
הסבר חדשות חזותי של Canto. כלי AI עשויים לסייע בהפקה. מדיניות עריכה
