איור של מחשב עם סמל AI ושרשרת נעולה שמתפוררת, ברקע מסך עם קוד HTML מזויף.
איור של מחשב עם סמל AI ושרשרת נעולה שמתפוררת, ברקע מסך עם קוד HTML מזויף.

השילוב של AI להונאות סייבר הוא מהלך שווה עוד מבט, במיוחד לקולגה שעוקב אחר האיום על אבטחת מידע.

רשת סינית השתמשה ב-Gemini כדי לגנוב מיליארדי שקלים מהלך הסיפור ועובדות מרכזיות

ה-FBI, בשיתוף עם גוגל וחברת התשתיות Lumen, שיבת רשת סייבר סינית בשם Outsider Enterprise, שהפעילה פלטפורמת 'פישינג כשירות' (Phishing-as-a-Service) מאז יולי 2023. הרשת השתמשה בבינה מלאכותית – ספציפית ב-Gemini של גוגל – כדי לייצר אתרי הונאה מדויקים תוך שניות, תוך שימוש בהנדסת פרומפטים כדי להציג את הבקשות כחוקיות, למשל לצורך עיצוב עמוד 'פדיון מתנות'. כך הצליחו ההאקרים לעקוף גם את מנגנוני האבטחה של גוגל עצמה.

עובדות

  • ה-FBI, גוגל ו-Lumen שיבתו רשת פישינג סינית בשם Outsider Enterprise.
  • הרשת השתמשה ב-Gemini של גוגל כדי לייצר אתרי הונאה תוך שניות.
  • הפלטפורמה גנבה 3.87 מיליון פרטי כרטיסי אשראי והכניסה כ-1.9 מיליארד דולר.
  • ההאקרים השתמשו בהנדסת פרומפטים כדי לעקוף את מנגנוני האבטחה של גוגל.
  • הפלטפורמה הפעילה 290 תבניות מוכנות לעקיפת אימות דו-שלבי.
  • האשמים פועלים מסין, והסיכוי להסגרתם נחשב קלוש.

הסבר חדשות חזותי של Canto. כלי AI עשויים לסייע בהפקה. מדיניות עריכה