משתמשים בעוזר ai? ייתכן והמידע האישי שלכם נחשף
חוקרי סייבר ישראלים חשפו פרצה קריטית בעוזר ה-AI של מיקרוסופט שאפשרה לתוקפים לעקוף מנגנוני הגנה ולשלוף מידע רגיש ללא ידיעת המשתמש
אילוסטרציה צילום: freepik
גילוי חדש מעורר דאגה בזירת אבטחת המידע מציב סימן שאלה סביב בטיחותם של עוזרי בינה מלאכותית נפוצים. חוקרי חברת הסייבר הישראלית ורוניס חשפו חולשת אבטחה חמורה ב-Copilot של מיקרוסופט, שאפשרה גניבת מידע אישי רגיש באמצעות פעולה אחת פשוטה מצד המשתמש.
על פי הממצאים שפורסמו בוואלה, הפרצה שכונתה Reprompt אפשרה לתוקפים לעקוף את מנגנוני הבטיחות של Copilot באמצעות קישור שנראה לגיטימי לחלוטין. לחיצה אחת בלבד הספיקה כדי לאפשר שליטה בסשן של המשתמש גם לאחר סגירת חלונית הכלי, ולשלוף מידע מהחשבון ללא כל אינדיקציה חיצונית לפעולה זדונית.
במערכת האבטחה של ורוניס הסבירו כי בניגוד למתקפות מוכרות, לא נדרש מהמשתמש להוריד תוסף, לאשר הרשאות חריגות או לנהל אינטראקציה מתמשכת עם הצאטבוט. הפקודות הזדוניות הוזנו לאחר הפרומפט הראשוני, ישירות מהשרת, מה שהקשה על זיהוי התקיפה גם בבדיקת היסטוריית השיחות.
בוואלה פורסם כי החוקרים ציינו כי התוקף היה יכול להפעיל את Copilot לביצוע פעולות חודרניות במיוחד, בהן סיכום מסמכים, חשיפת פרטי מיקום, מידע אישי ותוכניות עתידיות, ואף שליפה של היסטוריית שיחות מלאה. המשמעות היא שכל מידע שהמשתמש שיתף אי פעם עם העוזר הדיגיטלי עלול היה להיחשף לגורם זר.
לאחר הדיווח למיקרוסופט, החברה שחררה תיקון שסגר את החולשה, ולדבריה אין צורך בפעולה נוספת מצד משתמשים פרטיים או ארגונים. עם זאת, מומחי אבטחת מידע מדגישים כי המקרה ממחיש את הסיכונים החדשים שמביאה עמה מהפכת ה-AI, ואת הצורך בעירנות גבוהה גם בעת שימוש בשירותים מוכרים ומהימנים.
