האקרים מנצלים את מהפכת ה-AI: "שוליית הקוסם" של מתקפות הסייבר
חוקרי אבטחת מידע מזהירים כי השקת מוצרי בינה מלאכותית ללא בקרה מספקת יוצרת כר פורה להאקרים, שמצליחים להטות מערכות ולגנוב נתונים רגישים
בינה מלאכותית, אילוסטרציה צילום: shutterstock
בעוד עסקים רבים מתלבטים אם וכיצד לשלב בינה מלאכותית בפעילותם, האקרים כבר למדו להפוך את הטכנולוגיה לכלי נשק נגדם. תוכנות AI, שהפכו לנפוצות כמעט בכל מחשב, מנוצלות כיום ליצירת מתקפות מתוחכמות המאיימות על ציבור רחב. מומחי סייבר מזהירים כי היכולת להתמודד עם האיומים החדשים מוגבלת והאתגר רק הולך ומחריף.
בערוץ 14 דווח כי אנליסטים שהתראיינו ל"וושינגטון פוסט" הסבירו כי גם פעולות שגרתיות לכאורה - כמו כתיבה ביומן דיגיטלי או שליחת דוא"ל - עשויות לשמש פתח לניצול מערכות AI כדי לשאוב קבצים רגישים, מבלי להפעיל מערכות התרעה. המומחים מזהירים שהבעיה מתעצמת בשל המרוץ להשקת מוצרי בינה מלאכותית חדשים, לעיתים מתוך לחץ משקיעים או יוזמות עובדים שאינן מתואמות עם צוותי המחשוב.
"חייבים להודות, זה לא הוגן שמכניסים AI כמעט לכל מוצר, בלי להתחשב בסיכונים הביטחוניים", צוטט ל"וושינגטון פוסט" מומחה איומי רשת מחברת SentinelOne.
אחת הדוגמאות המדאיגות הוצגה בניסוי שביצע דייב בראוכלר, חוקר אבטחת מידע מ-NCC Group. במסגרת בדיקה הצליח להטעות עוזר כתיבת קוד מבוסס AI של אחד הלקוחות, עד שהעביר לידיו את מאגרי הנתונים והקוד הפנימי של החברה. "מעולם לא היינו כה פזיזים בנוגע לאבטחת מידע", התריע.
עם זאת, לצד תחושת הדחיפות, קיימת גם אופטימיות זהירה. מומחים מעריכים כי ככל שיתגלו פרצות רבות יותר, חברות ההייטק יידרשו לפתח מערכות מתקדמות שיזהו ויחסמו את הניצול של תוכנות ה-AI. בכך, הם מקווים, ניתן יהיה להפוך את כלי הבינה המלאכותית לחדשנות מבטיחה - מבלי שיהפוך ל"שוליית הקוסם" של ההאקרים.
