"מפחיד": סם אלטמן מזהיר מפני אסון פיננסי עולמי

מנכ"ל OpenAI, סם אלטמן, שלח מסר מדאיג לעולם הבנקאות והכספים: העולם מתקרב במהירות למשבר הונאות עצום ובינה מלאכותית תהיה המנוע שמאחוריו.

בכנס של הבנק המרכזי האמריקאי (Federal Reserve), אמר אלטמן כי הסתמכות של בנקים על זיהוי קולי, למשל באמצעות משפט שאדם מתבקש לומר, היא "דבר מפחיד" בעידן שבו טכנולוגיית קול מבוססת AI מסוגלת לחקות קולות אנושיים בדיוק מדהים. "זה פשוט מטורף שזה עדיין קיים", אמר אלטמן.

כיום, מוסדות פיננסיים רבים משתמשים ב"זיהוי קולי" שבו הלקוח אומר משפט כמו "הקול שלי הוא הסיסמה שלי", במטרה לאמת את זהותו. אך לפי אלטמן, הבינה המלאכותית כבר עקפה את השיטה הזו לחלוטין: "AI הצליחה להביס את רוב שיטות האימות הקיימות, מלבד סיסמאות, אולי".

לדבריו, "החברה כולה צריכה להתעורר. אנשים חייבים לשנות את אופן האימות והאינטראקציה שלהם. אחרת, המחיר יהיה כבד מאוד".

החשש: מתקפה עולמית שתשתק את המערכת הפיננסית

על פי הדיווח בטיימס ההודי, בשיחה פתוחה עם משתתפי הכנס, גילה אלטמן כי אחד הפחדים הגדולים ביותר שלו הוא מתקפת סייבר בקנה מידה עולמי שתגרום לקריסת מערכות כספיות ברחבי העולם.

"הסיוט שלי הוא מצב שבו מדינה זרה או גורם עוין אחר ישתמש ב-AI מתקדם כדי לחדור למערכות בנקאיות ולגנוב את כספם של מיליוני אנשים", אמר. "ההגנה כמעט בלתי אפשרית אם ה-AI התוקף חזק יותר מההגנות הקיימות".

והסכנה אינה נעצרת בקול בלבד. לדברי אלטמן, בעתיד הקרוב גם וידאו יוכל להיות מזויף באיכות כה גבוהה שיהיה בלתי אפשרי להבדיל בין זיוף למציאות. "כבר אי אפשר להאמין למה שרואים או שומעים. זה עניין ענק".

סם אלטמן קורא לבנקים ולמוסדות פיננסיים לעבור בהקדם לשיטות אימות מתקדמות, עמידות בפני בינה מלאכותית ולהפסיק לסמוך על טכנולוגיות שהיו חדשניות לפני עשור, אך כעת הן "מתכון להונאה".

האם עולם הפיננסים יתעורר לפני שהמתקפה תגיע?