דרמה בארה"ב: אנטרופיק השביתה מודלי AI חדשים
ימים ספורים לאחר ההשקה, החברה הודיעה כי תעצור את Fable 5 ו-Mythos 5 בשל חשש לעקיפת מנגנוני ההגנה
בינה מלאכותית, אילוסטרציה צילום: shutterstock
חברת Anthropic הודיעה כי היא משביתה באופן מיידי את מודלי הבינה המלאכותית החדשים Fable 5 ו-Mythos 5, ימים ספורים בלבד לאחר השקתם לציבור. לפי הודעת החברה, הצעד ננקט בעקבות הוראה שהתקבלה מהרשויות בארצות הברית.
בהודעה רשמית שפרסמה Anthropic נמסר כי משמעות ההוראה היא שהחברה נדרשת להשבית את שני המודלים עבור כלל לקוחותיה, כדי לעמוד בדרישות שהוצבו לה.
Fable 5 הוצג כגרסה הציבורית והמוגבלת יותר של Mythos 5, מודל מתקדם שנפתח רק לקבוצה מצומצמת של חברות סייבר הגנתי וגופים העוסקים בתשתיות קריטיות בארצות הברית. לפי החברה, הגבלת הגישה נבעה מהיכולות הגבוהות של המודל ומהחשש משימוש לא מבוקר בו.
ברקע ההחלטה עומד חשש מצד רשויות הביטחון בארצות הברית כי נמצאה דרך לעקוף את מנגנוני ההגנה של Fable 5. ב-Anthropic טענו כי הרשויות לא הצביעו על בעיית אבטחה ספציפית במערכות החברה, וכי בדיקה פנימית מצאה שמדובר בחולשות מוגבלות ופשוטות יחסית.
עוד לפני ההשקה הדגישה Anthropic כי שילבה במודלים מנגנוני הגנה שנועדו למנוע שימוש לרעה, בעיקר בתחומי סייבר וחדירה למערכות מחשב. עם זאת, גורמים בממשל האמריקאי, בתעשיית הטכנולוגיה ובמערכת הפיננסית הביעו חשש מהפצה רחבה של מודלים בעלי יכולות מתקדמות כל כך.
הסערה מגיעה על רקע מתיחות מתמשכת בין Anthropic לבין ממשל טראמפ. בחודשים האחרונים נמתחה ביקורת מצד גורמים בממשל על החברה, ובמקביל מתנהלים הליכים משפטיים סביב השימוש במוצרי הבינה המלאכותית שלה על ידי גופים ממשלתיים.
בשלב זה, לא ברור מתי ואם Fable 5 ו-Mythos 5 יחזרו לפעילות מלאה. ההשבתה החריגה מציבה מחדש את שאלת האיזון בין קצב הפיתוח של מודלי AI מתקדמים לבין הצורך בפיקוח, אבטחה והגבלת שימושים מסוכנים.
