משבר ב-Anthropic: ארה"ב הורתה להשבית את המודלים המתקדמים Fable 5 ו-Mythos 5
דרמה בתעשיית ה-AI: השבתה פתאומית של מודלי Anthropic
טלטלה בעולם הבינה המלאכותית: חברת Anthropic הודיעה על השבתה מיידית של הגישה למודלים המתקדמים שלה, Fable 5 ו-Mythos 5. ההחלטה מגיעה בעקבות הנחיית פיקוח על יצוא מטעם ממשלת ארצות הברית, המנמקת זאת בשיקולי "ביטחון לאומי". ההוראה, שאוכפת איסור גישה לאזרחים זרים (גם בתוך ארה"ב), הביאה למעשה לחסימה גורפת של המודלים לכלל המשתמשים, כולל מנויים בתשלום ומשתמשי API, כך מדווח ערוץ חדשות טכנולוגיה.
לפי LΣҒΔ𝕽ΩLL, ערוץ המדגיש את ההשלכות התקדימיות של האירוע, הרקע הרשמי להנחיה הוא טענות הממשל לזיהוי שיטת "jailbreak" במודל Fable 5. עם זאת, ב-Anthropic טוענים כי מדובר ב"מקרה צר מאוד" שנוגע ליכולת המודל לקרוא ולתקן קוד, ומביעים התנגדות חריפה לצעד הדרסטי שעלול, לדבריהם, "לשתק את פריסת מודלי ה-AI המתקדמים בכל התעשייה", כפי שדווח ב-חדשות טכנולוגיה והייטק.
הדיווחים מצביעים על כך שמדובר בשינוי מדיניות משמעותי. עוד בטרם ההשבתה, צוין ב-חדשות טכנולוגיה והייטק כי Anthropic ניסתה להגביר את השקיפות בנוגע לדחיית בקשות משתמשים בשל שיקולי ביטחון, אך נראה כי הממשל האמריקאי החמיר את עמדתו. חדשות 360 מדגישים כי החברה כינתה את המהלך כ"אי-הבנה", בעוד שאר המודלים של החברה ממשיכים לפעול כסדרם.
מומחים ופרשנים בשטח, כפי שעולה מהניתוח ב-LΣҒΔ𝕽ΩLL, מזהירים כי מדובר ב"תקדים מסוכן": לדבריהם, אם מודל מסחרי יכול לרדת מהאוויר ללא שקיפות טכנית, כל חברת AI עלולה למצוא את עצמה תחת צנזורה ממשלתית מוחלטת במידה ומישהו בדרגים הרשמיים יחליט שהמודל "חזק מדי" או "מסוכן מדי".