דרמה מטורפת בעולם ה- AI: למה הממשל האמריקאי כיבה את Claude Fable 5?
תדמיינו רגע את הסיטואציה הבאה:
החברה שלכם הרגע השיקה את מודל הבינה המלאכותית הכי חזק והכי מתקדם שלה אי פעם.
כולם במשרד חוגגים, העיתונים עפים על זה, והמניות בשמיים. ואז, רק 72 שעות אחרי – אתם מקבלים צו חירום מהממשלה ונאלצים פשוט לכבות את כל השרתים ולחסום את הגישה לכולם!
נשמע כמו סרט מתח?
אז זה בדיוק מה שקרה בסוף השבוע האחרון לחברת אנטרופיק (Anthropic) עם המודל החדש שלה, Claude Fable 5 (וגרסת המומחים שלו, Mythos 5).
זה לא עוד תיקון באג קטן או השבתה זמנית של האתר.
מדובר בשינוי ענק בכללי המשחק בין ענקיות הטכנולוגיה לממשלות.
אז מה בעצם קרה שם?
אני מנסה לעשות לכם סדר בפרטים:
ההשקה החגיגית וההבטחה הגדולה
ב-9 ביוני אנטרופיק הציגה לעולם את Fable 5.
המודל הזה תוכנן להיות חזק וחכם בהרבה מגרסת Opus הקודמת.
הוא לא סתם עונה על שאלות, אלא מעוצב לפעול כ"סוכן עצמאי" – כזה שיודע לנהל פרויקטים שלמים של כתיבת קוד לבד, ממש כמו מתכנת מנוסה!
כדי לשמור על הבטיחות שלו ולמנוע שימוש לרעה, אנטרופיק שמו לו הגנות חזקות בזמן אמת:
– ניתוב אוטומטי: אם מישהו שואל שאלה רגישה או מסוכנת מדי, המערכת מעבירה אותו מיד למודל קטן ובטוח יותר.
– גרסת מומחים סגורה: גרסה פתוחה ונטולת חסמים שנקראת Mythos 5 חולקה תחת תנאים סופר קפדניים רק לקבוצה קטנה ומאומתת של חוקרי אבטחה ואנשי סייבר.
הטוויסט בעלילה: צו החירום הדרמטי
שלושה ימים בלבד אחרי שהתחלנו להתלהב מהיכולות שלו, הממשל האמריקאי הטיל פצצה והוציא צו חירום לעצירת המודל מסיבות של "ביטחון לאומי".
הממשל השתמש בחוק מיוחד ונוקשה מאוד שאומר שאם חושפים טכנולוגיה רגישה לאזרח זר בתוך תחומי ארצות הברית,
זה נחשב כאילו ייצאו אותה למדינה שלו! המשמעות של זה הייתה מיידית ומטורפת:
1. אסור בשום אופן לתת גישה למודל למי שאינו אזרח אמריקאי או בעל גרין קארד.
2. האיסור הזה חל מיד גם על העובדים, המהנדסים ומדעני הנתונים הזרים שעובדים בתוך אנטרופיק עצמה!
3. מכיוון שלאנטרופיק לא הייתה תשתית מוכנה להפריד בין המשתמשים והעובדים תוך כמה שעות, הם פשוט נאלצו לעשות את הצעד הכי קיצוני:
לכבות את השרתים של Fable 5 בכל העולם.
אז על מה בעצם כל המהומה?
מקורות פנימיים מספרים שהחשש הגדול של סוכנויות הביטחון הגיע מפרצה מיוחדת (Jailbreak) שהתגלתה בגרסת המומחים ודלפה לרשת.
השילוב בין היכולת של המודל לעבוד לבד לבין הפרצה הזו אפשר לאנשים לעקוף את מנגנוני הבטיחות ולגרום לו לעשות דברים מבהילים:
– לסרוק קוד פתוח ברשת בקנה מידה עצום.
– למצוא חולשות אבטחה קריטיות שאף אדם עוד לא גילה.
– לכתוב לבד קוד תקיפה ממוקד כדי לנצל את החולשות האלה!
הממשל הבין שבידיים הלא נכונות, המודל המדהים הזה הופך מכלי עבודה מועיל לנשק סייבר התקפי ועוצמתי שיכול להפיל מערכות שלמות בלחיצת כפתור.
באנטרופיק לא שותקים: "זה תקדים מסוכן"
באנטרופיק ממש לא קיבלו את הגזירה בשקט ופרסמו הודעה חריפה מאוד.
הם מזהירים מפני השלכות קשות על העתיד של כולנו:
1. סטנדרט כפול: החברה טוענת שיכולות כאלה של זיהוי באגים וקוד כבר קיימות במודלים מתחרים בשוק, אז למה נטפלו דווקא אליהם?
2. אין מאה אחוז בטיחות: הם מדגישים שאף מודל לא חסין לגמרי מפני פריצות, והדרישה של הממשלה לאפס תקלות לפני השקה
היא פשוט לא מציאותית ותעצור כל פיתוח טכנולוגי.
3. פגיעה במרוץ: השבתת המודל פוגעת בעיקר במפתחים מערביים, בזמן שחברות בסין ובמדינות יריבות ממשיכות לפתח מודלים בלי שום הגבלה כזאת.
נקודה קטנה למחשבה…
נראה שחצינו פה קו אדום היסטורי.
מודלי ה- AI הכי מתקדמים כבר לא נחשבים סתם ל"עוד תוכנה במחשב".
המדינות מתייחסות אליהם כמו אל נשק אסטרטגי או טכנולוגיית גרעין!
זה מעלה שאלות לא פשוטות שילוו אותנו בשנים הקרובות:
1. איך אפשר לאזן בין שמירה על הביטחון של כולנו לבין החופש לפתח טכנולוגיה מדהימה ויזמות חופשית?
2. האם חוקים נוקשים מדי לא יגרמו בסוף לתוצאה ההפוכה, וישאירו את המערב מאחור במרוץ הטכנולוגי?
3. ובעולם של קוד פתוח, האם באמת אפשר "לכבות את השאלטר" לאורך זמן?
מה דעתכם?
הממשל פעל נכון והגן עלינו, או שמדובר בפאניקה מוגזמת שתחנוק את החדשנות?
ספרו לי בתגובות
