פתאום קלטנו: סוכני ה- AI שלנו מתחילים לעלות יותר מעובדים אמיתיים!
זוכרים איך לפני שנה הכל היה נראה כמעט בחינם?
כשחברות התחילו להכניס את הבינה המלאכותית לעבודה היומיומית, הראש היה פשוט לגמרי:
"ניתן לעובדים גישה ל- ChatGPT או ל- Claude Code וזהו, פתרנו את כל הבעיות!
זה יביא לנו יעילות מטורפת, זה העתיד!"
אף אחד לא באמת עצר לשאול: "רגע, כמה זה הולך לעלות לנו בסוף?"
והאמת?
זה די הגיוני. בהתחלה העלויות היו כל כך קטנות שאף אחד לא שם לב אליהן בכלל.
שלחתם שאילתה קטנה, קיבלתם תשובה, שילמתם כמה סנטים בודדים וסגרתם עניין.
מה זה כבר? שלושה סנט?
אבל משהו דרמטי השתנה בדרך!
כשהטוקנים התחילו להתרבות
פתאום, בלי ששמנו לב בכלל, הצ'אטבוטים הפשוטים של פעם עברו אבולוציה והפכו לסוכנים חכמים (Autonomous Agents).
הם כבר לא רק עונים על שאלות בודדות, הם עושים עבודה שלמה מקצה לקצה:
– מהנדס תוכנה שכותב קוד שלם מאפס.
– מערכת אנליטית שקוראת ומנתחת קובץ PDF ענק של 500 עמודים.
– אלגוריתם מחקר שפשוט רץ שוב ושוב על המון בדיקות בלי לעצור!
אבל יש פה קאטץ' רציני: בכל פעם שסוכן כזה ניגש למשימה, הוא סוחב איתו "תיק" כבד מאוד של מידע.
בכל איטרציה הוא צריך לזכור את כל היסטוריית השיחה שלו, לקרוא מחדש את כל בסיס הנתונים, ולעבור שוב ושוב על ההנחיות שלכם (System Prompts).
התוצאה?
משימה אחת כזו יכולה לשרוף בין 400,000 ל- 2,000,000 טוקנים!
זה כבר ממש לא שלושה סנט. מדובר על עלות של 2$ עד 8$ להרצה בודדת!
תכפילו את זה ב- 10 משימות ביום לכל מפתח, והגעתם בקלות ל-20$ עד 80$ ביום, לעובד יחיד!
המספרים שהחברות הגדולות כבר לא יכולות להסתיר
לאחרונה, החברות הכי גדולות בשוק התחילו לקבל את החשבוניות ופשוט נבהלו!
תראו מה קרה שם מאחורי הקלעים:
–Uber:
השיקה סוכני AI למפתחים שלה, וכולם פשוט עפו על זה!
תוך זמן קצר כמעט 84% מהמפתחים השתמשו בכלי באופן יומיומי.
מה קרה אז?
תוך ארבעה חודשים בלבד, אובר שרפה את כל תקציב ה- AI הדו-שנתי שלה!
העלויות הגיעו לאלפי דולרים למפתח בחודש, והם נאלצו לעשות פסק זמן ולחשב מסלול מחדש.
– Microsoft:
זה בכלל סיפור מעניין. הם חילקו בהתלהבות רישיונות של Claude Code לאלפי מהנדסים פנימיים שלהם.
חצי שנה לאחר מכן – ממש לאחרונה – החברה ביטלה את הגישה לכולם!
הסיבה הרשמית הייתה "איחוד כלי פיתוח", אבל כולם יודעים שהסיבה האמיתית הייתה העלות המטורפת שהגיעה לאלפי דולרים למפתח בחודש.
– Amazon ו-Meta:
לא מבטלות לגמרי, אבל שמות ברקס רציני ומגדירות תקרות תקציב סופר נוקשות לכל עובד כדי לא לקבל הפתעות מבהילות בסוף החודש.
התחזית ל- 2028: נקודת המפנה הכלכלית
השבוע חברת המחקר Gartner פרסמה דוח שהכה גלים בתעשייה עם תחזית די דרמטית:
עד שנת 2028, עלויות הטוקנים של סוכני ה- AI יעקפו את השכר הממוצע של מפתח אנושי!
במקומות מסוימים בעולם, כמו הודו, זה כבר קורה ממש עכשיו!
להחזיק ולתחזק סוכן קוד אוטונומי חודש שלם עולה יותר ממשכורת חודשית של מהנדס מקומי מנוסה עם כמה שנות ותק.
בארה"ב ובאירופה אנחנו עדיין לא שם, אבל בקצב הזה, זה לגמרי רק עניין של זמן.
למה זה קורה בעצם? (המלכוד המבני)
זו לא סתם בעיה זמנית של "טכנולוגיה יקרה" שתסתדר מעצמה כשהמחירים ירדו. יש פה בעיה עמוקה במודל העסקי:
1. אפקט כדור השלג: ככל שהסוכן עושה עבודה טובה ומורכבת יותר, ככה חלון הקונטקסט שלו גדל והלופים שהוא מבצע מתארכים.
העלות לא גדלה בקצב קבועת היא פשוט מזנקת לשמיים!
2. חוסר שליטה מובנה: ענקיות ה- AI (כמו OpenAI, Anthropic ו- Google) נותנות לנו כוח חישוב מדהים,
אבל כמעט אפס כלים מובנים כדי לעקוב אחרי ההוצאות או להגביל אותן בזמן אמת.
אתם מגלים כמה בזבזתם רק כשמגיע החשבון בסוף החודש.
3. הוצאה משתנה מול הוצאה קבועה: משכורת של עובד היא דבר קבוע וידוע מראש.
עלות של סוכן AI היא משתנה פרוע לגמרי!
מספיק שעובד אחד ישאיר סוכן AI בלולאת עבודה אינסופית בטעות בסוף השבוע, וביום ראשון תגלו חשבונית של אלפי דולרים!
אז איך חברות מתמודדות עם זה עכשיו?
השוק כבר מתחיל להגיב ולשנות אסטרטגיה בשטח:
– מגבילים שימוש מראש: קובעים תקרה תקציבית חודשית קשוחה לכל משתמש ולא חורגים ממנה.
– עוברים למודלים יעילים וזולים יותר: משתמשים במודלים מהירים וחסכוניים כמו Gemini Flash או DeepSeek,
במקום לרוץ אוטומטית על המודלים הכי יקרים ומורכבים בשוק.
– מגייסים כלים ייעודיים: חברות סטארטאפ שלמות צומחות עכשיו רק סביב הצורך הזה, ניטור, מעקב ואופטימיזציה של עלויות (כמו Pay-i, Waydev ואחרות).
– דורשים תוצאות מוכחות: כבר לא מספיק להגיד "הסוכן עושה עבודה מגניבה".
מנהלים דורשים לראות מספרים מדויקים, כמה כסף בפועל הכלי הזה חסך לנו מול כמה שהוא עלה לנו בטוקנים?
השורה התחתונה
הבינה המלאכותית לא מתה, והיא בטח לא נכשלה.
אבל בתוך חודשים בודדים, היא זינקה ממעמד של "תוספת פרודוקטיביות קטנה וזולה" למעמד של סעיף הוצאה כבד ומרכזי בתקציב החברה.
השחקניות הגדולות ביותר בשוק כבר חטפו את ה"כאפה" הזו ומחשבות מסלול מחדש.
אם אתם מתכננים לשלב סוכני AI בארגון שלכם, אל תחכו לשנה הבאה.
זה הזמן לבנות מודל עלויות אמיתי ומסודר כבר היום!
כי הדבר האחרון שאתם רוצים זה לגלות בפגישת התקציב השנתית שהסוכנים הווירטואליים שלכם עולים לכם הרבה יותר מהאנשים האמיתיים שמנהלים אותם!
