Prompt Caching ומצב Ultra ב-GPT-5.6: ניתוח עלויות למפתחים
GPT-5.6 זמין לכולם: תמחור Sol, Terra ו-Luna, מדיניות Prompt Caching חדשה ומצב Ultra. ניתוח מעשי למפתחים ולעסקים ישראלים שבונים על ה-API.
שבוע אחרי שמשפחת GPT-5.6 של OpenAI יצאה לזמינות כללית, הגיע הזמן לעבור מהכותרות אל הצד הפרקטי: כמה זה באמת עולה, ואיך בונים על זה נכון. שלושת המודלים החדשים, Sol, Terra ו-Luna, מגיעים עם מדיניות Prompt Caching מעודכנת, מצב Ultra מרובה סוכנים ו-Programmatic Tool Calling, ולכל אחד מהם השלכות ישירות על חשבון ה-API החודשי של כל סטארטאפ ישראלי שבונה מוצר מעל התשתית של OpenAI.
שלושה מודלים, שיטת שמות אחת: מה בדיוק זמין עכשיו
GPT-5.6 נכנס לתצוגה מקדימה מוגבלת ב-26 ביוני 2026, אז היה זמין רק דרך ה-API של OpenAI ו-Codex לכ-20 חברות שאושרו על ידי הממשל האמריקאי. ב-9 ביולי המודלים עברו לזמינות כללית, וכעת כל מפתח יכול לגשת אליהם. OpenAI גם שינתה את שיטת השמות: המספר מזהה את דור המודל, ואילו Sol, Terra ו-Luna הם שכבות יכולת קבועות שיישארו איתנו גם בדורות הבאים. זה שינוי מבורך למי שמתחזק קוד לאורך זמן, כי אפשר סוף סוף לתכנן מיגרציות בין דורות בלי לנחש מה יהיה שם המודל הבא.
התמחור למיליון טוקנים ברור ומדורג: Sol עולה 5 דולר לקלט ו-30 דולר לפלט, Terra עולה 2.50 דולר לקלט ו-15 דולר לפלט, ו-Luna, המודל הקל, עולה דולר אחד לקלט ו-6 דולר לפלט. מבחינת ביצועים, Sol מוביל את מדד Artificial Analysis Coding Agent עם ציון 80, פער של 2.8 נקודות מעל Claude Fable 5, אם כי ב-SWE-Bench Pro התמונה הפוכה: 64.6% בלבד לעומת 80.3% של Claude Mythos 5. המסקנה המעשית היא שאין מודל אחד שמנצח בכל משימה, וכדאי לבדוק על ה-workload שלכם לפני שמתחייבים.
Prompt Caching החדש: המספרים שצריך להכניס לאקסל
השינוי המשמעותי ביותר למפתחים הוא מדיניות ה-Prompt Caching המעודכנת. עד היום ה-caching של OpenAI היה אוטומטי אבל לא צפוי: לא תמיד ידעתם מתי המטמון פג ומה בדיוק נשמר. ב-GPT-5.6 המנגנון עובר למודל מפורש עם cache breakpoints שאתם מגדירים בעצמכם, וחיי מטמון מינימליים של 30 דקות. בצד השני של המשוואה, כתיבות למטמון מחויבות כעת ב-1.25x מתעריף הקלט הרגיל, בעוד קריאות מהמטמון ממשיכות ליהנות מהנחה של 90%.
המשמעות: caching הפך מהטבה פסיבית לכלי הנדסי שדורש תכנון. פרומפט מערכת ארוך שנקרא אלפי פעמים ביום הוא מועמד מושלם לנקודת שבירה, אבל תוכן שמשתנה בכל בקשה יעלה לכם 25% יותר אם תסמנו אותו למטמון בטעות. הנה החישוב הפשוט למי שעובד עם Terra:
- כתיבה למטמון: 2.50 דולר כפול 1.25, כלומר 3.125 דולר למיליון טוקנים
- קריאה מהמטמון: הנחה של 90%, כלומר 0.25 דולר למיליון טוקנים
- נקודת האיזון: מספיקות שתי קריאות מהמטמון כדי שהכתיבה תחזיר את עצמה
- חיי מטמון מינימליים של 30 דקות מאפשרים לתכנן sessions ארוכים בלי כתיבות חוזרות
מפתחים ישראלים שעובדים דרך Azure OpenAI: נכון לאמצע יולי מדווחות בעיות caching עבור GPT-5.6 בפלטפורמה של מיקרוסופט. אם ה-cache hit rate שלכם נמוך מהצפוי, זה כנראה לא באג בקוד שלכם. עקבו אחרי עדכוני הסטטוס לפני שמעבירים workloads קריטיים.
מצב Ultra ו-Programmatic Tool Calling: כוח תמורת מורכבות
לצד המודלים עצמם, OpenAI השיקה את מצב Ultra, שמריץ ארבעה סוכנים במקביל ומעלה את ציון Terminal-Bench 2.1 מ-88.8% ל-91.9%. לצדו נוספו רמת מאמץ חדשה בשם max ומצבי pro ו-ultra. שלוש נקודות אחוז נשמעות מעט, אבל במשימות סוכנתיות ארוכות זה ההבדל בין ריצה שמסתיימת בהצלחה לריצה שנתקעת באמצע ודורשת התערבות אנושית. מצד שני, ארבעה סוכנים במקביל פירושם צריכת טוקנים גבוהה משמעותית, ולכן Ultra מתאים למשימות שבהן עלות הכישלון גבוהה מעלות הטוקנים.
החידוש שדווקא חוסך כסף הוא Programmatic Tool Calling: במקום שהמודל יעביר את כל תוצאות הכלים דרך ה-context, הוא מריץ JavaScript ב-sandbox של V8 ומעבד את הנתונים שם. לפי הנתונים שפורסמו, ההפחתה בצריכת הטוקנים נעה בין 38% ל-63.5%. לצוותים שבונים סוכנים עם הרבה קריאות ל-APIs חיצוניים, זה שינוי שיכול לקזז את כל תוספת העלות של כתיבות המטמון ועוד.
מי שממשיך להתייחס ל-API כאל קופסה שחורה עם מחיר קבוע לטוקן ישלם השנה הרבה יותר מהמתחרים. השילוב של caching מפורש ו-tool calling תכנותי הופך את הנדסת העלויות לחלק מהגדרת התפקיד של כל מפתח backend
הזווית הישראלית: מה עושים עם זה מחר בבוקר
לעסקים בארץ יש כמה החלטות קונקרטיות על השולחן. ראשית, בחירת שכבה: רוב מוצרי ה-SaaS הישראליים שמשתמשים במודל לסיווג, תמצות או צ'אט תמיכה יגלו ש-Luna, בדולר אחד למיליון טוקנים של קלט, מספיק לחלוטין, ואת Sol כדאי לשמור למשימות קוד וסוכנים מורכבים. שנית, ערוץ הגישה: המודלים זמינים כעת גם ב-Amazon Bedrock, מה שרלוונטי לצוותים ישראלים שכבר בנויים על AWS ורוצים לרכז billing וניהול הרשאות במקום אחד, במיוחד לאור התקלות המדווחות ב-Azure.
גם בצד הצריכה הארגונית יש בשורה: משתמשי Free ו-Go ניגשים ל-Terra דרך ChatGPT Work ו-Codex, בעוד משתמשי Plus, Pro, Business ו-Enterprise יכולים לבחור בין שלושת המודלים ולקבוע רמת מאמץ. עבור ארגון ישראלי שמתלבט כמה רישיונות Enterprise באמת נחוצים, העובדה ש-Terra, מודל הביניים, זמין גם בחינם משנה את חשבון העלות-תועלת של השדרוג.
מה הלאה
ההשקה של GPT-5.6, שהתעכבה והוגבלה בשלב ה-preview בליווי ממשלתי צמוד, מסמנת שגם קצב השחרור של מודלים חדשים הפך למשתנה עסקי שצריך לתכנן סביבו. למפתחים ההמלצה המעשית פשוטה: להריץ benchmark פנימי על שלושת המודלים מול ה-workload האמיתי שלכם, למפות את הפרומפטים הקבועים כמועמדים ל-cache breakpoints, ולבדוק אם Programmatic Tool Calling חותך לכם את חשבון הטוקנים. מי שיעשה את שיעורי הבית האלה בשבועות הקרובים ייכנס לרבעון הבא עם מבנה עלויות שהמתחרים שלו עוד לא הבינו שקיים.
שאלות נפוצות
כמה עולה GPT-5.6 ב-API של OpenAI?
התמחור למיליון טוקנים: Sol עולה 5 דולר לקלט ו-30 דולר לפלט, Terra עולה 2.50 דולר לקלט ו-15 דולר לפלט, ו-Luna עולה דולר אחד לקלט ו-6 דולר לפלט. קריאות מ-Prompt Cache מקבלות הנחה של 90%, וכתיבות למטמון מחויבות ב-1.25x מתעריף הקלט.
מה ההבדל בין Sol, Terra ו-Luna?
אלה שלוש שכבות יכולת קבועות באותו דור מודל: Sol הוא החזק והיקר ביותר ומוביל במשימות קוד וסוכנים, Terra הוא מודל הביניים שזמין גם למשתמשי Free ב-ChatGPT Work וב-Codex, ו-Luna הוא המודל הקל והזול למשימות בהיקף גבוה כמו סיווג ותמצות.
מה זה מצב Ultra ב-GPT-5.6?
מצב Ultra מריץ ארבעה סוכנים במקביל ומעלה את ציון Terminal-Bench 2.1 מ-88.8% ל-91.9%. הוא מתאים למשימות סוכנתיות ארוכות ומורכבות שבהן עלות כישלון גבוהה, אך צורך יותר טוקנים ולכן פחות משתלם למשימות פשוטות.
דרגו את הכתבה
הדירוג עוזר לנו לדעת מה שווה לכם.
תגובות