איך בוחרים LLM לעסק ב-2026: עץ החלטה, מחירים ומלכודות עלות

מחירי ה-API של מודלי שפה גדולים צנחו בכ-80% בין 2024 ל-2026: עומס עבודה שעלה 3,000 דולר בחודש לפני שנתיים עולה היום כ-150 דולר. אבל דווקא הירידה הזו הפכה את הבחירה למסובכת יותר, כי השוק התפצל לשלוש שכבות מחיר ולעשרות וריאנטים. המדריך הזה בונה עץ החלטה פרקטי לפי תקציב, רגישות דאטה ותרחיש שימוש, ומסמן את המלכודות שהופכות חשבון API צנוע לחשבון מפתיע.

01מפת השוק: שלוש שכבות מחיר וארבע משפחות מודלים

נכון לאימות מחירים מסוף יוני 2026, השוק מתחלק לשכבה תקציבית (מתחת לדולר למיליון טוקנים של קלט), שכבת ביניים (1 עד 5 דולר) ושכבת פרימיום (מעל 5 דולר). בקצה הפרימיום, GPT-5.5 עומד על 5 דולר לקלט ו-30 דולר לפלט למיליון טוקנים, Claude Opus 4.8 על 5 ו-25 דולר, ו-Gemini 3.1 Pro על 2 ו-12 דולר. בשכבת הביניים מתחרים Claude Sonnet 4.6 (3 ו-15 דולר) ו-Gemini 2.5 Pro (1.25 ו-10 דולר) על יחס איכות-מחיר.

נקודה אקטואלית שכדאי לנצל: Claude Sonnet 5 נמצא כרגע בתמחור היכרות של 2 דולר לקלט ו-10 דולר לפלט למיליון טוקנים, עד 31 באוגוסט 2026. אחרי התאריך הזה המחיר חוזר ל-3 ו-15 דולר, כך שזה חלון זמן טוב לבדוק אותו על עומסי עבודה אמיתיים לפני התחייבות.

02חלונות הקשר: איפה 128K נגמר ואיפה 10M מתחיל

אם העסק שלכם מעבד מסמכים ארוכים, חוזים, תמלולים או בסיסי קוד שלמים, חלון ההקשר הוא פרמטר קריטי לא פחות מהמחיר. מגבלת ה-128K של GPT-5 הבסיסי מחייבת אסטרטגיות chunking, עם כל התקורה ההנדסית שנלווית לפיצול והרכבה מחדש. כאן חלון ה-2M של Gemini 2.5 Pro מנצח בפער עבור ניתוח מסמכים ארוכים במכה אחת.

בצד הקוד הפתוח, Llama 4 Scout מציע על הנייר חלון הקשר של 10 מיליון טוקנים (109 מיליארד פרמטרים, 17 מיליארד אקטיביים), ו-Maverick חלון של מיליון טוקנים עם 400 מיליארד פרמטרים. אבל יש כאן מלכודת: ספקי API צד שלישי מגבילים בפועל את Scout ל-128K עד 320K טוקנים. כדי ליהנות מהחלון המלא תצטרכו לארח את המודל בעצמכם, וזה כבר סיפור אחר של עלויות חומרה.

03ענן או on-premise: הכלל של 20 אלף דולר

אחסון עצמי של Llama 4 Scout דורש כרטיס H100 אחד, בעלות של כ-2,500 דולר בחודש, ואילו Maverick דורש שמונה כרטיסים בעלות של כ-20,000 דולר בחודש. הכלל המעשי שמסתמן בתעשייה: כשההוצאה החודשית על API עוברת את רף ה-20 אלף דולר, הכלכלה מתחילה להעדיף self-hosting. מתחת לרף הזה, התקורה התפעולית של תחזוקת GPU, עדכוני מודלים וניטור בדרך כלל לא משתלמת.

בישראל יש לשיקול הזה משקל נוסף: ארגונים בתחומי הבריאות, הביטחון והפיננסים כפופים לרגולציה שמחייבת לעיתים שהדאטה לא יעזוב את הארגון. במקרים כאלה השאלה היא לא כלכלית אלא רגולטורית, ו-Llama 4 בפריסה מקומית הוא כמעט ברירת המחדל, גם אם העלות לטוקן גבוהה יותר מ-API בענן.

04עץ ההחלטה: ארבע שאלות לפני שבוחרים

1. רגישות דאטה: אם הדאטה חייב להישאר on-prem (רפואה, ביטחון, פיננסים מפוקחים) — Llama 4 Scout על H100 בודד לרוב התרחישים, Maverick רק אם באמת צריך את הקיבולת. אם ענן מותר, המשיכו לשאלה הבאה.
2. תקציב חודשי: מתחת ל-500 דולר — התחילו בשכבת הביניים עם Gemini 2.5 Pro (1.25/10 דולר) או Sonnet 5 בתמחור ההיכרות. מעל 20 אלף דולר בחודש — בדקו self-hosting ברצינות.
3. תרחיש שימוש: מסמכים ארוכים ומולטימודליות — Gemini 2.5 Pro עם חלון ה-2M. משימות קוד ו-reasoning מורכב — Claude Opus 4.8 או GPT-5.5, אבל רק אחרי שהוכחתם ששכבת הביניים לא מספיקה.
4. נפח פלט: אם המשימה מייצרת הרבה טוקני פלט (יצירת קוד, כתיבת תוכן), השוו לפי מחיר הפלט ולא הקלט — שם ההבדל בין 12 דולר של Gemini 3.1 Pro ל-30 דולר של GPT-5.5 מורגש מיד.

05מלכודות בחישוב העלות האמיתית

המספר שמופיע בדף התמחור הוא רק נקודת פתיחה. המלכודת הראשונה: רוב העלות מגיעה מטוקני פלט, שיקרים פי 6 מטוקני קלט. ב-GPT-5.4, למשל, קלט עולה 2.50 דולר ופלט 15 דולר למיליון טוקנים, ובמשימות קוד הפלט יכול להוות 70 עד 80 אחוז מהחשבון החודשי. מי שמשווה מודלים לפי מחיר הקלט בלבד מקבל תמונה מעוותת.

המלכודת השנייה היא צוקי עלות בהקשר ארוך: במשפחת GPT-5.5 נכנס לתוקף תעריף נפרד סביב 270 אלף טוקנים, כך שבקשה אחת ארוכה במיוחד יכולה לעלות משמעותית יותר משתי בקשות קצרות. מנגד, יש שני מנופי חיסכון שמשנים את החשבון דרמטית: הנחת Batch של 50% לעומסים שלא דורשים תשובה מיידית, ו-prompt caching שיכול לחסוך עד 90% כשחלק גדול מהפרומפט חוזר על עצמו בין בקשות.

וכאן נתון מטריד: רק 22% מהארגונים עוקבים אחרי הוצאות AI ברמת טרנזקציה. בלי מעקב כזה אי אפשר לדעת איזה feature שורף את התקציב ואיפה caching או batching היו חוסכים אלפי שקלים בחודש. חישוב פשוט של עלות משוערת נראה כך:

def monthly_cost(req_per_day, in_tokens, out_tokens,
                 in_price, out_price, cache_hit=0.0):
    # מחירים בדולרים למיליון טוקנים
    daily_in = req_per_day * in_tokens * (1 - cache_hit * 0.9)
    daily_out = req_per_day * out_tokens
    cost = (daily_in * in_price + daily_out * out_price) / 1e6
    return round(cost * 30, 2)

# דוגמה: Gemini 2.5 Pro, אלף בקשות ביום, 60% cache hits
print(monthly_cost(1000, 8000, 1500, 1.25, 10, cache_hit=0.6))

06מה זה אומר לעסק בישראל

לסטארטאפ ישראלי בשלב מוקדם, ההמלצה המעשית היא להתחיל משכבת הביניים ולעלות רק כשיש הוכחה שהאיכות לא מספיקה: Gemini 2.5 Pro למסמכים ולמולטימודליות, Sonnet 5 בתמחור ההיכרות לקוד ול-reasoning. לארגון בינוני עם עומסים קבועים, השילוב של Batch ו-prompt caching צריך להיבנות לארכיטקטורה מיום ראשון ולא כאופטימיזציה בדיעבד. ולארגונים מפוקחים, Llama 4 Scout על H100 בודד הוא נקודת כניסה סבירה של כ-2,500 דולר בחודש לפריסה מקומית מלאה. בכל המקרים, הכלל זהה: תבחרו מודל לפי עלות ליחידת עבודה שנמדדה על הדאטה שלכם, לא לפי טבלת מחירים או בנצ'מרק שיווקי.