דילוג לתוכן הראשי

Gemini 3.5 Pro עם חלון של 2 מיליון טוקנים: מדריך שימוש מעשי

לפי דיווחים, Gemini 3.5 Pro הגיע ל-GA עם חלון הקשר של 2M טוקנים ומצב Deep Think. מתי החלון הענק משתלם, מתי הוא מלכודת עלויות, ואיך עובדים איתו נכון.

איתי רוזןאיתי רוזןכתב מודלים וכלים
·5 דק׳ קריאה
מפתח מול שני מסכים עם עץ קבצים ענק של ריפוזיטורי, לצד ערימת מסמכים משפטיים מודפסים

על פי דיווחים ממספר מקורות, גוגל דיפמיינד שחררה ב-17 ביולי 2026 את Gemini 3.5 Pro לזמינות כללית, עם חלון הקשר של 2 מיליון טוקנים ומצב Deep Think לחשיבה מעמיקה בתעריף Ultra של 250 דולר לחודש. לפי אותם דיווחים, המודל נבנה מחדש מהיסוד לאחר שגוגל גנזה את מודל הבסיס Gemini 2.5 Pro, עם דגש על חשיבה מתמטית, יצירת SVG ואיכות תמונה. במדריך הזה נתמקד בשאלה המעשית: מה באמת עושים עם חלון בגודל כזה, מתי הוא שווה את הכסף, ומתי הוא מלכודת עלויות.

הסתייגות חשובה: נכון לבוקר ה-18 ביולי קיים דיווח סותר שלפיו gemini-3.5-pro עדיין לא הופיע כרשומה ב-API הציבורי, והמפרט המלא כולל התמחור הסופי טרם אושר ב-model card רשמי של גוגל. מומלץ לאמת מול הדוקומנטציה הרשמית לפני שמתחייבים לארכיטקטורה בפרודקשן.

מה נכנס בפועל ל-2 מיליון טוקנים

המספר נשמע מופשט, אז כדאי לתרגם אותו לחומרים אמיתיים. חלון של 2 מיליון טוקנים מסוגל להכיל בשלמותם עומסים שעד היום דרשו פירוק, סיכום או שליפה סלקטיבית:

  • מונורפו TypeScript של כ-2,000 קבצים, כולל קונפיגורציות וטסטים, בבת אחת
  • שלוש שנים של היסטוריית Slack של צוות בן 30 איש
  • ארבעה תשקיפי S-1 מלאים במקביל, להשוואה חוצת חברות
  • תיק ליטיגציה שלם: כתבי טענות, תצהירים ותמלולי עדויות

המשמעות המעשית היא שהמודל רואה את כל התמונה בלי שלב ביניים של אינדוקס או vector DB. כשאתם שואלים שאלה חוצת מסמכים, אין סיכון שהקטע הרלוונטי פשוט לא נשלף. זה היתרון המהותי היחיד של הקשר מלא על פני RAG, וכל ההחלטה צריכה להיגזר ממנו.

ארבעה תרחישים שמצדיקים את המחיר

מהתחקיר עולים ארבעה סוגי משימות שבהם הקשר ענק באמת משנה תוצאה, ולא רק נוחות. הראשון: אודיטים של ריפוזיטורי שלם, כמו סריקות אבטחה וסקירות ארכיטקטורה, שבהן חולשה עשויה להתחבא באינטראקציה בין קבצים מרוחקים. השני: ניתוח חוצה-מסמכים של חוזים ותיקים משפטיים, שבו כל סיכום ביניים מאבד ניואנסים שעלולים להיות קריטיים. השלישי: שמירת state של סוכנים בסשנים ארוכים, כשהסוכן צריך לזכור החלטות שקיבל לפני מאות צעדים. הרביעי: משימות רגישות-עקביות, שבהן חשוב שהמודל יענה על סמך אותו קורפוס מלא בכל שאילתה.

חלון הקשר הופך בשקט לחפיר התחרותי שאף אחד לא מדבר עליו מספיק. אבל מי שקונה אותו בלי למדוד את איכות ההסקה בעומק החלון, קונה מספר במפרט ולא יכולת
גורם בתעשיית מודלי השפה
עורכת דין בוחנת תמלולים מודפסים לצד מסך עם ניתוח ממוחשב של תיק משפטי במשרד בירושלים
תיקי ליטיגציה שלמים נכנסים לחלון אחד: ניתוח חוצה-מסמכים בלי אובדן מידע בסיכומי ביניים

שיקולי עלות: פי 10 מ-Flash, ורוב הזמן לא צריך

התמחור המדווח עומד על כ-15 דולר לקלט ו-60 דולר לפלט למיליון טוקנים, פי 10 בדיוק מ-Flash שעומד לפי הדיווחים על 1.50 ו-9 דולרים בהתאמה. במספרים של צוות ישראלי ממוצע: מי שמוציא היום 500 דולר בחודש על Flash ישלם 5,000 דולר על Pro באותו נפח שימוש. זה פער שמחייב הצדקה עסקית, לא סקרנות טכנולוגית.

חשוב לזכור שני נתונים מצננים. ראשית, רוב עומסי העבודה מסתדרים מצוין עם 128K טוקנים, וחלון ה-2M רלוונטי רק למקרי הקצה שתוארו למעלה. שנית, מחקר עצמאי שבחן 18 מודלי חזית מצא שאיכות ההסקה של כל המודלים מתדרדרת עוד לפני הגבול המוצהר, לעיתים בשיעור של 30 עד 40 אחוז. כלומר, גם אם המודל טכנית מקבל 2 מיליון טוקנים, אל תניחו שהוא מנתח את הטוקן ה-1,900,000 באותה חדות כמו את הראשון.

סיפור אזהרה מהתחקיר: צוות eCommerce שנטש את ה-vector DB לטובת הזרמת הקשר מלא בכל שאילתה חווה עלייה של פי 3 בלטנציה, פי 8 בעלות לשאילתה, וירידה של 12 נקודות במדד איכות התמיכה הפנימי. הקשר ענק הוא כלי למשימות נקודתיות, לא תחליף גורף לארכיטקטורת שליפה.

טכניקות עבודה: כך מזרימים קודבייס בלי לשרוף תקציב

העיקרון המנחה: בונים את ההקשר פעם אחת, שואלים עליו הרבה. אודיט של ריפו שלם צריך להיות סשן אחד עם עשרות שאלות, לא עשרות סשנים שכל אחד מהם טוען את הריפו מחדש. בנוסף, כדאי לסנן החוצה קבצים שלא תורמים להסקה: תיקיות node_modules, קבצי lock, נכסים בינאריים ותוצרי build. סקריפט פשוט עושה את העבודה:

עוד שלוש טכניקות שחוסכות כסף בפועל: ראשית, הציבו את ההנחיות והשאלה בסוף הפרומפט ואת החומר הגולמי בתחילתו, כדי שהמודל יגיע לשאלה אחרי שקרא הכול. שנית, בקשו מהמודל לצטט מיקום מדויק (שם קובץ ושורה, או סעיף בחוזה) לכל טענה, מה שמאפשר ביקורת מהירה ומצמצם הזיות. שלישית, הריצו משימות ניסוי על Flash קודם: אם התוצאה טובה מספיק ב-128K עם שליפה חכמה, חסכתם 90 אחוז מהעלות.

מה זה אומר לצוותים בישראל, ומה הלאה

לחברות ישראליות בתחומי הליגלטק, הפינטק והסייבר, שעובדות באופן שוטף עם קורפוסים גדולים של מסמכים רגישים, החלון החדש פותח קטגוריית מוצר: ניתוח תיק שלם או אודיט קוד מלא כשירות, בלי תשתית שליפה מורכבת. לצוותי פיתוח, ההמלצה היא להתחיל בפיילוט מדיד: לבחור משימה אחת שבה RAG נכשל בעבר בגלל פיזור מידע, להריץ אותה על ההקשר המלא, ולמדוד איכות מול עלות לפני החלטת ארכיטקטורה. ובינתיים, עד שגוגל תפרסם model card רשמי ותמחור סופי, כדאי להתייחס לכל המספרים כאן כדיווחים ולא כהתחייבות. אם ההשקה אכן יצאה לפועל כמדווח, מי שיגיע אליה עם תרחיש ממוקד ותקציב מחושב ירוויח ממנה הכי הרבה.

שאלות נפוצות

כמה עולה Gemini 3.5 Pro ומה ההבדל מ-Flash?

לפי הדיווחים התמחור הוא כ-15 דולר לקלט ו-60 דולר לפלט למיליון טוקנים, פי 10 מ-Flash (1.50 ו-9 דולרים). מצב Deep Think זמין בתעריף Ultra של 250 דולר לחודש. התמחור טרם אושר במסמך רשמי של גוגל.

מתי כדאי להשתמש בחלון הקשר של 2 מיליון טוקנים במקום RAG?

כשהמשימה דורשת ראייה מלאה של הקורפוס: אודיט אבטחה או ארכיטקטורה של ריפו שלם, ניתוח חוצה-מסמכים של חוזים ותיקים משפטיים, או שמירת state של סוכן בסשן ארוך. רוב עומסי העבודה השוטפים מסתדרים עם 128K טוקנים ושליפה חכמה, בעלות נמוכה משמעותית.

האם המודל באמת מנצל את כל 2 מיליון הטוקנים באיכות מלאה?

לא בהכרח. מחקר עצמאי שבחן 18 מודלי חזית מצא שאיכות ההסקה מתדרדרת לפני הגבול המוצהר של חלון ההקשר, לעיתים ב-30 עד 40 אחוז. לכן מומלץ למדוד איכות על המשימות שלכם בעומק החלון לפני מעבר לפרודקשן.

#Gemini 3.5 Pro#חלון הקשר#Google DeepMind#Deep Think#ניהול עלויות API#RAG
מה דעתכם?

דרגו את הכתבה

הדירוג עוזר לנו לדעת מה שווה לכם.

תגובות

התגובה חייבת להיות בעברית ומתפרסמת מיד.
  1. היו הראשונים להגיב.

עוד בנושא