Bonsai 2 27B: מודל של 27 מיליארד פרמטרים בכ־5.9GB
PrismML שחררה את Bonsai 2 27B עם משקולות תלת־ערכיות ונפח אחסון של כ־5.9GB. ההרצה המקומית מתועדת, אך שימור האיכות והביצועים בעברית דורשים בדיקה.
מודל עם 27 מיליארד פרמטרים בקבצים שמשקלם כ־5.9GB: זו ההבטחה המעשית של Ternary Bonsai 2 27B, ששחררה PrismML ב־17 בספטמבר 2026. המודל מבוסס על Qwen3.8 27B ומשתמש במשקולות תלת־ערכיות כדי לצמצם את נפחו. למפתחים ולעסקים בישראל זו סיבה לבחון שוב הרצת AI מקומית, אבל עדיין לא הוכחה שאפשר לקבל אותה איכות, בעברית ובכל מחשב.
מה שוחרר, ומה בדיוק טוענת PrismML
Bonsai 2 27B הוא מודל ששוחרר, לא רק הצעה לארכיטקטורה עתידית. לפי התחקיר, יכולת ההרצה המקומית שלו מתועדת, וקיים מאגר הדגמה של PrismML בשם Bonsai-demo. החידוש המרכזי בסיפור אינו מספר הפרמטרים לבדו, אלא נפח האחסון המצומצם שבו מיוצג מודל בגודל הזה.
PrismML מדווחת על שימור של 98.2% מביצועי מודל הבסיס במבחניה, בכ־תשיעית מהנפח. חשוב לקרוא את שני חלקי המשפט יחד: זהו נתון של החברה, והוא מתייחס למבחנים שלה. אין בחומר שסופק אימות עצמאי שמאפשר להרחיב אותו לכל משימה, שפה או סביבת עבודה.
בפרט, שימור של 98.2% מביצועי הבסיס אינו אומר שהמודל עונה נכון על 98.2% מהשאלות. זהו נתון יחסי לביצועי מודל אחר, במסגרת הערכה מסוימת. בלי פירוט מספק של המשימות ושל אופן שקלול התוצאות, אי אפשר לדעת אם פגיעה קטנה במדד הכולל מסתירה פגיעה גדולה יותר ביכולת שחשובה למשתמש מסוים.
איך משקולות תלת־ערכיות מצמצמות את הנפח
המשקולות הן הערכים המספריים שבהם מיוצגים הקשרים שהמודל למד באימון. בייצוג תלת־ערכי, משקל מוגבל לאחד משלושה ערכים אפשריים, במקום להישמר ברמת דיוק מספרית עשירה יותר. ההגבלה מאפשרת ייצוג קומפקטי מאוד, אבל מציבה אתגר: לשמור על ההתנהגות השימושית של המודל למרות צמצום המידע בכל משקל.
לכן, כדאי להפריד בין מספר הפרמטרים לבין כמות המידע הדרושה לאחסונם. שני מודלים עם אותו מספר פרמטרים עשויים לתפוס נפחים שונים מאוד אם המשקולות שלהם מיוצגות אחרת. המספר 27 מיליארד אינו סותר נפח של כ־5.9GB, אך גם אינו מבטיח יכולת זהה למודל שבו כל משקל נשמר בדיוק גבוה יותר.
זה גם ההיבט המחקרי המעניין כאן: לא רק להקטין קובץ, אלא לבדוק עד כמה אפשר להגביל את ייצוג המשקולות בלי לאבד יכולות. נתון החברה מצביע על כיוון מסקרן, אך התחקיר אינו מפרט די הצורך את תהליך האימון וההמרה כדי לייחס את התוצאה לשיטה מסוימת מעבר לשימוש במשקולות תלת־ערכיות.
קובץ קטן יותר הוא הישג הנדסי; איכות שנשמרת במשימה שלך היא מבחן נפרד.
גם מהירות אינה נגזרת אוטומטית מהנפח. כדי להפיק יתרון חישובי מייצוג קומפקטי, מנוע ההרצה והחומרה צריכים לתמוך בו ביעילות. ייתכן חיסכון משמעותי באחסון בלי שיפור מקביל בזמן התגובה, ולכן אין להסיק מהנתון על גודל הקבצים כמה מהר תתקבל תשובה.
למה כ־5.9GB אינם דרישת הזיכרון המלאה
בזמן הרצה, המחשב צריך להחזיק יותר מאשר את משקולות המודל. נדרש גם זיכרון לחישובים ולמידע שנשמר לאורך עיבוד השיחה, לרבות KV cache. אורך ההקשר, מספר הבקשות המעובדות במקביל ואופן המימוש משפיעים על צריכת הזיכרון הכוללת.
אין להסיק שמחשב עם כ־6GB זיכרון יכול להריץ את Bonsai 2 27B באופן שימושי. הנתון שפורסם מתייחס לנפח קובצי המודל, ולא לדרישת RAM או VRAM מלאה. בתחקיר אין מדידת זיכרון או מהירות שמאפשרת להמליץ על מפרט מסוים.
לפני הורדה והטמעה צריך לבדוק אילו סביבות נתמכות, איזה מנוע נדרש ומהם תנאי הרישיון לשימוש המתוכנן. עצם קיומם של מודל להורדה ומאגר הדגמה אינו מספיק כדי לקבוע התאמה לשימוש מסחרי או לתהליך עבודה מסוים. אלה בדיקות תפעוליות, נפרדות מהשאלה אם הדחיסה מוצלחת.
המבחן הישראלי: עברית, מסמכים ונתונים רגישים
לעסק ישראלי שמסכם מסמכי לקוחות או ממיין פניות שירות, הרצה מקומית עשויה לצמצם את הצורך להעביר תוכן לספק ענן. זה יתרון אפשרי למשרד עורכי דין, למחלקת כספים או לצוות פיתוח שעובד עם מידע פנימי. עם זאת, מקומיות אינה חותמת אבטחה: יש לבדוק גם את הממשק, התוספים, הלוגים והרשאות הגישה.
השאלה החשובה ביותר לשוק המקומי נשארת פתוחה: איך Bonsai 2 27B מתפקד בעברית? התחקיר אינו מספק הערכה ייעודית לשפה. הצלחה במדד כללי אינה מספיקה כדי להבטיח טיפול נכון במסמך שמשלב עברית, אנגלית, ראשי תיבות ארגוניים, תאריכים וסכומים.
- סיכום בעברית: לבדוק אם המודל שומר על הסתייגויות, תנאים ושלילות, ולא רק מפיק ניסוח שוטף.
- חילוץ מידע: להשוות שמות, סכומים ותאריכים לפלט צפוי מתוך מסמכים שהוכנו לבדיקה.
- שילוב שפות: לבחון פניות בעברית המכילות מונחים באנגלית ושמות מוצרים, בלי לשנות את משמעותם.
- הקשר ארוך: למדוד איכות וצריכת זיכרון כשהמסמך מתארך, ולא להסתפק בשאלה קצרה.
- עבודה ללא ענן: לוודא שהמערכת אינה מעבירה תוכן החוצה דרך שירות נלווה.
בדיקה התחלתית כזאת עדיף לבצע עם נתונים סינתטיים או מסמכים שהוסרו מהם פרטים מזהים. לצורך השוואה הוגנת, יש להשתמש באותן משימות ובהגדרות הפקה דומות, ולתעד גם טעויות מהותיות וגם זמני תגובה. תשובה בעברית יפה אינה תחליף לשמירת העובדות.
מה יכריע אם הדחיסה שימושית בפועל
השלב הבא הוא מדידה עצמאית שמחברת בין שלושה דברים: איכות במשימות מוגדרות, צריכת זיכרון בפועל ומהירות על חומרה מזוהה. השוואה ל־Qwen3.8 27B צריכה להבהיר גם באיזה ייצוג ובאילו תנאי הרצה נבדק מודל הבסיס. אחרת, קשה להפריד בין השפעת הדחיסה להשפעת התוכנה והחומרה.
Bonsai 2 27B מצדיק בדיקה מפני שהוא מציע דרך לצמצם את חסם האחסון של מודל גדול ולהפחית תלות בענן. נכון ל־21 בספטמבר 2026, המסקנה הזהירה היא שיש כאן מודל ששוחרר וטענת ביצועים מעניינת של היצרן, לא תחליף מוכח לכל שירות AI. למשתמש הישראלי, ההכרעה תגיע מהמסמך בעברית ומהמחשב שעל שולחנו.
שאלות נפוצות
כמה זיכרון צריך כדי להריץ את Bonsai 2 27B?
נפח קובצי המודל הוא כ־5.9GB, אך זה אינו כלל הזיכרון הדרוש להרצה. הדרישה בפועל תלויה גם במנוע ההרצה, באורך ההקשר ובזיכרון העבודה, והתחקיר אינו מספק מדידה מלאה שלהם.
האם Bonsai 2 27B שומר על איכות מודל הבסיס?
PrismML מדווחת על שימור של 98.2% מביצועי Qwen3.8 27B במבחניה. זו טענת החברה ולא אימות עצמאי, ואין בתחקיר תוצאות שמאפשרות להסיק ממנה על איכות בעברית.
האם אפשר להריץ את Bonsai 2 27B מקומית בלי ענן?
יכולת ההרצה המקומית מתועדת בתחקיר, אך יש לבדוק התאמה של החומרה ושל תוכנת ההרצה. כדי שמידע לא ייצא לענן, צריך לוודא שגם הממשק, התוספים ושאר רכיבי המערכת אינם שולחים אותו לשירות חיצוני.
דרגו את הכתבה
הדירוג עוזר לנו לדעת מה שווה לכם.
תגובות