ניסוי MIT: עריכת 0.016% ממשקולות מודל AI שיפרה ביצועים במתמטיקה
חוקרי MIT מדווחים שמודל שפה ערך 0.016% ממשקולות מודל אחר והעלה את ציונו ב־MATH-500 מ־7.9% ל־48.1%, ללא אימון מבוסס גרדיאנטים. זהו ניסוי ממוקד.
חוקרי MIT CSAIL מציגים ניסוי שבו מודל שפה תיקן מודל אחר באמצעות שינוי ישיר של חלק זעיר ממשקולותיו, ללא אימון מבוסס גרדיאנטים. במחקר שפורסם ב־2 בנובמבר 2026, GPT-6 Astra ערך 0.016% ממשקולות Qwen3.5-0.8B, והציון במבחן המתמטי MATH-500 עלה מ־7.9% ל־48.1%. זו תוצאה מסקרנת, אבל היא מעידה כרגע על תיקון ממוקד בתנאי ניסוי, לא על דרך כללית להפוך כל מודל לחכם יותר.
מה בדקו ב־MIT, ומה באמת השתפר?
העבודה, Sparks of Weight-Space Programming, בוחנת אפשרות להשתמש במודל שפה כדי לשנות את הפרמטרים של מודל אחר. במקום להסתפק בכתיבת prompt מוצלח יותר או בהערכת תשובות, המודל העורך פועל על המנגנון המספרי שמייצר את התשובות. במקרה המתואר, היעד היה מודל קטן, והשיפור נמדד בביצועיו במבחן מתמטי מוגדר.
הנתון הבולט הוא הפער בין היקף העריכה לבין השינוי בציון. עם זאת, אחוז המשקולות שנערכו אינו מדד ישיר לכמות הידע שנוספה, וגם אינו אומר שהעלות הכוללת של התהליך הייתה זניחה. כדי להעריך את השיטה צריך לדעת לא רק כמה פרמטרים השתנו, אלא גם איזה כשל תוקן, איך נבחר התיקון ואילו בדיקות ליוו אותו.
לפי התחקיר, השיפור קשור לתיקון לולאות חשיבה. לכן הפרשנות הזהירה היא שהעריכה סייעה למודל להימנע מדפוס התנהגות שפגע בביצועיו, ולא בהכרח הקנתה לו יכולת מתמטית חדשה מאפס. ההבחנה חשובה: הסרת מכשול שמונע ממודל להשלים פתרון אינה שקולה להוכחה שאפשר להוסיף לו באופן דומה כל מיומנות רצויה.
עריכת משקולות אינה prompt, וגם אינה fine-tuning רגיל
משקולות הן הפרמטרים המספריים של המודל, שמשפיעים על האופן שבו הוא מעבד קלט ומפיק פלט. כשמשנים prompt, המשקולות נשארות כפי שהיו; משתנה ההקשר שהמודל מקבל. ב־fine-tuning מבוסס גרדיאנטים, לעומת זאת, מעדכנים פרמטרים באמצעות תהליך אופטימיזציה על דוגמאות. הכיוון שנבדק כאן הוא עריכה ישירה שלהם בעזרת מודל שפה.
הרעיון מזכיר תיקון תוכנה, אך ההשוואה מוגבלת. בתוכנה רגילה אפשר לעיתים לזהות תנאי שגוי ולשנות שורה מובנת. במודל, הקשר בין פרמטר מסוים להתנהגות אינו בהכרח מקומי או קריא. שינוי שמועיל למשימה אחת עלול להשפיע גם על התנהגויות אחרות, ולכן עצם ההצלחה בעריכה אינה מבטלת את הצורך בהערכה רחבה.
תיקון ממוקד של כשל אינו הוכחה לשיפור כללי של המודל.
מבחינה מחקרית, השאלה המעניינת היא האם אפשר להפוך את העריכה לתהליך שחוזר על עצמו בצורה אמינה: לזהות תקלה, להציע שינוי ולבחון אם הוא מועיל גם מחוץ לדוגמאות ששימשו לפיתוחו. הניסוי נותן סיבה לבדוק את הכיוון הזה. הוא עדיין אינו מספק בסיס לקביעה שהשיטה תעבוד על כל ארכיטקטורה, בכל שפה או בכל סוג משימה.
בלי גרדיאנטים לא אומר בלי בדיקות ומשוב
הסייג המרכזי בניסוי הוא שלמערכת ניתנו בעיות תרגול ותקציב של 50 הרצות קדימה. הרצה קדימה היא הפעלת המודל כדי להפיק פלט; היא אינה כשלעצמה עדכון משקולות באמצעות גרדיאנטים. עם זאת, האפשרות להריץ את המודל ולבדוק את התנהגותו מספקת מידע חשוב לתהליך התיקון. לכן אין לתאר את התוצאה כשיפור שהושג ללא בדיקות או משוב.
המסגור המדויק: שיפור מדווח במבחן מסוים באמצעות עריכת משקולות, עם בעיות תרגול ותקציב הרצות. לא הוכחה לשיפור עצמי בלתי מוגבל, לא שיטה נטולת משוב ולא תחליף מוכח לאימון.
גם העלייה בציון אינה עונה לבדה על שאלות של יציבות והכללה. לפני שימוש מעשי צריך לבדוק אם התוצאה נשמרת בניסוחים שונים, אם התיקון עוזר לבעיות מסוגים נוספים ואם נוצרה נסיגה ביכולות אחרות. אלו דרישות להערכת השיטה, לא תוצאות נוספות שכבר הוכחו במחקר המתואר. התחקיר אינו מספק בסיס לקביעה שהמודל השתפר בכל ממדי הביצוע שלו.
למפתחים בישראל: אפשרות לתחזוקה ממוקדת, לא קיצור דרך לפריסה
לצוות ישראלי שמפעיל מודל קטן בתשתית שבשליטתו, הכיוון עשוי להיות רלוונטי כאשר חוזרת תקלה מוגדרת. למשל, אפשר לשאול אם בעתיד ניתן יהיה לתקן דפוס של חזרה מעגלית בניתוח מסמכים, בלי לבצע סבב fine-tuning מלא. זו אפשרות למחקר המשך, לא יכולת שהודגמה כאן עבור מסמכים עסקיים או עבור עברית.
ההבחנה המעשית הראשונה היא גישה למשקולות: לקוח שמשתמש רק ב־API חיצוני אינו יכול בדרך כלל לערוך בעצמו את פרמטרי המודל שמאחוריו. לצוות עם גישה מתאימה, גם עריכה מצומצמת מחייבת ניהול גרסאות ויכולת חזרה למצב הקודם. היקף השינוי המספרי לבדו אינו סיבה לדלג על תהליך אישור לפני פריסה.
- להגדיר כשל מדיד מראש, במקום יעד עמום של ״מודל טוב יותר״.
- להפריד בין דוגמאות לפיתוח התיקון לבין סט בדיקה שלא שימש לבחירתו.
- לבחון עברית, אנגלית וטקסט מעורב אם אלה שפות העבודה של המוצר.
- לבדוק נסיגות במשימות אחרות, ולא להסתפק בשיפור בתקלה המקורית.
- להשוות מול שינוי prompt ו־fine-tuning, ולמדוד את עלות התהליך כולו.
מה צריך לקרות כדי שהניסוי יהפוך לשיטה?
השלב הבא מבחינת הערכת המחקר הוא שחזור והרחבה: האם ניתן להשיג תוצאה דומה בניסויים נוספים, והאם אותה גישה מתקנת כשלים שאינם לולאות חשיבה. יהיה חשוב גם להפריד בין התרומה של המודל העורך, בעיות התרגול ותקציב ההרצות. בלי ההפרדה הזו קשה לדעת מה באמת מאפשר את השיפור וכמה קל יהיה להעביר אותו לתרחיש אחר.
נכון ל־5 בנובמבר 2026, המסקנה השימושית אינה שאימון מודלים נעשה מיותר, אלא שנפתח כיוון נוסף לבדיקה: מודל שפה ככלי לתיקון ישיר וממוקד של מודל אחר. עבור חוקרים ויזמים בישראל, זו הזמנה לניסוי מבוקר עם מדדי הצלחה ברורים. הערך ייקבע ביכולת לשחזר את התיקון, לשמור על שאר היכולות ולהראות תועלת גם בנתונים המקומיים שעליהם המוצר באמת עובד.
שאלות נפוצות
מהי עריכת משקולות במודל בינה מלאכותית?
עריכת משקולות היא שינוי ישיר של הפרמטרים המספריים שקובעים את התנהגות המודל, להבדיל משינוי ההנחיה שנשלחת אליו. בניסוי של MIT CSAIL, מודל שפה שימש לעריכת חלק קטן ממשקולות מודל אחר, ללא אימון מבוסס גרדיאנטים.
האם הניסוי של MIT שיפר מודל בלי אימון ובלי משוב?
הניסוי לא השתמש באימון מבוסס גרדיאנטים, אבל כן כלל בעיות תרגול ותקציב של 50 הרצות קדימה. לכן נכון לתאר אותו כתיקון משקולות שנעזר בבדיקות, ולא כשיפור ללא משוב.
האם אפשר להשתמש בעריכת משקולות כדי לשפר מודל בעברית?
התחקיר אינו מציג תוצאות של השיטה בעברית, ולכן אין בסיס להבטיח שיפור כזה. כדי לבדוק התאמה נדרש ניסוי נפרד עם משימות בעברית, השוואה למודל המקורי ובדיקות שמוודאות שיכולות אחרות לא נפגעו.
דרגו את הכתבה
הדירוג עוזר לנו לדעת מה שווה לכם.
תגובות