מנכ״ל Anthropic קורא להאטה מתואמת בפיתוח מודלי AI מתקדמים
דריו אמודיי קורא להאטה מתואמת בפיתוח מודלי AI ומתחייב לגישה קבועה למעריכים חיצוניים למערכות Anthropic. אין עדיין הסכמה בין חברות על האטה.
מנכ״ל Anthropic, דריו אמודיי, קורא להאט באופן מתואם את התקדמות מודלי ה-AI המתקדמים, ומצרף לקריאה התחייבות מעשית: לתת למעריכים חיצוניים גישה קבועה למערכות החברה, ברמה דומה לזו של עובדים. במאמר שפרסם ב-12 בספטמבר, “We Must Pace the Frontier”, הוא מציב במרכז שאלה שרלוונטית גם לחברות בישראל: כיצד בודקים באופן עצמאי את הספק שעליו נשענת המערכת העסקית?
מה הוכרז: האטה מתואמת וגישה למעריכים חיצוניים
לפי המאמר, מטרת ההאטה היא לאפשר לעבודת הבטיחות להדביק את קצב ההתקדמות של המודלים. זו קריאה לתיאום, ולא דיווח על הסכמה בין חברות או על עצירה שכבר נכנסה לתוקף. ההבחנה חשובה: עמדה שמציג מנכ״ל של ספק מרכזי אינה כשלעצמה שינוי בלוחות הזמנים של התעשייה.
החלק הקונקרטי יותר הוא ההתחייבות לגישה חיצונית קבועה. במקום להסתפק באזהרה מפני סיכונים, אמודיי מציע לאפשר לגורמים שאינם עובדי החברה לבחון את מערכותיה מקרוב. המשמעות האפשרית היא בדיקה שאינה מוגבלת רק למה שלקוח רגיל יכול לראות דרך ממשק המוצר.
עם זאת, הניסוח של גישה ברמה דומה לזו של עובדים אינו מפרט לבדו מה בדיוק ייחשף. אי אפשר להסיק ממנו שמעריכים יקבלו גישה לכל נתוני האימון, לכל כלי הפיתוח או לכל מערכת פנימית. אלה פרטים שיקבעו את עומק הבדיקה, ולא נכון להשלים אותם מתוך עצם ההתחייבות.
נכון למידע שנמסר עד 13 בספטמבר, מדובר בהתחייבות לפיקוח חיצוני, לא בהוכחה שהוא כבר מיושם. אין בתחקיר אישור להסכם האטה בין חברות, לוח יישום מפורט או תוצאות של בדיקות במסגרת החדשה.
למה גישה קבועה עשויה לשנות את איכות הבדיקה
בדיקה חיצונית יכולה להיות בעלת ערך משום שהבודק אינו בהכרח כפוף ליעדי ההשקה של צוות המוצר. אבל התווית ״חיצוני״ אינה מבטיחה עצמאות. צריך להבין מי בוחר את המעריכים, מי מממן את עבודתם, אילו מגבלות חלות עליהם והאם הם רשאים לדווח על ממצאים לא נוחים.
גם לרציפות יש משמעות. בדיקה חד-פעמית מתייחסת למערכת במצב מסוים, בעוד שגישה קבועה עשויה לאפשר מעקב אחרי תיקונים ושינויים לאורך זמן. זהו היתרון האפשרי של ההצעה, אך עדיין לא תוצאה שהוצגה: עצם האפשרות לחזור ולבדוק אינה מעידה שהליקויים יטופלו.
המבחן אינו רק אם בודק חיצוני יכול למצוא תקלה, אלא אם הממצא שלו יכול לשנות החלטת השקה.
כאן עובר הגבול בין הערכה לבין פיקוח בעל השפעה. מעריך יכול להגיש דוח בלי שתהיה לו סמכות לדרוש שינוי, לעכב שחרור או להתריע בפני לקוחות. ההתחייבות המתוארת אינה מספיקה כדי לקבוע אילו מהאפשרויות האלה יעמדו לרשותו. לכן כדאי לבחון את המנגנון לפי סמכויות ותהליכים, ולא רק לפי היקף הגישה.
הקושי בתיאום: מי מאט, ובאילו תנאים
קריאה להאטה מתואמת מעלה בעיית תמריצים: חברה שמקדישה זמן נוסף לבדיקות עשויה לחשוש שמתחרה תשיק לפניה. זו אינה ראיה למניע מסוים של Anthropic, אלא קושי מובנה בהצעה שמבקשת לשנות את קצב הפעילות של כמה חברות במקביל.
כדי להפוך את הקריאה למסגרת שאפשר לבחון, יהיה צורך להבהיר מה נחשב האטה. האם מדובר במשך הבדיקות לפני השקה, בהגבלת יכולות מסוימות או בתנאים להרחבת הגישה למערכת? התחקיר אינו מספק הגדרה תפעולית כזאת, ולכן אין בסיס לתרגם את המאמר לתחזית על מועד השקת מוצר.
חשוב גם להפריד בין שתי ההצעות. האטה מתואמת דורשת שיתוף פעולה של גורמים נוספים; פתיחת גישה למעריכים היא התחייבות הנוגעת למערכות Anthropic עצמה. אפשר יהיה לבחון התקדמות בהתחייבות השנייה גם בלי שהראשונה תהפוך להסכמה רחבה. זו נקודת המעקב המעשית יותר עבור לקוחות.
המשמעות בישראל: שאלות חדשות בבדיקת ספק AI
עבור חברה ישראלית שבונה שירות לקוחות בעברית או מחברת סוכן למסמכים פנימיים, ההכרזה אינה סיבה מספקת להחליף ספק או לעצור פרויקט. היא כן מספקת בסיס לדרישה מדויקת יותר בשלב הרכש: לא רק הצהרה שהמערכת נבדקה, אלא הסבר מי בדק, מה נבדק ומה נעשה בעקבות התוצאות.
נניח שעסק בארץ מפעיל עוזר שיכול לקרוא פניות לקוחות ולעדכן מערכת ניהול. גם בדיקה חיצונית מעמיקה של המודל לא תענה בהכרח על השאלה אם העסק נתן לעוזר הרשאות רחבות מדי. בטיחות ברמת הספק ואבטחה ברמת היישום הן שכבות שונות, והאחריות המקומית אינה נעלמת בעקבות ההכרזה.
- לבקש תיאור של היקף הבדיקה: האם היא מכסה רק את המודל, או גם שימוש בכלים ובמקורות מידע חיצוניים?
- לברר כיצד לקוחות מקבלים מידע על ליקויים מהותיים, ואיך אפשר לדעת שתיקון נבדק מחדש.
- לבדוק מקומית תרחישים בעברית, מסמכים המשלבים עברית ואנגלית וניסיונות לגרום למערכת לחשוף מידע שאינו שייך למשתמש.
- להגדיר אילו פעולות מחייבות אישור אנושי, במיוחד כשסוכן יכול לשנות רשומות או לשלוח מידע מחוץ לארגון.
לצוות פיתוח קטן, הערך האפשרי הוא יכולת להיעזר בבדיקה מקצועית של תשתית שאין לו משאבים לבחון לעומק בעצמו. אבל כדי שהערך הזה יגיע ללקוח, יידרש מידע שימושי על גבולות הבדיקה והממצאים. גישה למעריכים ללא שקיפות מספקת כלפי המשתמשים עשויה להשאיר את החלטת הרכש כמעט באותו מצב.
מה הלאה: לחפש יישום, לא רק הצהרות
השלב הבא שכדאי לעקוב אחריו הוא פירוט המנגנון: זהות הגופים המעריכים, תנאי הגישה, עצמאות הפרסום ואופן הטיפול במחלוקות עם החברה. גם עדות לכך שבדיקה הובילה לתיקון או לשינוי בהחלטה תהיה משמעותית יותר מעצם ההודעה על פתיחת הדלת.
החדשות במאמר של אמודיי הן החיבור בין קריאה להאטה לבין התחייבות שאפשר לדרוש עליה דין וחשבון. עבור משתמשים ועסקים בישראל, המסקנה בשלב הזה אינה שהמערכות בטוחות יותר, אלא שיש התחייבות מוגדרת יחסית שאפשר לעקוב אחר מימושה. ההבדל בין הבטחה לפיקוח לבין פיקוח שמשפיע בפועל ייקבע בפרטים שעוד צריכים להתברר.
שאלות נפוצות
מה הציע דריו אמודיי במאמר We Must Pace the Frontier?
במאמר שפרסם ב-12 בספטמבר קרא מנכ״ל Anthropic להאטה מתואמת בהתקדמות המודלים המתקדמים, כדי לאפשר לעבודת הבטיחות להדביק את הקצב. לצד זאת התחייב לתת למעריכים חיצוניים גישה קבועה למערכות החברה, ברמה דומה לזו של עובדים.
האם Anthropic כבר מפעילה את מנגנון הפיקוח החיצוני החדש?
המידע שעליו מבוססת הכתבה מתאר התחייבות, ולא אימות שמנגנון הפיקוח כבר פועל. הוא אינו מספק פרטים על זהות המעריכים, סמכויותיהם או פרסום הממצאים.
מה המשמעות של ההכרזה לחברות שמשתמשות ב-AI בישראל?
ההכרזה מספקת בסיס לשאלות על בדיקות עצמאיות, טיפול בליקויים ושקיפות מצד ספק ה-AI. היא אינה מחליפה בדיקות של האפליקציה המקומית, הרשאות הגישה שלה או הטיפול במידע של לקוחות.
דרגו את הכתבה
הדירוג עוזר לנו לדעת מה שווה לכם.
תגובות