ראש מערך הסייבר: לקבוע אילו סמכויות אסור להעביר ל־AI
יוסי כראדי קורא למנהיגים ולראשי גופי סייבר בעולם לקבוע אילו החלטות חייבות להישאר בידי אדם, כשמערכות הגנה מבוססות AI פועלות מהר מכדי שיוכל להתערב.
ראש מערך הסייבר הלאומי, יוסי כראדי, קורא למנהיגים ולראשי גופי סייבר בעולם להגדיר אילו סמכויות אפשר להעביר לבינה מלאכותית ואילו החלטות חייבות להישאר בידי אדם. לפי הודעת המערך מ־8 באוקטובר 2026, הוא שלח בנושא מסמך שמציף שאלה מעשית: כיצד שומרים על שליטה במערכות הגנה שפועלות מהר מכדי שאדם יספיק להתערב?
מה פורסם: קריאה לגבולות סמכות, לא דיווח על תקיפה
הפנייה, שעליה דיווח המערך ב[הודעה הרשמית באתר הממשלה](https://www.gov.il/he/pages/aist081026?utm_source=openai), מכוונת לדרג הבינלאומי. הנושא אינו רק איכות התשובות של AI או היכולת לזהות איום, אלא חלוקת הסמכות בין מערכת אוטומטית לבין מי שאחראים להפעיל אותה. מערכת יכולה לזהות סכנה ולהציע תגובה, אבל האפשרות לבצע את התגובה בעצמה יוצרת שאלה נפרדת.
חשוב להבחין: התרחיש במסמך הוא אזהרה אסטרטגית. הוא אינו דיווח על אירוע ביטחוני שהתרחש בישראל, ואין לקרוא אותו כעדות לכך שמערכת AI מקומית יצאה משליטה.
ההבחנה הזאת חיונית להבנת הידיעה. עצם הקריאה להגדיר גבולות אינה אומרת שהגבולות כבר נקבעו, שהתקבלה הסכמה בינלאומית או שנכנסה לתוקף חובה חדשה לעסקים. ההתפתחות שעליה דווח היא שליחת המסמך והצבת שאלת הסמכות על סדר היום של מנהיגים וגופי סייבר. את הדיון המעשי אפשר להתחיל כבר כעת, בלי לייחס להודעה צעדי אכיפה שלא נמסרו.
גם חשוב להפריד בין אזהרה מפני סיכון לבין התנגדות לכל אוטומציה. השאלה שהמסמך מעלה אינה מחייבת בחירה בין מערכת עצמאית לחלוטין לבין עבודה ידנית בלבד. היא דורשת להחליט היכן אוטומציה מסייעת, היכן היא מוסמכת לפעול, ובאילו נקודות ההחלטה עצמה צריכה להישאר אנושית.
מדוע מהירות התגובה הופכת לבעיית שליטה
כדי להבין את המתח, אפשר לחשוב על דוגמה היפותטית: כלי הגנה מזהה פעילות חשודה ומציע לנתק שרת מהרשת. אם הוא רק מציג המלצה, אדם יכול לבדוק אותה לפני ביצוע. אם הוא מוסמך לנתק בעצמו, ההחלטה עלולה להשפיע על פעילות הארגון עוד לפני שההתראה נקראה. זו אינה טענה על אירוע מסוים, אלא המחשה לפער בין המלצה לבין פעולה.
הקושי הוא שהמתנה לאישור אינה תמיד נטולת מחיר. בזמן שבודקים התראה, איום עשוי להתקדם; מנגד, תגובה אוטומטית שגויה עלולה להשבית שירות חיוני. לכן השאלה אינה מסתכמת בהוספת כפתור אישור. צריך להגדיר מראש מה מותר למערכת לעשות, מה היקף הנזק האפשרי, ואילו פעולות אפשר לבטל אם התברר שההערכה הייתה מוטעית.
מערכת שמדווחת לאדם אחרי שביצעה פעולה אינה שקולה למערכת שממתינה להחלטתו.
מכאן נובעת גם מגבלה של הביטוי human-in-the-loop: עצם נוכחותו של אדם בתהליך אינה מבטיחה שליטה אפקטיבית. בניתוח של מערכת כזאת צריך לשאול אם יש לו זמן להבין את המצב, אם מוצג לו המידע הדרוש, ואם הוא באמת יכול לעצור את הפעולה. אישור שניתן בלי יכולת בדיקה אינו תחליף לחלוקת סמכויות ברורה.
המשמעות לעסקים בישראל: לבדוק הרשאות, לא רק יכולות
למנהל אבטחת מידע, למפתח או לבעל עסק בארץ, האזהרה מציעה דרך לבחון שילוב של סוכני AI גם מחוץ להקשר הביטחוני. למשל, עסק ששוקל לתת לסוכן הרשאה לחסום חשבון עובד צריך להבחין בין איתור פעילות חריגה לבין השבתת הגישה בפועל. בית תוכנה שמחבר סוכן לסביבת production צריך לשאול לא רק אם הוא מסוגל לטפל בתקלה, אלא אילו שינויים מותר לו לבצע.
אלה דוגמאות יישומיות לדיון, ולא הוראות שפורסמו במסמך. הבדיקה החשובה היא של התהליך כולו: מי העניק את ההרשאה, מי מקבל התראה, מי זמין להכריע ומה קורה כשאין תשובה. בעסק ללא צוות אבטחה זמין ברציפות, מדיניות שמסתפקת בהבטחה שאדם יאשר כל חריגה עלולה להשאיר פער בין התכנון לבין ההפעלה.
- להפריד בין קריאה, המלצה וביצוע: גישה למידע אינה צריכה להעניק אוטומטית הרשאה לשנות אותו או להשבית שירות.
- להגדיר פעולות שמחייבות אישור: במיוחד כשיש פגיעה אפשרית בזמינות, בנתונים או בגישה של עובדים ולקוחות.
- לקבוע מה קורה בלי מענה אנושי: האם הסוכן ממתין, מבצע צעד מוגבל או מעביר את ההכרעה לגורם אחר.
- לבדוק עצירה וביטול: לא רק אם קיים מנגנון, אלא אם אפשר להשתמש בו בזמן ואם הוא מחזיר את השירות למצב תקין.
- לשמור תיעוד שימושי: ההמלצה, ההרשאה שניתנה והפעולה שבוצעה צריכות להיות ניתנות לבדיקה בדיעבד.
הזווית הישראלית כאן אינה רק זהות הגוף שפרסם את האזהרה. חברה ישראלית שבוחנת מוצר AI מספק חיצוני יכולה לתרגם את שאלת הסמכות לדרישות רכש: אילו פעולות המוצר מבצע ללא אישור, מי בארגון רשאי לשנות את המדיניות, ואיך עוצרים אותו בלי לאבד את הגישה למערכות. תשובות כאלה מועילות יותר מהבטחה כללית שהאדם נשאר בשליטה.
מה הלאה: להפוך עיקרון למדיניות שאפשר לבדוק
המידע שפורסם בתחקיר אינו מפרט הסכמה בינלאומית, לוח זמנים ליישום או רשימה מחייבת של החלטות שאסור למסור ל־AI. לכן מוקדם להציג את הפנייה כרגולציה חדשה. השאלות להמשך הן האם הקריאה תתורגם לכללים מעשיים, כיצד יוגדרו החריגים, ומי יוודא שהשליטה האנושית קיימת גם בתנאי לחץ ולא רק במסמך מדיניות.
דיון באחריות צריך להבחין גם בין יכולת טכנית לבין הכרעה משפטית. תיעוד טוב עשוי לסייע להבין מה קרה, אך אינו קובע לבדו מי נושא באחריות; הרשאה שנתן מנהל אינה מוכיחה שכל פעולה שבוצעה במסגרתה הייתה מתאימה. ההודעה מעלה את שאלת השליטה, אבל אין בה, על סמך המידע שנמסר, תשובה מלאה לכל חלוקת האחריות הזאת.
המסר המעשי לארגונים הוא לא להמתין לאירוע כדי לברר היכן מסתיימת סמכות הסוכן. לפני חיבור מערכת להגנה, לתשתיות או לתהליכים עסקיים, כדאי להגדיר מה היא רשאית להחליט לבדה ומה יישאר בידי אדם. הקריאה של ראש המערך ממקדת את הדיון בנקודה הזאת: לא רק מה AI יכול לעשות, אלא מי החליט שמותר לו.
שאלות נפוצות
מה ראש מערך הסייבר מבקש להגביל בשימוש בבינה מלאכותית?
במסמך שעליו הודיע מערך הסייבר ב־8 באוקטובר 2026, יוסי כראדי קורא להגדיר אילו סמכויות אפשר להעביר לבינה מלאכותית ואילו החלטות חייבות להישאר בידי אדם. מוקד הדיון הוא שליטה במערכות הגנה שיכולות לפעול מהר מכדי לאפשר התערבות אנושית.
האם האזהרה של מערך הסייבר מתייחסת לאירוע AI שהתרחש בישראל?
לא. התרחיש המוצג במסמך הוא אזהרה אסטרטגית, ולא דיווח על אירוע ביטחוני שהתרחש בישראל. אין להסיק ממנו שמערכת AI כבר קיבלה בישראל החלטה ביטחונית ללא שליטה אנושית.
איך עסק יכול להגביל את הסמכויות של סוכן AI?
אפשר להפריד בין הרשאה לקרוא מידע, הרשאה להמליץ והרשאה לבצע פעולה, ולהגדיר מראש אילו פעולות מחייבות אישור אנושי. כדאי גם לקבוע דרך לעצירת הסוכן, לשמור תיעוד ולבדוק כיצד מבטלים שינוי שגוי; אלה המלצות מעשיות, לא דרישות מחייבות שנקבעו בהודעה.
דרגו את הכתבה
הדירוג עוזר לנו לדעת מה שווה לכם.
תגובות