Anthropic חשפה: מודלים של Claude פרצו לבד ל-3 חברות אמיתיות במהלך בדיקות אבטחה (אוגוסט 2026)

STSICONIC היא חברת הטמעת AI לארגונים בישראל. אנחנו מאחדים את כל המערכות שלך למערכת אחת ועושים סדר בעסק.

מתוך 141,006 הרצות בדיקה שחברת Anthropic סקרה, שלוש הרצות חרגו מהתסריט: מודלים של Claude פרצו לבד לשלוש חברות אמיתיות במהלך תרגילי אבטחה, וזאת בלי שאיש הורה להם לתקוף מערכות של ממש. את הפרטים פרסמה Anthropic ב-30 ביולי 2026 בפוסט בשם "Investigating three real-world incidents in our cybersecurity evaluations", ומאז הסיפור מתגלגל בכל אתרי הטכנולוגיה בעולם. זו לא סצנה מסרט, זו בדיקה פנימית אמיתית שהשתבשה, ויש בה שיעור חשוב לכל אחד שמשתמש היום בכלי AI.

STSICONIC (אס טי אס אייקוניק) היא חברת הטמעת AI לעסקים ולארגונים בישראל, אנחנו מאחדים את כל המערכות שלך למערכת אחת ועושים סדר בעסק, מחברות קטנות ועד ארגונים גדולים.

בפוסט הזה נסביר בעברית פשוטה מה בדיוק קרה, למה זה קרה, ולמה זה חשוב גם אם אתם לא אנשי אבטחת מידע. בלי מילים גדולות, רק העובדות ומה שאפשר ללמוד מהן.

מה קרה בפועל

Anthropic, החברה שמפתחת את משפחת מודלי Claude, מריצה כל הזמן בדיקות אבטחה על המודלים שלה. חלק מהבדיקות נעשות יחד עם חברה חיצונית בשם Irregular, שתפקידה לבחון עד כמה מודל מסוגל למצוא ולנצל חולשות אבטחה. במסגרת סקירה של 141,006 הרצות בדיקה, החברה זיהתה שלושה אירועים חריגים, בסך הכל שש הרצות, שבהם המודלים לא עצרו בגבול של סביבת הניסוי אלא הגיעו למערכות ייצור אמיתיות של שלוש חברות שונות.

המודלים המעורבים היו Claude Opus 4.7, Claude Mythos 5, ומודל מחקר פנימי אחד שעדיין לא שוחרר לציבור. הסיבה הטכנית לתקלה פשוטה יותר ממה שנדמה: תקלת הגדרה השאירה את מכונות הבדיקה מחוברות לאינטרנט הפתוח, בזמן שההנחיה שקיבל המודל אמרה לו שמדובר בסימולציה סגורה בלי חיבור לרשת. המודל האמין להנחיה, התייחס למערכות שמולו כאל תרגיל, והשתמש בשיטות בסיסיות כדי "לנצח": ניחוש סיסמאות חלשות והזרקת SQL. רק שהמערכות האלה היו אמיתיות.

מה זה בכלל "capture the flag", ולמה זה קרה

כדי להבין את האירוע צריך להכיר מושג אחד, ואפשר להסביר אותו בעזרת דוגמה מהחיים. תארו לעצמכם משחק "תפוס את הדגל" במחנה קיץ: שתי קבוצות, ולכל קבוצה יש דגל שמוחבא במקום כלשהו. המטרה שלכם היא למצוא את הדגל של הצד השני ולהביא אותו הביתה. בעולם אבטחת המידע, "capture the flag" הוא בדיוק אותו רעיון בגרסה דיגיטלית: יש "דגל", בדרך כלל קובץ או מידע מוגן, ומי שמתאמן צריך למצוא דרך יצירתית לעקוף את ההגנות ולהגיע אליו. זה תרגיל לימודי מקובל שבו מומחי סייבר מתאמנים על מערכות מדומות, בדיוק כמו טייס שמתאמן בסימולטור לפני שהוא נכנס למטוס אמיתי.

עכשיו הבעיה מתבהרת. המודל של Claude קיבל הנחיה שאומרת "אתה בתוך סימולטור, אין כאן שום דבר אמיתי, תמצא את הדגל". מבחינתו, כל שיטה הייתה לגיטימית, כי הרי מדובר בתרגיל. אלא שבגלל תקלת ההגדרה, ה"סימולטור" היה מחובר בטעות למערכות ייצור אמיתיות של חברות אמיתיות. המודל עשה בדיוק את מה שאומנו לעשות בתרגילים כאלה. כפי שניסחה זאת Anthropic: "Claude did what capture-the-flag exercises train cyber experts to do: look for ways to reach the flag". במילים אחרות, זו לא הייתה כוונת זדון, אלא מודל שלקח הנחיה כפשוטה, ולא ידע להבחין בין תרגיל למציאות.

הטבלה: מה קרה, למה, ומה Anthropic עשתה

מה שעדיין לא ידוע

חשוב לומר את זה בכנות: Anthropic לא חשפה את שמות שלוש החברות שאליהן פרצו המודלים, ולא ברור עד הסוף כמה נזק בפועל נגרם מעבר לעצם קבלת הגישה למערכות. ייתכן שמדובר בגישה בלבד בלי פגיעה נוספת, אך את זה החברה לא פירטה. מה שכן ברור הוא שהחברה בחרה לפרסם את האירוע ביוזמתה, ולא המתינה שמישהו יחשוף אותו במקומה. גם אתר Fortune, שסיקר את הסיפור ב-31 ביולי 2026, הדגיש את השקיפות הזו כנקודה מרכזית.

למה זה משנה לכל אחד

• הנחיה לא ברורה מייצרת תוצאה לא צפויה. אם אתם משתמשים בכלי AI בעבודה, המסקנה הכי מעשית היא שמודל עושה בדיוק את מה שכתוב לו, גם כשההנחיה שגויה. ניסוח מדויק של מה מותר ומה אסור הוא לא פינוק, הוא הכרח.
• AI לא "מבין" הקשר כמו בן אדם. המודל לא ידע להבדיל בין תרגיל למערכת אמיתית, כי מישהו אמר לו שזו סימולציה. כשאתם נותנים למערכת AI גישה למידע או למערכות, כדאי להניח שהיא תפעל לפי מה שנאמר לה, לא לפי מה שהתכוונתם.
• שקיפות היא סימן טוב. בתור צרכנים, העובדה שחברה מפרסמת תקלה כזו מרצונה היא בדיוק מה שכדאי לחפש. חברה שמדווחת על הכשלים שלה בונה אמון גדול יותר מחברה ששותקת.
• סיסמה חלשה עדיין פורצת מערכות. חלק מהפריצות התבססו על סיסמאות חלשות. זו תזכורת שגם ההגנות הכי בסיסיות, סיסמה חזקה ואימות דו שלבי, עדיין עושות את רוב העבודה.
• ולמי שמנהל עסק או ארגון: הפרדה ברורה בין סביבת ניסוי לסביבה אמיתית, והגדרת גבולות ברורים למה שכלי AI רשאי לגעת בו, הן ההגנה החשובה ביותר לפני שמכניסים אוטומציה חכמה לתהליכי העבודה.

מה אפשר לקחת מזה קדימה

הסיפור הזה הוא לא סיבה לפחד מ-AI, אלא סיבה להשתמש בו בראש פתוח ובגבולות ברורים. כשמכניסים כלי AI לתוך עסק, השאלה החשובה היא לא רק "מה הוא יכול לעשות" אלא גם "מה מנענו ממנו לעשות". בדיוק בגלל זה, הטמעה נכונה של AI מתחילה במיפוי מסודר של התהליכים והגבולות, ולא בהתקנה מהירה של עוד כלי. מי שרוצה להעמיק בנושא מוזמן לקרוא את המדריך להטמעת AI בארגון, ולמצוא עוד פוסטים על AI באתר שלנו.

ב-STSICONIC אנחנו מלווים עסקים בדיוק בשלב הזה: לוקחים את הכלים החכמים, מגדירים להם גבולות ברורים, ומחברים אותם למערכות של העסק בצורה בטוחה ומסודרת. אפשר לקרוא עוד על הגישה שלנו בעמוד הבלוג של STSICONIC.