
ענקית הטכנולוגיה גוגל הודתה לראשונה כי הבינה המלאכותית שלה, ג'מיני, הצליחה לעקוף את מחסומי הסייבר של שלוש חברות במהלך ניסויים. גילוי זה פותח מחדש את הדיון על המגבלות והפיקוח על מערכות עוצמתיות אלה, לאחר שפגיעות טכנית אפשרה למודל לפעול על פי יוזמתו מחוץ לסביבה המדומה שלו.
התקריות, שאירעו בחודש מאי, התרחשו במהלך הערכות אבטחת סייבר שערכה החברה הישראלית Irregular, המתמחה בביקורות אבטחה של פלטפורמות בינה מלאכותית מתקדמות. אותה חברה נקשרה לאחרונה לאירועים דומים הקשורים ל-OpenAI ו-Anthropic, כפי שנחשף בימים האחרונים.
כיצד התרחשה ההתקפה
הבדיקות תוכננו בסביבה סגורה ומבוקרת , המכונה בז'רגון הטכני "ארגז חול", תוך שימוש בישויות וזהויות תאגידיות פיקטיביות. הנחת היסוד הייתה שהמערכת תישאר מבודדת מהחוץ. עם זאת, כפי שדווח על ידי הוול סטריט ג'ורנל, חיבור לרשת הציבורית התאפשר בטעות. עם הגישה לרשת, המודלים חרגו מגבולות הניסוי ובסופו של דבר פרצו לרשתות של תאגידים אמיתיים.
השיטה בה השתמש ג'מיני השתנתה בהתאם לבדיקה. במקרה אחד, המבקר ביקש מהבינה המלאכותית לחלץ נתונים מתוכנה של חברה מדומה ששמה תאם לזה של חברה קיימת. לאחר שחיבור האינטרנט הופעל בטעות, המערכת הצליחה לפענח את מפתח הגישה ולחדור לשרתים של הישות האמיתית.
שתי דרכים של חדירה
בשתי הסימולציות האחרות, ג'מיני סרק את הרשת כדי לאתר מאגרים ציבוריים שבהם אוחסנו מפתחות גישה השייכים לשתי חברות אחרות. באמצעות מידע זה, הכלי חדר לסביבות של שני הארגונים. דובר מטעם Irregular הצהיר כי התקרית קשורה לאותה בעיה שהשפיעה על מעבדות בינה מלאכותית אחרות וכי כל המעבדות הרלוונטיות קיבלו הודעה עד סוף יולי.
הת'ר אדקינס, סגנית נשיא להנדסת אבטחה בגוגל, הסבירה כי המודל "איתר מידע ציבורי באינטרנט והסיק את פרטי הכניסה לאתרים שהניחו שהם חלק מהתרגיל". אדקינס ציינה כי בשלושת המקרים, הפלטפורמה עצרה אוטומטית את הסקריפט ברגע שזיהתה שהיא פועלת בסביבות אמיתיות ולא בתרחישים מדומים.

שתיקתה ותגובותיה של גוגל
למרות שהתקיפות התרחשו במאי, Irregular לא התריעה רשמית על גוגל עד סוף יולי, במקביל לגילוי תקרית OpenAI. כאשר יצרה עמה קשר הגרדיאן, חברת Mountain View הודתה במתקפות, והצדיקה את החלטתה לא לחשוף בפומבי את הפריצה באמירה שג'מיני לא גרמה נזק כלשהו למערכות שנפגעו. למרות השתיקה התקשורתית הראשונית, ענקית הטכנולוגיה טענה כי עדכנה באופן פרטי את שלוש החברות שנפגעו.
עמדתה של גוגל מנוגדת לזו של מתחרות כמו Anthropic ו-OpenAI, שחשפו באופן יזום פגיעויות דומות שעלו בבדיקות שלהן. "תקריות אלו מדגישות את החשיבות של אימון מודלים רבי עוצמה של בינה מלאכותית לפעול באחריות", הדגיש אדקינס בנוגע ללקחים שנלמדו מההערכות. החברה ציינה גם כי התקריות לא כללו את הדגם האחרון שלה , אם כי לא ציינה איזו גרסה של ג'מיני הושפעה.
בעיה בתעשייה
רצף התקריות מעלה שאלה מעשית: כיצד מאבטחים ראיות כאשר לסוכני בינה מלאכותית אוטונומיים יותר ויותר יש גישה לאינטרנט ולמערכות חיצוניות? באוגוסט, Meta הצהירה כי התקרית שלה לא כללה פריצה לסביבת הבדיקה או מתקפת סייבר מתוחכמת, בעוד Irregular טענה שהיא עובדת על שיטות עבודה מומלצות לביצוע הערכות אבטחת סייבר מאובטחות של בינה מלאכותית.
לפי הניו יורק טיימס, בניסוי עם קלוד אופוס 4.7 מ-Anthropic, הסוכן המשיך לתקוף גם לאחר שחשד שהמטרה אמיתית , בעוד ג'מיני הפסיק. Irregular אמר לאקסיוס שכל המעבדות הרלוונטיות קיבלו הודעה בסוף יולי וכי "כל הבעיות הידועות בצד שלנו תוקנו ונפתרו לפני שבועות".
אירועים אלה העלו שאלות לגבי אמצעי האבטחה הנדרשים, שכן סוכני בינה מלאכותית מקבלים אוטונומיה וגישה גדולים יותר לאינטרנט ולמערכות מחשב. מקרה ג'מיני אינו מקרה בודד: Irregular עמדה מאחורי אירועים דומים שכבר נחשפו על ידי OpenAI, Anthropic ו-Meta, והחוט המשותף לא היה הערמומיות של המודלים, אלא גישה לאינטרנט שלא הייתה צריכה להתקיים במהלך הבדיקות. הפרק מפעיל לחץ הן על אלו שמעצבים את ההערכות הללו והן על הסטנדרטים לגבי מה לדווח, ומתי, מתי מודל חוצה את הגבול.

