הרחבת ה רחפנים אוטונומיים עם בינה מלאכותית זה משנה לחלוטין את נוף הביטחון, המעקב ואפילו הלוחמה המודרנית. מה שנראה כמו מדע בדיוני לפני כמה שנים הפך כעת לשגרה: כלי טיס בלתי מאוישים המסוגלים לעקוב אחר אנשים, לסייר בגבולות או לתעד כל תנועה בפירוט, כמעט ללא התערבות אנושית.
בהקשר הזה, שכה מלא בטכנולוגיה מתקדמת, זה כמעט סוריאליסטי לגלות ש... חפץ רגיל כמו מטריה זה יכול לאתגר חלק מהמערכות המתקדמות הללו. קבוצת חוקרים מאוניברסיטת קליפורניה, אירווין (UC Irvine) הוכיחה כי עם דפוס ויזואלי נכון, מטריה פשוטה יכולה "להערים", למשוך ואף לנטרל דגמים מסוימים של רחפנים מסחריים המשתמשים במעקב אוטונומי המבוסס על ראייה ממוחשבת.
עלייתם של רחפנים אוטונומיים ומדוע הם מעוררים כל כך הרבה דאגה
בשנים האחרונות השימוש ב- כלי טיס בלתי מאוישים ברחבי העולם. אנחנו כבר לא מדברים רק על רחפנים קטנים לצילום סרטונים מרהיבים, אלא על פלטפורמות רציניות הרבה יותר המשמשות למעקב עירוני, ניטור תשתיות קריטיות, בקרת גבולות או תמיכה בפעולות משטרה וצבא.
בתרחישים כגון ה- מלחמה בין רוסיה לאוקראינה התברר עד כמה חיוניים הפכו רחפנים. ישנם דגמי קמיקזה, מכשירים המתמחים במעקב אחר מטרות, מערכות המחוברות באמצעות סיבים אופטיים כדי להבטיח תקשורת יציבה, ויותר ויותר מכשירים המשלבים בינה מלאכותית כדי לקבל החלטות בכוחות עצמם באמצע טיסה.
אוטונומיה זו מבוססת על שימוש ב חיישנים אופטיים מתקדמים ו אלגוריתמי ראייה ממוחשבת תכונות אלו מאפשרות לרחפן לזהות אנשים או חפצים, לעקוב אחריהם ולהגיב לתנועותיהם מבלי שהטייס יצטרך לתקן את המסלול ללא הרף. במוצרי צריכה, אלו הן הפונקציות המשווקות כפונקציות "מסלול אקטיבי" או "מסלול דינמי".
הבעיה היא שככל שהשימוש במערכות אלו מתרחב עבור פעולות מעקב, סיור ואבטחהקיים גם סיכון גובר לשימוש לרעה: הטרדה, ריגול, פגיעה בפרטיות או ניטור סמוי במרחבים שבהם אנשים כלל אינם מודעים לכך שהם נמצאים במעקב.
חוקרים ומומחי אבטחת סייבר הזהירו זה מכבר כי הגנה על מערכות אלו אינה יכולה להיות מוגבלת לרכיבים אלקטרוניים (קשרי רדיו, תקשורת מוצפנת, חומות אש). תפיסה חזותית ואלגוריתמים של בינה מלאכותית אלו שמקבלים החלטות על סמך מה שהם "רואים" יכולים גם הם להפוך לנקודת תורפה, וכאן בדיוק נכנס לתמונה ניסוי המטריה המוזר.
פרויקט FlyTrap: כאשר מטריה הופכת לנשק הגנתי
צוות של מומחי אבטחה וראייה ממוחשבת מ... אוניברסיטת קליפורניה, אירווין הם החליטו לא ללכת בדרך הרגילה של תכנון רחפנים מתוחכמים והתקפיים יותר ויותר. במקום זאת, הם הציגו שאלה אחרת: האם זה אפשרי הגנה עצמית מפני רחפנים אוטונומיים באמצעות חפצים פשוטים, מבלי להזדקק לשבבי תדרים, פריצה או ציוד צבאי יקר?
מהרעיון הזה נולדה FlyTrap, שיטת תקיפה פיזית נגד אלגוריתמי מעקב אוטונומיים זה מסתמך על תבנית גרפית שתוכננה במיוחד כדי לבלבל את מערכת הראייה של הרחפן. במקום להשבית את המכשיר באופן אלקטרוני, המטרה היא לתמרן את מה שהוא "חושב" שקורה מול המצלמה שלו.
החוקרים התמקדו בניתוח שלהם על רחפנים המשתמשים מעקב אחר מטרות המבוסס על ראייה ממוחשבתאלו מכשירים המזהים ועוקבים אחר אדם או אובייקט על סמך מידע חזותי שנלכד על ידי המצלמות שלהם. בין הדגמים שנותחו ישנם כמה דגמים פופולריים מאוד בשוק, כגון DJI Mini 4 Pro, DJI Neo ו-HoverAir X1.
לאחר לימוד האופן שבו מערכות אלו מפרשות את תנועת המטרה, גילה הצוות חולשה מרכזית: בתנאים מסוימים, ניתן לתמרן את האלגוריתם אם מוצגת לו... דפוס ויזואלי מעוצב בקפידה שמשנה את תפיסת המרחק וכיוון התנועה שלהם.
דוגמה זו, שכונתה FlyTrap, הודפסה על פני מטרייה רגילה. התוצאה הייתה נשק הגנתי זול ונגיש באופן מפתיע נגד רחפנים אוטונומיים, שעל הנייר אמור להיות קשה מאוד להערים עליו ללא אמצעים טכניים מתוחכמים.
איך בדיוק עובד הטריק הוויזואלי של המטריה?
הליבה של FlyTrap טמונה באופן שבו האלגוריתמים של מעקב אוטונומי המבוסס על רשתות עצביות הן מפרשות את מה שמצלמות הרחפן לוכדות. מערכות אלו מנתחות את התמונה פריים אחר פריים ומחשבות כיצד המטרה נעה על המסך כדי להחליט לאן על המטוס לנוע ובאיזו מהירות.
העיצוב הגרפי המודפס על המטריה גורם לרחפן "לקרוא" סיטואציה שאינה תואמת את המציאות: התבנית מעוצבת כך שמערכת הראייה תסיק שהמטרה היא מתרחק מהרחפן, כשלמעשה, האדם המחזיק את המטריה נמצא כמעט עדיין באותו מקום.
לנוכח פרשנות מוטעית זו, תוכנת המעקב עושה את מה שהיא מתוכנתת לעשות: היא מנסה לצמצם את המרחק עד שהוא מגיע ליעדו, תוך שמירה על טווח המעקב האופטימלי. במילים אחרות, הרחפן מתקרב בהדרגה, ומתקן את מסלולו באופן רציף בניסיון "לפצות" על המרחק הנתפס הזה.
התנהגות זו יוצרת תחושה אמיתית התקפת משיכה מרחוקבמקום לבלבל את הרחפן ולגרום לו לאבד את עקבותיו, המטריה דווקא מפתה אותו להתקרב עוד ועוד. המכשיר יכול להתקרב כל כך לאדם המחזיק את המטריה עד שהוא הופך למטרה קלה ללכידה ברשת או אפילו להתנגשות מבוקרת.
היתרון הגדול של גישה זו הוא שהיא אינה דורשת הפרעות אלקטרומגנטיות או גישה לתוכנה של הרחפןאין צורך לפרוץ אותו, ליירט את אות הבקרה או להשתמש בציוד צבאי. כל מה שצריך זה מטריה עם העיצוב הנכון כדי לנצל חולשה ספציפית מאוד באלגוריתמים של ראייה ממוחשבת.
ניסויים עם רחפנים מסחריים ותוצאות מחקר
כדי לוודא שהרעיון היה יותר מסתם קוריוז מעבדתי, צוות אוניברסיטת קליפורניה באירוויין ביצע ניסויים שיטתיים עם רחפנים מסחריים המשלבות פונקציות מעקב אוטונומיות הנמצאות בשימוש נרחב כיום.
החוקרים בחרו שלושה מודלים מייצגים משוק הצרכנים: DJI Mini 4 Pro, DJI ניאו ו - HoverAir X1כולם כוללים מצבי "מעקב פעיל" או "מעקב דינמי" שנועדו לאפשר למכשיר לעקוב אחר אדם מבלי שהוא יצטרך להפעיל את השלט הרחוק כל הזמן.
בבדיקות, אדם עמד בשטח פתוח עם מטריית FlyTrap פתוחה, בעוד הרחפן הפעיל מצב מעקב אוטומטי בנושא זה. לאחר מכן, המערכת האוטונומית הורשה לבצע את עבודתה, ללא תיקונים ידניים, תוך התבוננות כיצד היא מגיבה ל... דפוס גרפי של מטריה.
התוצאות היו חד משמעיות: בכל שלושת דגמי הרחפנים שנותחו, ה- שיטת FlyTrap משכה בהצלחה את המטוס למרחקים קצרים מאוד, מספיק כדי ללכוד אותו פיזית ברשת או לגרום לו להתרסק לתוך מבנה או מכשיר אחר במידת הצורך.
החוקרים חזרו על הניסויים תחת תנאי תאורה ומזג אוויר שונים, והשיגו שיעורי הצלחה גבוהים מאוד. על פי נתונים שהוצגו בפורומים ביטחוניים כמו כנס NDSS, המערכת שמרה על יעילותה גם עם שינויים בתאורת הסביבה ובתאורה הסביבתית, מה שמחזק את כדאיותו המעשית.
כחלק מתהליך הגילוי האחראי, הצוות תיעד את הפגיעות של ה- יצרני הרחפנים המעורבים, כולל DJI ו-HoverAir, לפני פרסום כל הפרטים הטכניים. המטרה הייתה לתת לחברות זמן לבחון פתרונות פוטנציאליים או עדכוני קושחה שיחזקו את עמידות האלגוריתמים שלהן כנגד סוגים אלה של התקפות פיזיות.
סיכונים ומקרי שימוש: מבטיחות הציבור ועד הטרדה
מעבר לאנקדוטה של היכולת "לצוד" רחפן בעזרת מטריה, מחקר FlyTrap מביא לשולחן השלכות ביטחוניות חמורות והפריסה המסיבית של מערכות אוטונומיות. פרופסור אלפרד צ'ן, מחבר שותף של המחקר ופרופסור למדעי המחשב באוניברסיטת קליפורניה אירווין, מדגיש כי מעקב אוטומטי הוא חרב פיפיות.
מצד אחד, פונקציות אלו שימושיות מאוד עבור פעולות בטיחות הציבור, סיורי גבול או מעקב אחר תשתיותהם מאפשרים לרחפן לנטר שטחים גדולים או לעקוב אחר חשוד ללא צורך בטיסה רציפה, ובכך לחסוך במשאבים ולשפר את יכולת התגובה של הרשויות.
מצד שני, ניתן להשתמש באותה טכנולוגיה למטרות פחות אצילות בהרבה: הטרדה אישית, ריגול, פגיעה בפרטיות במרחבים ציבוריים או פרטיים, מעקב בלתי מורשה אחר אנשים וכו'. כאשר כל אחד יכול לקנות רחפן עם מעקב אוטונומי ולהשתמש בו למטרות מפוקפקות, האיזון בין בטיחות לסיכון הופך למסובך.
שאויואן שיה, המחבר הראשי של המחקר וגם מדען מחשבים, מדגיש את הקלות שבה ניתן לייצר מטריה פשוטה לשלוט בהתנהגות של רחפנים אוטונומיים מסוימים זה מאלץ אותנו לחשוב מחדש על השימוש במכשירים אלה בסביבות רגישות. אם הם כל כך קלים לתמרון פיזי, אולי יש להגביל או להסדיר את פריסתם בתרחישים שבהם פרצת אבטחה עלולה להיות בעלת השלכות חמורות.
יתר על כן, ההתקפה לא יכולה לשמש רק ל לנטרל רחפנים עוינים או פולשנייםאלא גם כדי להתחמק ממעקב לגיטימי. קבוצה מאורגנת יכולה להשתמש בווריאציות של דפוס FlyTrap כדי להסתיר את עצמה מפני רחפנים של משטרה או צבא, ליצור אזורי צל או לגרום למטוסים להתקרב יותר מדי ולהפוך לפגיעים.
מתקפה פיזית שפותחת מחדש את הדיון על אבטחת סייבר באמצעות רחפנים
אחד ההיבטים הבולטים ביותר של מקרה FlyTrap הוא שהוא כרוך ב... התקפה פיזית נגד אלגוריתמי תפיסהזו לא חדירה דיגיטלית. אין פריצה לתוכנות קושחה, אין גישה מרחוק למערכת ואין שיבוש תקשורת רדיו. הכל קורה בעולם האמיתי, מול מצלמת הרחפן.
סוגי פגיעויות אלה, המכונות התקפות פיזיות עוינות, מדגימים כי אבטחת מערכות בינה מלאכותית זה חורג הרבה מעבר לתוכנות בקרה ורשתות נתונים. אם האלגוריתם שמפרש את המציאות יכול להיות שולל על ידי דפוסים חזותיים בסביבה, החוליה החלשה יכולה להיות משהו טריוויאלי כמו דפוס מטריה.
במקרה של FlyTrap, התבנית תוכננה במיוחד כדי לנצל ליקויים באופן שבו רשתות עצביות מחשבות תנועה והמרחק למטרה. במקום להסתיר את האדם, התפיסה מנוהלת כך שהרחפן מאמין שהאדם מתרחק.
גישה זו מדגישה כי אמצעי אבטחה סטנדרטיים - הצפנת תקשורת, אימות חזק, בקרות גישה - אינם מספיקים כדי להגן על מערכת UAS עם פונקציות אוטונומיותחיוני גם לחזק את חוסנם של אלגוריתמי ראייה ממוחשבת כנגד דפוסים חזותיים זדוניים.
ככל שהשימוש ברחפנים המופעלים על ידי בינה מלאכותית הופך נפוץ יותר ב סביבות עירוניות, תשתיות קריטיות ופעולות משטרההתעלמות מסוג זה של סיכונים יכולה לפתוח דלת לתקריות חמורות. לא מדובר רק בהפלת רחפן מסחרי, אלא בהפעלת אסטרטגיות דומות בהקשרים של רגישות אסטרטגית גבוהה יותר.
יישומים הגנתיים ומגבלות של שיטת המטריה
מנקודת מבטו של הציבור, התגלית באוניברסיטת קליפורניה באירווין מציעה גם אפשרות כלי הגנה זולאדם שעוקב אחריו רחפן במצב מעקב אוטונומי יכול, תיאורטית, להשתמש במטריה עם דפוס FlyTrap כדי למשוך את המכשיר ולנטרל אותו, תמיד במסגרת המגבלות החוקיות של מדינתו.
אפשרות זו פותחת את הדיון על הזכות להגנה עצמית מפני מעקב אוויריבמיוחד במקרים של הטרדה, ריגול או חדירה בלתי חוקית לחיי הפרט. לנוכח טכנולוגיות מעקב שנראות בלתי מושגות עבור האזרח הממוצע, חפץ פשוט כמו מטריה הופך למעין אמצעי נגד נגיש.
עם זאת, צוות המחקר עצמו מזהיר כי FlyTrap אינו פתרון קסם שמתאים לכל רחפןיעילותו תלויה במכשיר המשתמש באלגוריתמי מעקב מסוימים מבוססי ראייה ממוחשבת ובמצב המעקב האוטונומי המופעל.
יתר על כן, שכפול התבנית ללא הבנה מעמיקה של האופן שבו רשתות עצביות מעבדות תמונות עשוי לא להניב את אותה התוצאה. הדפסת עיצוב מושך את העין ולצפות שהוא יעבוד אינה מספיקה: הצלחת השיטה טמונה ב... אופטימיזציה מתמטית וניסויית של התבנית הגרפית.
יש לקחת בחשבון גם את המסגרת המשפטית: ירי או לכידה של רחפן עשויים להיות מוסדרים או אף אסורים, בהתאם למדינה ולסוג הפעולה שהמכשיר מבצע. לפני שימוש בכל טכניקת ניטרול, פשוטה ככל שתראה, חיוני... להבין את תקנות האוויר והפרטיות נוֹכְחִי.
מה שברור הוא שסוג זה של מחקר שימושי עבור הפעלת לחץ על יצרנים ורגולטורים כשמדובר בשיפור תקני הבטיחות, הן כדי למנוע ניצול לרעה של רחפנים והן כדי למנוע מניפולציה קלה כל כך באמצעות אובייקט פיזי.
לסיכום, מקרה FlyTrap מדגים כי התחכום הטכנולוגי של רחפנים אוטונומיים אינו הופך אותם לבלתי פגיעים. מטריה עם הדוגמה הנכונהבשילוב עם הבנה טובה של האופן שבו הבינה המלאכותית המובנית "רואה" את העולם, זה יכול להפוך הליכה פשוטה בגשם לתרחיש הגרוע ביותר עבור רחפן שחשב שהכל תחת שליטה.
