הבינה המלאכותית החדשה של מטא נגד הונאות תגן על פייסבוק, וואטסאפ ומסנג'ר

העלייה המתמדת של הונאות דיגיטליות והונאה פשעי סייבר ברשתות חברתיות ובאפליקציות מסרים אילצו חברות טכנולוגיה גדולות לשפר משמעותית את אמצעי האבטחה שלהן. פושעי סייבר מנסים לגנוב חשבונות, פרטי בנק או מתחזים למותגים ידועים באמצעות הודעות, פרסומות ואנשי קשר שנראים במבט ראשון לא מזיקים.

בהקשר הזה, meta מחזקת את אסטרטגיית האבטחה שלה עם דור חדש של בינה מלאכותית נגד הונאות מיושמת בפייסבוק, וואטסאפ ומסנג'רהגישה ברורה: להזהיר את המשתמש לפני שהוא נופל למלכודת, למזער את החשיפה לתוכן זדוני, ולהקשות ככל האפשר על נוכלים הפועלים בפלטפורמות שלהם.

בינה מלאכותית נגד הונאות כדי להישאר צעד אחד קדימה מול הונאות במטא

מטא פורסת קבוצה של תכונות המשלבות בינה מלאכותית על המכשיר עצמו וניתוח על שרתים מרוחקיםארכיטקטורה זו מאפשרת, מצד אחד, לכבד הצפנה מקצה לקצה בשירותים כמו וואטסאפ ומסנג'ר, ומצד שני, להציע שכבה נוספת של זיהוי מתקדם כאשר המשתמש מחליט לשלוח תוכן חשוד מסוים לבדיקה.

הכלים מסתמכים על מודלים המסוגלים לנתח טקסט, תמונות, קישורים ודפוסי התנהגותהמטרה היא לזהות כל דבר, החל ממודעות הונאה המשתמשות בפניהם של ידוענים ללא רשות, ועד הודעות "תמיכה טכנית" המנסות להשיג קודי אימות, וכן בקשות חברות מחשבונות מזויפים המבקשות לזכות באמון הקורבן.

לפי נתונים ששיתפה החברה, הבעיה אינה זניחה: מטא טוענת שיש לה שיבשו מיליוני חשבונות ומודעות הקשורים לרשתות הונאה מאורגנות בפייסבוק, אינסטגרם ו-WhatsApp, שבמקרים מסוימים מקושרים למרכזי הונאה אמיתיים הפרוסים על פני מספר מדינות.

מתקפה טכנולוגית זו מסתמכת גם על צוותי בדיקה אנושיים העובדים לצד בינה מלאכותית, כך שהמודלים מאומנים עם דוגמאות אמיתיות ומרווח הטעות בסיווג תוכן מפוקפק מצטמצם.

וואטסאפ: חומת אש נגד חטיפת חשבונות וקבוצות חשודות

במקרה של וואטסאפהבינה המלאכותית של מטה נגד הונאות מתמקדת בכמה וקטורי תקיפה נפוצים במיוחד: חטיפת חשבון באמצעות קישור מכשירים, הונאות תמיכה טכנית והטעיות בקבוצות לא ידועות.

אחת התכונות החדשות המרכזיות היא מערכת של מתריע כאשר מישהו מנסה לקשר את החשבון למכשיר לא מזוהה.אם מתגלה בקשה חשודה, האפליקציה מציגה מידע כגון המיקום שממנו הגיע הניסיון, יחד עם אזהרה מפורשת שמדובר בתרמית. זה מאפשר למשתמש לעצור את התהליך לפני שצד שלישי יקבל גישה מלאה לשיחות שלו.

בינה מלאכותית מתערבת גם במצבים של שיתוף מסך במהלך שיחות וידאו עם אנשי קשר לא ידועיםכאשר מזוהה דפוס סיכון זה, המערכת מפיקה אזהרה אוטומטית, מכיוון שהרבה הונאות "תמיכה טכנית" מסתמכות על צפייה במסך המשתמש בזמן אמת כדי ללכוד פרטי גישה בנקאיים, קודים חד פעמיים או מידע רגיש במיוחד אחר.

יתר על כן, קבוצות שמשתמשים מצטרפים אליהן מבלי לדעת הרבה על חבריהן מציגות כעת לוח בטיחות מונעתפאנל זה מציע פרטים על הקבוצה, טיפים לגילוי ניסיונות הונאה, ואפשרות לעזוב ללא אינטראקציה, ולהשתיק התראות עד שהמשתמש מאשר שהוא רוצה להישאר.

גם מטא בודקת התראות הקשריות בעת התחלת צ'אטים עם מספרים שאינם בפנקס הכתובותאם המערכת מזהה סימנים אופייניים של פישינג, השקעות מזויפות או בקשות לא ברורות לכסף, היא ממליצה לנקוט משנה זהירות ומציעה אפשרות לחסום או לדווח בכמה נגיעות.

פייסבוק: בדיקה מדוקדקת של בקשות חברות ודפי "תמיכה" מזויפים

En פייסבוקלבינה מלאכותית נגד הונאות יש שתי חזיתות עיקריות: בקשות חברות חשודות ואתרי אינטרנט המתחזים למחלקות שירות לקוחות או למותגים מבוססים.

עם קבלת בקשת חברות, הפלטפורמה עשויה להציג אזהרה אם היא מזהה גורמי סיכון: חשבונות עם מעט מאוד חברים משותפים, פרופילים שנוצרו לאחרונה, מוצא גיאוגרפי שאינו תואם את הרשת של המשתמש, או התנהגויות התואמות דפוסים הקשורים לרשתות בוטים. בדרך זו, המשתמש יכול להעריך טוב יותר האם לקבל, להתעלם או לחסום את הבקשה לפני שפותחים דלת בפני נוכל פוטנציאלי.

מוקד רלוונטי נוסף הוא דפי תמיכה וחשבונות מזויפים שמנסים להונות משתמשים המחפשים עזרה בשחזור חשבון או בפתרון בעיה. מטא טוענת שנקטה פעולה נגד עשרות אלפי אתרים אלה, שבדרך כלל ביקשו פרטי כניסה, מסמכי זהות או תשלומים כדי "לזרז" תהליכי שחזור לכאורה.

החברה גם מחזקת את המנגנונים שלה עבור אימות מפרסמים וזיהוי פרסומות הונאהזה כולל את אלה המשתמשים בתמונות של ידוענים, אנשי עסקים או דמויות ציבוריות ללא רשות. הבינה המלאכותית משווה פנים ומזהה מניפולציות חוזרות ונשנות המשמשות להכשרת השקעות מזויפות, מבצעים לא קיימים או מוצרים שמעולם לא מגיעים.

נקודה זו רגישה במיוחד עבור חברות ויוצרי תוכן בספרד ובשאר אירופה, שם מודעות המשתמשות שימוש בתדמית של יזמים או דמויות מקומיות ידועות כדי למשוך קורבנותיצירת בלבול ונזק תדמיתי שקשה לתקן.

מסנג'ר: זיהוי הונאות הניתן להגדרה על ידי המשתמש

אפליקציית המסרים המקושרת לפייסבוק, Messenger, משלבת פונקציה ספציפית הנקראת "גילוי הונאה"אפשרות זו, הנגישה דרך הגדרות פרטיות ואבטחה, מנתחת שיחות שיזמו אנשי קשר לא ידועים ביתר פירוט. לאחר הפעלתה, תכונה זו מספקת ניתוח מעמיק יותר של השיחות.

בינה מלאכותית מתמקדת ב דפוסים אופייניים של הצעות מזויפותאלה כוללים: הצעות עבודה מרחוק הדורשות תשלומים מראש, השקעות עם תשואות מובטחות, הודעות דחופות המבקשות כסף, או ניסיונות התחזות לצוות התמיכה של חברות ידועות. אם היא מזהה משהו חריג, היא מציגה התראה המציינת את סוג הסיכון הקיים ומציעה חסימה או דיווח על השולח.

כאשר ניתנה לכך אישור מפורש על ידי המשתמש, ניתן לשלוח את ההודעות המסומנות על בסיס כל מקרה לגופו אל שרתי מטא לניתוח מעמיק יותר של בינה מלאכותיתשלב זה שובר זמנית את ההצפנה מקצה לקצה רק עבור תוכן ספציפי זה, החלטה שכל אדם חייב לשקול בהתאם לסבילות הסיכון שלו ולדאגות הפרטיות שלו.

במקביל, מסנג'ר שיפרה את מערכת הגנת קישוריםתכונת הגלישה הבטוחה, שכבר ניתחה כתובות URL במכשיר עצמו, מסתמכת כעת על שכבה נוספת הנקראת הגנה מתקדמת, המחוברת ל רשימות המתעדכנות באופן שוטף מאתרים מסוכנים. העיצוב נועד לחסום גישה לדפי פישינג או הורדות תוכנות זדוניות מבלי לחשוף את זהות המשתמש או את היסטוריית הגלישה המלאה.

עבור צוותי תמיכה, מכירות או שירות לקוחות המשתמשים ב-Messenger כערוץ הקבוע שלהם, שיפורים אלה מייצגים גם... מחסום נוסף מפני הונאות המכוונות למותג שלך כסביבה בטוחה יותר עבור המשתמשים איתם הם מקיימים אינטראקציה יומיומית.

הבינה המלאכותית שמתחת למכסה המנוע

תכונות האבטחה החדשות של מטה מסתמכות על ארכיטקטורה היברידית המשלבת שתי גישות משלימות. הראשונה היא ניתוח על המכשירזה עובד ישירות בטלפון הנייד או במחשב של המשתמש ומכבד הצפנה מקצה לקצה, מכיוון שאין צורך לשלוח תוכן לשרתים חיצוניים כדי לזהות דפוסי סיכון.

ניתוח מקומי זה מתמקד באותות כגון העובדה ש קבלת הודעות ממספרים שלא נשמרואלה כוללים ניסיונות לשתף את המסך עם זרים, שינויים פתאומיים בהתנהגות החשבון, או הופעת קישורים התואמים לדיווחי הונאה קודמים. על ידי פעולה במכשיר עצמו, נפח הנתונים הנשלחים כלפי חוץ מצטמצם, מה שמספק קו הגנה ראשון מיידי.

השכבה השנייה מופעלת כאשר המשתמש בוחר בכך שליחת תוכן לבדיקה באמצעות בינה מלאכותית בענןבמקרה זה, ההודעות או הפריטים המסומנים עוברים עיבוד על ידי המערכות של מטה, המשתמשות במודלים מורכבים יותר כדי להעריך האם מה שקורה מתאים לסוג ידוע של הונאה. אם הניתוח מסיק שקיים סיכון, הפלטפורמה מציגה הסברים לגבי ההונאה הפוטנציאלית וממליצה על פעולות ספציפיות.

החברה מדגישה כי בנוסף לבינה מלאכותית, ישנם צוותי ניהול אנושיים שבודקים מיליוני פריטי תוכן ביוםאלמנט אנושי זה הוא המאפשר, בין היתר, ליטוש מודלים, ניהול המקרים העדינים ביותר ופירוק קמפיינים מתואמים בקנה מידה גדול, החורגים ממסרים בודדים פשוטים.

כל המנגנון הזה משלים הסכמים עם כוחות הביטחון וגורמים אחרים במגזר הטכנולוגיה, על מנת לשתף מודיעין על דומיינים זדוניים, רשתות חשבונות מזויפים וטקטיקות מתפתחות בהן משתמשים ארגוני פשע.

סוגי הונאות עיקריים שהבינה המלאכותית של מטא מנסה לעצור

פלטפורמות מטא הן קרקע פורייה עבור מגוון רחב של הונאות דיגיטליותהכלים החדשים נועדו לזהות ולעצור, בין היתר, את סוגי ההונאות הנפוצות הבאות המכוונות למשתמשים בספרד ובאירופה:

• הונאות תמיכה טכנית מזויפות: אנשים שמתחזים לשירותי תמיכה בנקאיים, מפעילים או אפילו למטא עצמה כדי לבקש קודי אימות, סיסמאות או גישה מרחוק למכשיר.
• הונאת שיתוף מסך: שיחות וידאו שבהן הנוכל משכנע את הקורבן להציג את המסך שלו כדי לאסוף פרטי בנק, הודעות SMS עם קודים חד-פעמיים או אישורים לשירותים כגון בנקאות מקוונת או שערי תשלום.
• הצעות עבודה ומלגות שאינן קיימות: פרסומות או הודעות פרטיות המבטיחות עבודות קלות או בשכר טוב בתמורה לתשלום ראשוני עבור "הליכים" או עבור מתן מידע אישי רגיש.
• תוכניות השקעה ומטבעות קריפטוגרפיים: קמפיינים המבטיחים תשואות מהירות ומובטחות, שלעתים קרובות נתמכים על ידי שימוש לא מורשה באנשים מפורסמים או אנשי עסקים ידועים.
• פישינג וקישורים זדוניים: כתובות URL המחקות פורטלים לגיטימיים - בנקים, פלטפורמות מסחר אלקטרוני, שירותים ציבוריים - במטרה לגנוב אישורים או להתקין תוכנות זדוניות במכשיר.

השילוב של ניטור אוטומטי, רשימות שחורות של אתרים מסוכנים ומנגנוני דיווח משתמשים מאפשר זאת המערכת מסתגלת במהירות לווריאציות חדשות של הונאות אלה.אשר לעתים קרובות עוברים מוטציה כדי להתחמק מגילוי קל יותר.

השפעה על משתמשים, חברות ומייסדים התלויים במטא

מעבר להגנה על המשתמש הממוצע, לתכונות החדשות נגד הונאות של בינה מלאכותית יש השפעות ישירות על עסקים המשתמשים בפייסבוק, וואטסאפ ומסנג'ר כתשתית הבסיסית שלהם למכירות, שירות לקוחות או בניית קהילה.

מצד אחד, אם חברה משתמשת ב-WhatsApp Business או ב-Messenger כדי לתקשר עם לקוחות, ההודעות שלהם עלולות להפעיל התראות אם המערכת תופסת אותן כחשודות.לדוגמה, על ידי הכללת קישורים רבים או בקשת מידע רגיש. זה מחייב סקירה של תסריטים, טון ותדירות כדי למזער תוצאות חיוביות שגויות ולשמור על אמון הקהל.

מצד שני, סטארט-אפים במגזרים רגישים במיוחד - כמו פינטק, בריאות דיגיטלית או שירותים משפטיים— הם מוצאים בכלים אלה סימן ברור: אבטחה מבוססת בינה מלאכותית אינה עוד "תוספת" וכעת היא חלק מהציפיות המינימליות בכל מוצר או שירות המטפל בנתונים קריטיים.

שיתוף הפעולה הגובר של מטה עם שחקני טכנולוגיה אחרים וגופים ציבוריים פותח גם הוא את הדלת ל הזדמנויות חדשות לחברות המתמחות באבטחת סייבר, אשר יכולות לשלב את הפתרונות שלהן עם מערכות אקולוגיות לגילוי איומים של פלטפורמות גדולות או לספק שירותי ייעוץ לחברות קטנות יותר.

בסופו של דבר, יעילותם של אמצעים אלה תהיה תלויה הן באימוץ שיטות עבודה מומלצות על ידי משתמשים והן בארגונים: הפעלת תכונות זמינות נגד הונאה, עדכון אפליקציות, זהירות מהודעות לא רצויות ודיווח על כל התנהגות חשודה למערכות זיהוי עדכונים.

עם יישום החדש שלה בינה מלאכותית נגד הונאות בפייסבוק, וואטסאפ ומסנג'רמטא עושה צעד חשוב לקראת סביבה דיגיטלית שהיא קצת יותר קשה עבור נוכלים וקצת יותר בטוחה עבור אלו המשתמשים בשירותיה מדי יום, החל ממשתמשים פרטיים ועד לחברות המסתמכות על פלטפורמות אלו עבור חלק מהותי מפעילותן.