הגעתו של האפיפיור ליאו ה-14 לספרד עוררה סערה חורגת הרבה מעבר לרוחניות גרידא. במקביל לשהותו, הוותיקן הביא לשולחן... האנציקליקה הראשונה שלו בשם Magnifica humanitasמסמך זה שואף להתעמק בסוגיה הקריטית של האופן שבו בינה מלאכותית מעצבת את החברה שלנו. טקסט זה, הרחק מלהיות מדריך טכני מייגע, מציג את עצמו כמניפסט חברתי אמיתי, המעדכן את האתגרים שהציבה המהפכה התעשייתית ומעביר אותם לעידן האלגוריתמים והנתונים הגדולים.
המהומה מובנת, שכן האפיפיור לא חסך במילים באמירתו כי טכנולוגיה תמיד משקפת את אופיים של אלו המממנים ומווסתים אותה. במובן זה, האנציקליקה הוא תומך בהומניזם מחודש כאשר האדם תמיד קודם לקוד. הרעיון המרכזי ברור: איננו יכולים לאפשר ליעילות להפוך לערך העליון בחיינו, תוך הזנחת היבטים בסיסיים כמו שבריריות, מסתורין ועצם החופש האנושי שמגדיר אותנו כמין.
פגישה מרכזית עם המגזר החברתי והעבודתי בספרד
ניצול ביקורו, התקיימה פגישה מעניינת מאוד בין האפיסקופט הספרדי לבין הגורמים המרכזיים בדיאלוג החברתי, כגון התאחדות המעסיקים CEOE ואיגודי העובדים הגדולים. המטרה הייתה לנתח כיצד מסגרת אתית חדשה זו משפיעה... חיי היומיום של פועלים ספרדיםבהקשר שבו אוטומציה מעוררת חרדה מסוימת לגבי עתיד התעסוקה, ליאו ה-14 הזכיר לנו שאלגוריתמים אינם ישויות מופשטות, אלא כלים שיכולים להעמיק את אי השוויון אם הם אינם נשלטים כראוי על ידי רשויות אזרחיות וסוכנים מתווכים.
במהלך שיחות אלו, הודגש תקדימי חוק הרוכבים בספרד כדוגמה לאופן שבו ניתן לווסת את הסביבה הדיגיטלית באופן משולש. האפיפיור מתעקש ש... כוחן של ביג טקהטכנולוגים המפורסמים לא צריכים לגבור על ריבונותן של מדינות או על זכויותיהם של אזרחים. האנציקליקה מציעה להחיל את עקרון הסובידיאריות, כך שהחלטות המשפיעות על קהילות מקומיות לא ייספגו על ידי מערכות אוטומטיות הפועלות מקורירותו של שרת מרוחק, תוך שילוב של... ניהול נתונים לעסקים וישויות.
הסכנה של האצלת קוגניטיבית ובריאות הנפש
אחת הנקודות שהדהדו במיוחד בקרב הציבור היא האזהרה מפני "ניוון" המחשבה העצמאית. על ידי האצלת משימות מחשבתיות מורכבות לעוזרים וירטואליים, אנו מסתכנים ב... אובדן יכולת השיפוט הביקורתי שלנו וסבלנות. האנציקליקה מזהירה כי אינטראקציה אמיתית אינה זהה לסימולציה שנוצרת על ידי צ'אטבוט. למרות שמכונות אלה עשויות להיראות חכמות מאוד, הן חסרות גוף, חוויות חיים, וכמובן היכולת להרגיש שמחה או כאב - דבר בסיסי להבנת המציאות במלואה.
מהפכת השלווה הזו, שהוצעה על ידי ליאו ה-14, מזמינה אותנו להשיב לעצמנו מרחבי דממה אל מול ההפגזה המתמדת של גירויים דיגיטליים. בריאות הנפש הפכה לעדיפות, והמסמך האפיפיורי מציין זאת. קישוריות יתר לעיתים קרובות מסתירה בדידות זה לא עניין של להיות נזיר או לזרוק את הטלפון שלך מהחלון, אלא של לא לאפשר להיגיון של המיידיות להרוס את תהליכי ההתבגרות האנושית, שהם מטבעם איטיים ודורשים מאמץ, משהו שהבינה המלאכותית לא יכולה לשכפל לא משנה כמה היא תנסה.
לקראת פירוק הבינה המלאכותית מנשקה
בזירה הגיאופוליטית, האנציקליקה שוברת מסורת של מאות שנים בכך שהיא מכריזה על תיאוריית "המלחמה הצודקת" כמיושנת. לנוכח הופעתם של כלי נשק אוטונומיים המסוגלים להחליט בעצמם את מי לתקוף, הוותיקן קורא... פיקוח ציבורי קפדני ופירוק נשק זה לא רק צבאי, אלא גם כלכלי וקוגניטיבי. החשש הוא שבינה מלאכותית תאיץ סכסוכים עד כדי כך שלדיפלומטיה ולדיאלוג לא יהיה עוד זמן להגיב, מה שיהפוך את במת העולם למרוץ חימוש שבו אתיקה נעדרת באופן בולט.
כדי למנוע מאיתנו לבנות מגדל בבל חדש שרק יביא בלבול וגאווה, האפיפיור מציע חמש דרכים לאחריות. אלה נעות בין ניטור השפה בה אנו משתמשים ועד להקשבה אמיתית לקורבנות הנידוי הטכנולוגי. הרעיון הוא שבינה מלאכותית להפוך לטוב אוניברסלי, נגיש לכולם ומכוון לצדק חברתי, תוך מניעת הפיכתו לכלי שליטה בידי מעטים המבקשים רק לייעל את הרווחים על חשבון כבוד הרוב.
סימולציה מול אמת מאומתת
מומחי מחשבים ששיתפו פעולה בהצגת המסמך מדגישים שאנו נופלים למלכודת של "סבירות לשונית". משמעות הדבר היא שמכיוון שמכונה כותבת בצורה קוהרנטית, אנו מאמינים שמה שהיא אומרת הוא נכון, כשלמעשה זה בסך הכל... לעשות חישובים סטטיסטיים בלי להבין כלום של העולם האמיתי. האנציקליקה מעמיקה מאוד בהבחנה בין ידיעה לבין החזקה פשוטה של נתונים ארוזים שנראים אמיתיים אך נטולי היגיון הגיוני ואנושי.
מצב זה מדאיג במיוחד בתחומי המידע והחינוך, שבהם כלכלת תשומת הלב מתגמלת סנסציוניות על פני אמת. המסמך האפיפיורי מעודד מחנכים ומחוקקים לא להרפות מהערנות שלהם מפני ההטיות שטכנולוגיות אלה משלבות באופן אינהרנטי. לא מספיק שהקוד יהיה קוד פתוח; מה שצריך הוא... להבין את סדרי העדיפויות שנקבעו במערכות אלו וכיצד הן מסווגות אנשים, לעתים קרובות על סמך קריטריונים שאין להם שום קשר לצדק או לטובת הכלל, בהתאם לקריטריונים קפדניים אתיקה עריכתית.
הלקח הגדול של Magnifica Humanitas הוא שחדשנות לא צריכה להתנגש במסורת, כל עוד אנחנו אמיצים מספיק כדי לקבוע גבולות. ליאו ה-14 אף התנצל על טעויות העבר של הכנסייה כדי להבהיר ש... ערנות מפני צורות חדשות של עבדות טרנספורמציה דיגיטלית היא משימה דחופה והכרחית. בסופו של דבר, מה שמונח על כף המאזניים אינו רק עבודתנו או פרטיות הנתונים שלנו, אלא אותה מהות אנושית שמאפשרת לנו לפקפק, ליצור ולאהוב מחוץ לכל דפוס שמכונה חוזה.
הצעת האפיפיור מסתיימת בהזמנה לא להיות רק צופים בטרנספורמציה הדיגיטלית הזו שמקיפה אותנו. האתגר טמון בבניית חברה שבה בינה מלאכותית היא בעלת ברית המסייעת כדי להקל על נידוי ועוניבמקום להיות עוד חומה שמפרידה בינינו, באמצעות שיתוף פעולה ותקנות ששמים את האדם במרכז, לספרד ולשאר אירופה יש הזדמנות להוביל שינוי פרדיגמה שיבטיח שההתקדמות הטכנולוגית תלך תמיד יד ביד עם אתיקה ואחווה אוניברסלית.
