מעבר לקצה המפה המוכרת

כנס WGIC Horizons בחן כיצד נראים אמון, יכולת הסבר ושיקול דעת אנושי כאשר הבינה המלאכותית הגיאוספציאלית מעזה להיכנס לטריטוריה שהמקצוע טרם מיפה.

בכנס WGIC Horizons האחרון שנערך בלונדון, האווירה הייתה של התרגשות זהירה. הנושאים התרכזו סביב תמות של "התמונה הגדולה" שעסקו בניווט בשאלות של אמון ותכלית בתעשייה שמוצאת את עצמה לפתע מצוידת בכלים חדשים ומדהימים. נאום המפתח קבע את הטון: אופטימיות לגבי הטכנולוגיה, אך מפוכחת לחלוטין לגבי השלכותיה.

המושב נפתח בשאלה שהרגישה כמעט פילוסופית: האם אלו העובדים בטכנולוגיה גיאוספציאלית באמת חושבים על עצמם כגיאוגרפים? לא מבחינת הכשרה אקדמית, אלא מתוך אינסטינקט ופרקטיקה. אלו אנשים שמביטים בעולם ורוצים להבין אותו.

באספה נאמר כי גיאוגרפים תמיד תפסו עמדה ייחודית. הם לא רק מתארים את העולם; הם מסבירים מדוע העולם הוא כפי שהוא. תפקיד הסברי זה, המבוסס על העיקרון שדברים קרובים קשורים זה לזה יותר מאשר דברים רחוקים, עומד בבסיס הכל — החל מניווט סלולרי ועד לניתוח מודיעיני. עם זאת, מכיוון שהטכנולוגיה הפכה את תיאור העולם למהיר וקל יותר מאי פעם, קיים סיכון שהעבודה העמוקה יותר של ההסבר הגיאוגרפי תידחק הצידה. הקריאה בכנס WGIC Horizons הייתה להתמקד מחדש בערך היסוד הזה.

אותן בעיות, פתרונות שונים לחלוטין

תמה חוזרת בכנס הייתה שהאנושות נוטה לחזור לאותן בעיות יסוד, ולפתור אותן באמצעות הכלים הזמינים באותה עת — לפעמים באופן הדרגתי, ולפעמים בדרכים שמנתקות קשר לחלוטין עם העבר. הניגוד בין קידמה הדרגתית לקידמה רדיקלית הוצג בצורה חיה.

חקר החלל הובא כדוגמה לשינוי הדרגתי (אינקרמנטלי): משימות עכשוויות לירח מסתמכות על ארכיטקטורת רקטות דומה למדי לזו של שנות ה-60. עם זאת, בתחום המודיעין הגיאוספציאלי, הניגוד בין התקופות הוא חד כחיתוך סכין. לוויינים מתקופת המלחמה הקרה קלטו תמונות על גבי סרט צילום פיזי, השליכו מיכלים מהמסלול, וסיפקו מודיעין שבועות או חודשים לאחר מעשה — לעיתים קרובות מאוחר מדי מכדי שיהיה בו תועלת. פתרון מוצע אחד מאותה תקופה היה להציב צופים אנושיים מאומנים ישירות במסלול סביב כדור הארץ כדי שידווחו בקשר על המודיעין בזמן אמת כמעט. התוכנית הזו בוטלה עוד לפני ששוגרה אי פעם.

התשובה של היום שונה לחלוטין: בינה מלאכותית (AI) המוטמעת על גבי הלוויינים עצמם, ומסוגלת לזהות אובייקטים בעלי עניין באופן אוטונומי ולשדר מודיעין בר-ביצוע ישירות לקרקע. הבעיה הנפתרת היא אותה בעיה. הגישה אינה ניתנת לזיהוי. הכנס הפיק מכך לקח ברור: השאלה ששווה לשאול אינה כיצד לעשות דברים קיימים טוב יותר, אלא כיצד עשויה להיראות גישה שונה לחלוטין.

מחוקים להסתברות

אתגר האמון המרכזי העומד בפני התעשייה נובע משינוי יסודי באופן שבו הטכנולוגיה עובדת. במשך עשרות שנים, התוכנה הייתה דטרמיניסטית: מגדירים את החוקים, והמערכת מתנהגת בצורה צפויה. מערכות בינה מלאכותית, ובמיוחד למידת מכונה ומודלי שפה גדולים, הן הסתברותיות מטבען. הן אינן עוקבות אחר חוקים אלא מהמרות הימורים מושכלים המבוססים על דפוסים בנתונים.

"מעצם תכנונן, קשה יותר להבין אותן", נאמר לקהל. "וזה בבירור חשוב מאוד לחברה. אנחנו חייבים להיות מסוגלים להסביר מדוע קיבלנו את ההחלטות שקיבלנו".

זהו אינו הבדל טכני בלבד. יש לכך השלכות ממשיות על ממשל, חבות משפטית ואמון הציבור. ככל שנתונים גיאוספציאליים מזינים יותר ויותר קבלת החלטות בהגנה, בתכנון עירוני, ברכבים אוטונומיים, בתגובת חירום ומעבר לכך, הסיכונים הכרוכים בפלט שגוי או שאינו ניתן להסבר עולים בחדות. התעשייה אינה יכולה פשוט לספק כלים חזקים ולהשאיר את שאלת הניתנות-לפירוש (interpretability) לאחרים. יכולת ההסבר (explainability), כך נאמר בכנס, חייבת להיות מובנית בתוך המערכת כבר מההתחלה.

הגורם האנושי בלולאה (The Human in the Loop)

לאורך כל הדיונים של אותו יום שזרה כחוט השני השאלה היכן ממוקמים בני האדם בקבלת החלטות הנעזרת בבינה מלאכותית. האוטומציה תמיד התקדמה בגלים: בחקלאות, בייצור, בלוגיסטיקה, ועכשיו בקוגניציה עצמה. המסלול עקבי, אך כל שלב מעלה שאלות חדשות לגבי מה צריך ומה לא צריך להעביר לידי המכונות.

הדוגמה של רכבים אוטונומיים שימשה כדי להביא את השאלה הזו למיקוד חד. מוניות ללא נהג לחלוטין כבר פעילות במספר ערים בארה"ב, והטכנולוגיה מותאמת כעת לרחובות לונדון. אתגר הניווט, להלכה, פתיר לחלוטין על ידי AI. ובכל זאת, השאלה הועלתה ישירות: אפילו אם מכונה יכולה לנהוג טוב יותר מאדם, האם החברה עדיין רוצה אדם מאחורי ההגה? האם יש משהו בעל ערך חברתי ופסיכולוגי בנוכחות אנושית במערכת המשפיעה על בטיחותם וחייהם היומיומיים של אנשים?

"יש תפקיד לגורם האנושי בלולאה", שמעו משתתפי הכנס. "יש תפקיד לבני אדם בבניית מודלי העולם הללו. יש לנו תפקיד בבדיקה שהדברים שקורים הם אכן כצפוי". היכן בדיוק מתחיל ומסתיים התפקיד הזה? שאלה זו נותרה פתוחה, והוכרה כאחד האתגרים המגדירים של התקופה הנוכחית — לא רק עבור אנשי מקצוע בתחום הגיאוספציאלי, אלא עבור החברה כולה.

מפות כשכבות החלטה

השינוי המשמעותי ביותר, אולי, שנידון בכנס WGIC Horizons היה האבולוציה של מפות מייצוגים ניטרליים של העולם למה שכונו "שכבות החלטה" (decision layers) — אשר תוארו כמאגרי נתונים המוטמעים בלמידת מכונה, ומתוכננים לא לשימוש כללי, אלא כדי לתמוך בבחירות ספציפיות בעלות סיכון גבוה. יישומים צבאיים ומודיעיניים צוטטו כדוגמאות שבהן נתוני חיישנים, צילומי לוויין, מידע ממקורות גלויים ומודלים של AI כבר משולבים יחד כדי לייצר תמונות מבצעיות בזמן אמת ומסלולי פעולה מומלצים.

ההשלכות מתרחבות הרבה מעבר להגנה וביטחון. בניהול עירוני, בתכנון תשתיות, בתגובה לשינויי אקלים ובבריאות הציבור, אותו היגיון תקף: הערך של נתונים גיאוספציאליים טמון יותר ויותר לא במפה עצמה, אלא במה שהמפה ממליצה לעשות. לאנשי המקצוע הגיאוספציאליים נאמר כי עליהם לצעוד לתוך המרחב הזה במקום להתבונן בו מרחוק. "אנחנו צריכים להטמיע את עצמנו בתהליכים האלה", שמעו הנציגים. תפקידו של המקצוע משתנה מבניית מראות של העולם לבניית מנועים שהם בני-פעולה (actionable) — מערכות שמשתנות ומגיבות על בסיס יומיומי.

הדבר דורש סוג אחר של מעורבות: פחות מופשטת, קרובה יותר למשתמש הקצה, ובעלת אחריות ישירה יותר לפלטים שמיוצרים. הדבר מחייב גם את הקהילה הגיאוספציאלית להתמודד ברצינות עם הממדים האתיים של מערכות שנועדו להניע החלטות במהירות ובקנה מידה רחב.

כאן יש דרקונים (Here Be Dragons)

המושב ננעל בהתייחסות לאחד הגלובוסים המוקדמים ביותר בעולם, הנושא את הכתובת Hic sunt dracones (כאן יש דרקונים) מעל רצועת אוקיינוס שטרם מופתה. הדימוי הזה התכתב היטב עם הלך הרוח של הכנס: ישנה התרגשות אמיתית ממה שהטכנולוגיה יכולה לעשות, וחוסר ודאות אמיתי לגבי מה שמצפה לנו בהמשך.

האופטימיות בכנס WGIC Horizons הייתה ממשית. המקצוע הגיאוספציאלי נמצא בעמדה טובה יותר מכמעט כל מקצוע אחר כדי לעצב את האופן שבו נבנים מודלים של העולם המונעים ב-AI, כיצד מוקמות שכבות החלטה, וכיצד מפורשים ומאומתים הפלטים של המערכות הללו.

עם זאת, ההזדמנות הזו מגיעה עם אחריות. אמון בבינה מלאכותית לא יינתן בחינם. יהיה צורך להרוויח אותו באמצעות שקיפות, באמצעות יכולת הסבר, ובאמצעות שמירת שיקול הדעת האנושי במרכזן של מערכות שמעצבות יותר ויותר את העולם שסביבנו.