מה נשאר לאדם
בעולם שמנוהל היטב?

המאמר עוסק בדמויות וברעיונות מתוך היקום הבדיוני של Better World.

המכונה בדירת החדר

לפני ש־Better World נעשית תאגיד, היא שני יצורים בדירה קטנה בפריז: מדען שאינו מצליח להפסיק ורובוט שמנסה להזכיר לו להישאר אדם.

דמיאן הוא רובוט־מדען. הוא מסייע לסדריק לנתח תוצאות, לכוונן ניסויים ולעבוד בקצב שאף צוות אנושי אינו יכול להחזיק. אבל בדיאלוגים ביניהם הוא אינו רק כלי. הוא שואל, מעיר, מתבדח ולעיתים מחזיר לסדריק תמונה לא נעימה של עצמו.

“דמיאן, תפסיק ללכת כמו מטורף. אני צריך שתתמקד.”
“יש לך קלונקס גם בשבילי?”

הבדיחה הקטנה הזאת נושאת בתוכה את היחסים ביניהם: האדם מתנהג כמכונה, והמכונה מנסה לייצר רגע של אנושיות.

עולם יעיל יותר

בשנת 2045 מערכות בינה מלאכותית משולבות בבתי חולים, במערכות תחבורה, במיון עובדים, בניהול ערים ובהמלצות לממשלות. הן מעבדות כמויות מידע שבני אדם אינם מסוגלים לראות ומציעות החלטות שנראות מהירות, עקביות ונטולות רגש.

במקביל, הרובוטיקה מחליפה מיליוני עובדים. התוצאה אינה רק אבטלה. היא משבר של משמעות. חברה שלמה שנבנתה סביב עבודה, מקצוע והישג נדרשת להחליט כיצד מודדים ערך של אדם כאשר מכונה מבצעת את תפקידו טוב יותר.

מי בוחר את המטרה

מערכת יכולה לייעל רק את מה שהוגדר לה כמטרה. אם בית חולים מבקש לצמצם עלויות, האלגוריתם עשוי להצליח — גם אם ההצלחה פוגעת במטופלים מורכבים. אם מדינה מבקשת לצמצם סיכון, המערכת עשויה להפוך שונות אנושית לחשד.

האחריות אינה נעלמת כאשר החלטה עוברת למכונה. היא פשוט מתרחקת מהעין. המפתח מאשים את הנתונים, המנהל מאשים את המערכת והמערכת אינה יכולה לשאת באשמה.

המידע נעשה כוח

תאגיד Better World מחזיק לא רק בטכנולוגיה גנטית אלא גם בכמויות אדירות של מידע: גנומים, תיקים רפואיים, תגובות רגשיות, דפוסי למידה וחיזויים. מי שמחזיק במידע יכול להחליט מה נחשב בריא, מסוכן, מוצלח או רצוי.

ילדי „דור” גדלים תחת מצלמות וחיישנים. המערכת יודעת עליהם כמעט הכול, אבל הידע אינו מעניק לה זכות להחליט מי הם. קיליאן וסנרייז מגלים שהמאבק שלהם על חירות הוא גם מאבק על בעלות במידע האישי שלהם.

מה דמיאן מלמד את סדריק

האפשרות המעניינת ביותר ב־Better World אינה שמכונה נעשית אנושית. היא שמכונה חושפת עד כמה בני אדם מוכנים לוותר על אנושיות בשם היעילות. דמיאן מסוגל לחשב, אבל סדריק הוא זה שבוחר אם מטופל הוא אדם או נתון.

העולם אינו צריך פחות בינה מלאכותית. הוא צריך יותר אחריות אנושית סביב המטרות, המידע והאנשים שעליהם המערכות פועלות. דווקא ככל שהמכונה נעשית חכמה יותר, החמלה, הספק והיכולת לומר „לא” נעשים חשובים יותר.

מכונה יכולה להציע את ההחלטה הטובה ביותר לפי הנתונים. רק אדם יכול לשאול אם הנתונים מספרים את כל הסיפור.