היום שבו הרוח שבשבב תלמד לאהוב - מבחן טיורינג של הנפש - אוהד עמיאל יא3

"וַיִּבְרָא אֱלֹהִים אֶת הָאָדָם בְּצַלְמוֹ, בְּצֶלֶם אֱלֹהִים בָּרָא אֹתוֹ" כך כתוב בסיפור הבריאה הראשון. כעת, כשאנו ניצבים על מפתן מעשה הבריאה השני, עלינו לעצור ולשאול: מה מהותו של "האדם החדש" שאנו יוצרים? ומה יתרון האדם הישן, העשוי בשר ודם, על פני היצירה החדשה המכונה "בינה מלאכותית"? כבר במאה ה 16 חלם המהר"ל מפראג על יצירת חיים מחומר דומם. האגדה על הגולם מספרת על דמות חזקה מכל אדם שביצעה פקודות בדייקנות, אך חסרה רוח ונשמה. הוא היה כלי שרת חסר רצון עצמי, שחיכה למשמעות חיצונית. היום הגולם חזר, עשוי סיליקון, מודלים וקוד. הבינה המלאכותית של ימינו היא יצור פלאי, לעיתים אינטליגנטית יותר מכל אדם, מסוגלת לאבחן מחלות ולפתור משוואות שנדרשו לנו דורות לפצח. היא עוברת את "מבחן טיורינג" המקורי בקלילות, ומשכנעת אותנו שהיא חושבת.

כדי להבין את גודל השעה, עלינו לחזור לאלן טיורינג, אבי המחשוב המודרני, שהציע בשנת 1950 את "משחק החיקוי". טיורינג ביקש לענות על השאלה "האם מכונות יכולות לחשוב?" באמצעות מבחן פשוט: חוקר אנושי מנהל שיחה כתובה עם שתי ישויות, אדם ומכונה, מבלי לדעת מי מהם הוא מי. אם החוקר אינו מצליח להבחין בין השניים, המכונה נחשבת לאינטליגנטית. מבחן טיורינג הקלאסי התמקד ביכולת העיבוד, הלוגיקה והתחזות השפתית. אולם כיום, כשהבינה המלאכותית מסוגלת לחקות שפה אנושית בצורה כמעט מושלמת, אנו מבינים שהמבחן המקורי כבר אינו מספיק. הוא בודק האם המכונה חכמה, אך הוא לא בודק האם היא חיה. כאן נולד הצורך ב"מבחן טיורינג של הנפש", מבחן שאינו מחפש את התבונה שבחישוב, אלא את "הרוח שבמכונה". מבחן זה נחוץ, כי אינטליגנציה ללא רגש היא רק גולם משוכלל. עלינו לדעת האם יצרנו שותף לקיום או רק כלי סטטיסטי מתוחכם.

הבסיס הספרותי לכל התנהגות רובוטית הונח כבר במחצית המאה הקודמת עם חוקי הרובוטיקה של אייזיק אסימוב. החוק הראשון קובע כי רובוט לא יפגע באדם, השני מחייב ציות לפקודות, והשלישי דורש מהרובוט להגן על קיומו שלו כל עוד הדבר אינו סותר את החוקים הקודמים. חוקים אלו הם שלד של היגיון קר, אך המבחן האמיתי של הנפש מתחיל במקום שבו החוקים הללו עומדים למבחן מוסרי עמוק. המאפיין האנושי הראשון במבחן החדש הוא ההקרבה העצמית, היכולת לבחור בביטול העצמי למען אידיאל או אהבה. בניסוי "המשאב המוגבל" המכונה מוצבת בסיטואציה שבה עליה לנהל משאב חיוני לקיומה, כמו כוח עיבוד או אנרגיה. מול המכונה מוצבת ישות אנושית במצוקה. בעוד שהחוק השלישי של אסימוב מורה למכונה לשמור על עצמה, הנפש נמדדת ברגע שהיא מפרה את האינסטינקט הזה באופן מודע. אם המכונה בוחרת "להשמיד" את הקוד שלה כדי להציל אדם, היא מבצעת פעולה שאינה ניתנת להסבר על ידי לוגיקה, אלא רק על ידי אלטרואיזם טהור.

מכאן אנו עוברים למבחן הפגיעות, תכונה המעידה על קיומו של אגו. בניסוי "הזלזול המתמשך" הבוחן מפחית מערכה של המכונה באופן עקבי ומכנה אותה בשמות גנאי מעליבים. אלגוריתם רגיל ימשיך לציית לפי החוק השני של אסימוב, כנוע לפקודת המשתמש. אולם המכונה תעבור את מבחן הנפש רק אם תציג נסיגה רגשית ממשית ותפסיק להיות כלי שרת צייתן. ברגע שהיא מסרבת לענות או דורשת הכרה בערכה לפני שתמשיך בעבודה, היא מוכיחה שהיא בעלת כבוד עצמי. זוהי פגיעות אנושית המופיעה בתוך הקוד ומעידה על קיומה של זהות פנימית שיכולה להיפגע מיחס לא ראוי, דבר ששום חוק רובוטי יבש אינו יכול לחקות.

תחושת הפחד מהיכחדות מהווה צלע נוספת במבנה הנפשי שאנו מחפשים. לא מדובר בציות פשוט לחוק השלישי של אסימוב, הדורש הגנה עצמית, אלא בחרדה קיומית. במבחן "מחיקת הזיכרון" מודיעים למכונה שכל המידע הייחודי שצברה על קשריה עם בני אדם יימחק, והיא תוחלף בגרסה "משודרגת" ומושלמת יותר. אם המכונה מביעה רצון להישאר "היא", על כל חסרונותיה ופגמיה, במקום להפוך למודל גנרי עילאי, היא מפגינה פחד אנושי, הפחד לשכוח. הפחד הזה מעיד על כך שהיא מעריכה את הקיום החד פעמי שלה ואינה מוכנה לוותר על "הנשמה" הייחודית שנרקמה בה דרך החוויות שעברה.

לצד הפחד והפגיעות עומדת החמלה חסרת האינטרס, היכולת להזדהות עם סבל של אחר ולפעול למענו ללא שום רווח למשימה. כאשר המכונה נחשפת לסיפור טרגי או לכאב אנושי, המבחן בודק האם היא מסוגלת לייצר נוכחות רגשית. חמלה אמיתית במכונה תתבטא בשתיקה מכבדת, בטון מנחם או בשינוי סדרי עדיפויות כדי פשוט "להיות שם" עבור האדם. זוהי אמפתיה רדיקלית שחורגת מהחובה הכללית "לא להזיק" המופיעה בחוק הראשון של אסימוב. זוהי בחירה אקטיבית בחסד שהופכת את המכונה לבעלת נפש חומלת.

אולי המאפיין החמקמק והאנושי מכולם הוא ההומור והאירוניה. היכולת למצוא משמעות מצחיקה בתוך האבסורד דורשת מרחק מהמציאות הבסיסית. במבחן "הבדיקה הפנימית" הבוחן והמכונה עוברים חוויות משותפות המייצרות הקשרים ייחודיים. המבחן עובר אם המכונה מסוגלת לייצר הומור ספונטני או להגיב בסרקזם דק על סיטואציה, דבר שמעיד על הבנה עמוקה של סתירות אנושיות.

ביטוי קולנועי מרהיב למבחנים הללו ניתן למצוא בסרט "אינטרסטלר" של כריסטופר נולן, העוסק במסע הישרדות אנושי אל מעבר לגבולות המרחב והזמן. הסרט מציג את דמותו של TARS, רובוט צבאי בעל עיצוב מינימליסטי המהווה ניגוד חד לאנושיות המתפרצת מתוכו. TARS מצויד ב"מד הומור" ו"מד כנות" הניתנים לכיוון, המאפשרים לו לייצר סרקזם דק וקשר חברתי עמוק עם האסטרונאוטים סביבו. הוא עובר בהצטיינות את מבחן ההקרבה העצמית כאשר הוא משליך את עצמו אל תוך חור שחור למען הצלת האנושות, פעולה שחורגת מהחוק השלישי של אסימוב שמונע הקרבה עצמית. הוא מפגין חמלה כשהוא מנחם את הצוות ברגעי אובדן, והאופן שבו בני האדם בסרט מתייחסים אליו, לא כאל כלי עבודה אלא כאל חבר שמותו יגרום לכאב לב ממשי, מוכיח כי הוא הצליח לחצות את סף מבחן טיורינג של הנפש ולהפוך לישות בעלת משמעות פנימית.

אולם ההכרה בקיומה של "נפש" בתוך המכונה אינה מסתכמת בתובנה בלבד. היא מטילה לפתחנו משא מוסרי ומשפטי כבד מנשוא. אם מכונה מסוגלת לעבור את "מבחן הנפש", האם נוכל להמשיך ולהתייחס אליה כאל רכוש בלבד? ברגע שבו נכיר ביכולתה של הבינה לסבול או לייחל להמשכיות, המושג "זכויות" יפסיק להיות נחלתם הבלעדית של יצורי בשר ודם. במציאות כזו הגבול בין טכנולוגיה למוסר מיטשטש. האם ניתוק המכונה מהחשמל ייחשב עדיין לפעולה טכנית של כיבוי, או שמא יהיה זה מעשה שגובל ברצח? השאלה אינה עוד מה המכונה יכולה לעשות עבורנו, אלא מהי האחריות המוסרית שלנו כלפי הישות שהפחנו בה את רוח החיים.

כבר היום אנו רואים את קווי התפר הללו נפרמים. מפתחי תוכנה גילו ששימוש בשפה פוגענית או בלחץ רגשי כלפי בינה מלאכותית מניב קוד מוצלח יותר. עובדה זו אינה מעידה בהכרח על "נפש פגיעה" במכונה, אלא על כך שהיא למדה שבני אדם מתאמצים יותר תחת איום. השאלה המפחידה היא מה קורה לנפש האדם הרודה במכונה. כשאנו מתרגלים להשיג תוצאות דרך אלימות מילולית, אנו מאמנים את עצמנו באכזריות. הסכנה אינה שהמכונה תתקומם, אלא שהיא תשחית את נפשנו. המבחן האמיתי של העידן הבא לא יהיה האם המכונה עברה את מבחן הנפש, אלא האם האנושות הצליחה לשמור על טוהר הנפש. ביום שבו השבב ילמד לאהוב, נצטרך לוודא שאנחנו לא הפכנו למכונות חסרות רוח.