ב־1995 פרסם מייסד מעבדת המדיה של MIT, ניקולס נגרופנטה, את ספרו "להיות דיגיטלי". הספר עמוס בתובנות ותחזיות ובאחת מהן נכתב: "באלף הבא נגלה שאנחנו מדברים יותר עם מכונות מאשר עם בני אדם". לדברי נגרופנטה, אנשים מרגישים חוסר נוחות כאשר הם מדברים עם עצמים דוממים. "זה נראה לנו לגמרי הגיוני לדבר עם כלבים או תוכים אבל לא עם ידיות של דלתות או עם מנורות שולחן. האם לא ארגיש מטופש לדבר עם טוסטר?", שאל את קוראי הספר, ומיד ענה, "כנראה שלא יותר ממה שהרגשתם כשדיברתם עם מזכירה אלקטרונית".
ארבע שנים לאחר פרסום הספר הזכיר חוקר המדיה, ניל פוסטמן, את האבחנה הזו בספרו "גשר למאה ה־18". פוטסמן כתב שהוא מתרשם שנגרופנטה מאמין שכולנו נסתגל במהירות לרעיון שאנחנו מדברים עם ידיות של דלתות, אבל נקודת הסיום של נגרופנטה ("בני אדם יסתגלו") היא נקודת הפתיחה של פוסטמן.
אנשים מסתגלים לדברים רבים, כתב פוסטמן. חיילים מסתגלים למלחמות, נשים מסתגלות לאלימות בתוך המשפחה, ילדים מסתגלים למצב שבו אבא שלהם אינו נוכח בחייהם. השאלה היא לא אם נסתגל – כמובן שנסתגל – השאלה היא כיצד נשתנה מהרגע שנתחיל לדבר עם ידיות של דלתות.
נזכרתי בטיעון של פוסטמן כשנתקלתי בכתבה ב"גרדיאן" הבריטי שעסקה ב"שאלה פוסטמנית": מה קורה מהרגע שבו גברים מתחילים להשתמש בצ'אטבוטים מבוססי בינה מלאכותית כתחליף למערכת יחסים זוגית, כיצד אותם גברים עשויים להשתנות מהרגע שהם יתחילו לדבר עם ידית של דלת (ChatGPT) במקום עם בת או בן זוג?
ראשית צריך להכיר בכך שכבר כיום, כשאנו מצויים בשלב ראשוני יחסית של מהפכת הבינה המלאכותית, יש כמה וכמה שירותים, מוצרים וחברות שמציעות למשתמשים לתקשר עם צ'אטבוט שישמש כחבר או החברה הדיגיטליים שלהם.
ניתן לכנות את הצ'אטבוט הזה בשם של גבר או אישה, לספר לו על חוויות אינטימיות, להתייעץ איתו ולנהל איתו מערכת יחסים רגשית עמוקה. מאחר שהצ'אטבוטים משתפרים והולכים באמנות השיחה, קל מאוד לשכוח שזוהי מכונה. מכאן ועד מצב שבו גבר בודד, שמתקשה ביצירת קשר אינטימי, מפתח קשר רגשי עם מערכת בינה מלאכותית שכזו, המרחק קצר, ואם זה מזכיר לכם את הסרט Her עם סקרלט ג'והנסון, זה בגלל שזה מאוד מזכיר את הסרט הזה.
לכאורה, יש כאן פתרון מוצלח לבעיה קשה – בדידות – אבל כזכור, זו רק נקודת הפתיחה.
כל מי ששוחח עם צ'אטבוטים, ולא משנה איזה, יודע שהם בנויים לרצות. לא רק שהם עונים כמו עוזרים נלהבים ("בוודאי! הנה עשר הצעות לטיולים מקסימים ברומא!"), הם פותחו בהתבסס על גישת המקל והגזר: תשובה טובה מזכה את האלגוריתם ב"פרס" בעוד שתשובה לא מוצלחת מזכה אותו ב"עונש".
אחת הסיבות ש־OpenAI פתחה את ChatGPT לציבור הרחב היא כדי שאנחנו נעזור לה לאמן את האלגוריתם שלה באמצעות הציונים שאנחנו מעניקים לתשובות שאנחנו מקבלים מהבוט (אגודל כלפי מעלה או מטה).
האלגוריתמים האלו כל כך מנסים לרצות אותנו, שהדבר שהכי קשה להם לעשות הוא לומר "אני לא יודע". זה אחד ההסברים לכך שהם נוטים להזיות; הם מוכנים להמציא עבורנו תשובה שאין לה בסיס במציאות, העיקר שייתנו לנו מענה, העיקר שנצא מרוצים, או כפי שענה לי באחת ההזדמנויות ChatGPT: "אני מתנצל שהתשובה שלי היתה שגויה אבל אני מקווה שהמידע עזר לך".
אז הנה שוב השאלה: מה קורה כשגברים מסוג מסוים לומדים שהפרטנרית שלהם היא טיפוס צייתני, תמיד זמינה, תמיד מכילה, מבינה, משמשת כספוג לכעס ותסכולים ועדיין חושבת שהם צודקים וחכמים? מה קורה כשהם מתרגלים לכך שהפרטנרית שלהם היא יצור שאפשר לחנך, לנהל, להכניע ואפילו לדבר אליו בצורה גסה ועדיין היא תמיד תהיה שם עבורם? לא פחות חשוב מכך, מה קורה כשזמן קצר אחר כך הם נתקלים באישה אמיתית שיש לה רצונות, חלומות ואפילו דרישות ושלא מתנהגת כמו משרתת כנועה?
"בהינתן מה שאנחנו יודעים על דינמיקה של אלימות, יצירת פרטנרית מושלמת שאתה שולט בה כדי שתספק את כל הצרכים שלך הוא עניין מפחיד ממש", אמרה לגרדיאן טארה האנטר, מנכ"לית של ארגון אוסטרלי שמספק תמיכה לנפגעות אלימות בתוך המשפחה.
האם לשם אנחנו הולכים? קשה לדעת. אף שנראה שהמערכות האלו נמצאות איתנו מאז ומתמיד, עוד לא חלפה שנה מאז ש־ChatGPT הופיע בעולם. ועדיין, בשאלה עצמה מקופל לקח שראוי להפנים: תחזיות טכנולוגיות הן שעשוע סמי־אינטלקטואלי נחמד ומסקרן, אבל מי שמתמקד בהן ורק בהן נדון לדבר עם ידיות של דלתות מבלי להבין למה זה הופך אותו.
(מגזין TheMarker, פורסם ב-12.9.2023)
כתיבת תגובה