בדצמבר 2021 פרסם הפסיכולוג הארגוני אדם גרנט מאמר ב"ניו יורק טיימס" תחת הכותרת "אנחנו חיים באפוקליפסה משעממת". גרנט התייחס למגפת הקורונה ובאופן ספציפי לווריאנט האומיקרון. בניגוד לסרטי הזומבים ולסרטים אחרים מז'אנר יום הדין, שבהם האפוקליפסה מוצגת כאירוע דרמטי, מפחיד ומלא אקשן, טען גרנט, הקורונה לימדה אותנו שהאפוקליפסה יכולה להיות אירוע משעמם להחריד: עוד סגר, עוד חיסון, עוד בדיקות של מטושים שנדחפים לאף.
חלפה כשנה וחצי והביטוי "האפוקליפסה המשעממת" חזר לעמודי "הטיימס". הפעם היה זה עזרא קליין שציטט את ג'ונתן פרנקל, מדען מחשב מהרווארד שטען שמהפכת הבינה המלאכותית, ובאופן ספציפי המהפכה שמבוססת על מודלי השפה הגדולים שנמצאים בלב שירותים כמו ChatGPT, מובילה לאפוקליפסה משעממת. למה אפוקליפסה ולמה משעממת?
קודם כל, כי סגנון הכתיבה של הצ'טבוטים דוגמת ChatGPT או Bard הוא משמים וחיוור. הוא מזכיר טקסטים שפולטים מנהלים בכירים בתאגידים אמריקאיים בראיונות מוזמנים שבהם הם בעצם לא אומרים שום דבר. זה לא מפתיע: אם אתה רוצה להישמע נייטרלי ובלתי פוגעני, לתת תשובה אבל לא להתחייב שהיא מדויקת, לספק מידע אבל לא להביע עמדה ביחס אליו, הסגנון התאגידי האפור הוא הסגנון לבחור בו. אבל שם רק מתחילה הבעיה.
אחד היתרונות של הצ'טבוטים הוא שהם לא מתעייפים לעולם – לא מלכתוב ולא מלקרוא. זו הסיבה שניתן להטיל עליהם לכתוב מייל ארוך בו הם יסבירו סוגייה ב־850 מילה, גם אם אפשר לתמצת אותה במשפט, שלא לדבר על דו"ח מפורט, מעיק ומתיש, שבו יוצגו ממצאים והסברים שכוללים משפטים כמו "מצד אחד" ואז "מצד אחר" וכן הלאה וכן הלאה עד בלי די.
המטרה של כל זה היא שהמסמך ייראה מקצועי ורציני, אבל מעבר לאופטיקה, מישהו יצטרך לשבת ולקרוא את הדו"ח שיצרה מערכת בינה מלאכותית שעבדה בשירותו של אדם שהחליט להראות עד כמה הוא "יסודי".
וזה ממשיך: בדיוק כפי שניתן להטיל על המכונה לכתוב דו"ח ארוך, ניתן להטיל על מכונה אחרת לקרוא אותו ואז לתמצת אותו לכמה משפטים קצרים שאותם מלכתחילה היה אפשר לכתוב.
האם זה העתיד שלתוכו אנחנו צועדים? בני אדם שצריכים לכתוב טקסט אבל מעדיפים להטיל על מכונה לכתוב אותו ואז שולחים את התוצאה לנמען, שלא מעוניין לקרוא את הררי המילים המיותרים, ולכן הוא מטיל על מכונה אחרת לקרוא ולתמצת אותם ועל בסיס התוצאה לנסח תגובה אלגוריתמית שתישלח למוען שגם הוא לא יקרא אותה אלא יטיל על המכונה שלו לקרוא אותה ואז לנסח תגובה?
הסיטואציה הזו היא אפוקליפטית כי היא מתארת מציאות שבה אף אחד לא באמת עובד, קורא או לומד משהו. ערימות של מידע סינתטי מועברות מצד לצד ומייצרות את האשליה שמשהו קורה, שמישהו עושה משהו, שנוצר ערך, בשעה שהערך היחיד שנוצר הוא התשלום שמועבר לחברות שמפעילות את הצ'טבוטים האלו וגובות כסף בעבור ייצור הטקסטים המיותרים.
לא מן הנמנע שהמלל האינסופי מורכב מג'יבריש חסר פשר, אבל אף אחד לעולם לא יידע את זה. ייתכן שטמון בו ערך אבל גם את זה אף אחד לא יידע. האם אנחנו ניצבים בפני עתיד שבו רובוטים תאגידיים משוחחים זה עם זה?
ויש כאן עניין נוסף.
העידן שלתוכו אנחנו צועדים הוא עידן שבו נפתרת בעיית המחסור. באמצעות ChatGPT לעולם לא יהיו חסרים לכם רעיונות. כל שצריך הוא ללחוץ על כפתור Generate והרעיונות, ההצעות, הניתוחים, ההסברים, ההפניות (גם השקריות) – הכל בדרך ואם זה לא מספיק, לחצו על Generate פעם נוספת ותקבלו עוד.
באמצעות Midjourney לעולם לא יהיו לכם חסרים דימויים, צילומים או תמונות. לחיצה על כפתור Generate תוביל לגרסאות נוספות. זה נכון לגבי קוד, לגבי צלילים, לגבי כל מה שמודלי השפה האלו אחראים עליו.
אבל כשאת מקום המחסור תופס עודף, הערך של המוצר יורד, הוא מגיע לאפס המוחלט ואז מתחיל לצבור ערך שלילי. אם יש לכם יותר מדי בגדים הם סותמים את הבית; אם קניתם יותר מדי אוכל לא תמצאו מקום לאחסן אותו במקרר. עודף הוא בעיה לא פחות מחוסר. שנדבר על עודף בפגישות, בפחמן דו־חמצני, בקלוריות?
האפוקליפסה המשעממת מצביעה על עולם שבו יש יותר מדי טקסט, יותר מדי תמונות, יותר מדי מיילים ודו"חות שנוצרים על ידי מערכות אוטומטיות. אנחנו מוצפים, אנחנו נסגרים, אנחנו נהפכים אדישים ומשועממים.
זו רק אחת הסיבות לכך שכל ההצהרות ההיסטריות שמזהירות מפני בינה מלאכותית שתוביל לקץ העולם הן כל כך מטופשות. סביר להניח שלפני שהטרמינייטור יגיע כדי לחסל אותנו, הוא ישעמם אותנו למוות – וזה באמת מפחיד.
(מגזין TheMarker, פורסם ב-10.7.2023)
כתיבת תגובה