"The Local" הוא מגזין קנדי ללא מטרות רווח שמסקר סוגיות חברתיות ובריאותיות באזור טורונטו ומתמחה בכתיבה ארוכה ומתוחקרת היטב. מדי פעם מזמינים עורכי המגזין כתבים מזדמנים, פרילנסרים, להציע רעיונות לכתבות שעוסקות בנושאים שונים. באחרונה פירסם אחד העורכים, ניקולס יון־בראון, קריאה שכזו: הצעה לכתבות על הפרטת שירותי הבריאות בקנדה, סוגיה שנויה במחלוקת שהולכת וצוברת תאוצה במדינה.
יון־בראון קיבל כמה הצעות, אבל אחת מהן היתה מעניינת במיוחד. היא הגיעה במייל מפרילנסרית שהוא לא מכיר, ויקטוריה גולדי שמה. היא הציעה לו לפרסם טקסט פרי עטה שיעסוק ב"תוכניות מינוי" – שירותים חדשים שבהם בתמורה לדמי תשלום קבועים, אתה זכאי לקבל תרופות שונות. "הסיפור יעסוק באופן שבו שירותי בריאות נעשים דומים לשירותים כמו נטפליקס או אמזון פריים", היא כתבה. לדבריה, היא כבר התקדמה צעד אחד קדימה ושוחחה עם כמה מרואיינים פוטנציאליים, בהם יועצת בת 42 מוונקובר, עובד בניין בן 58 מהמילטון, ורופא מטורונטו שאמר לה ש"מינויי התרופות האלו הם סוג של הפרטה זוחלת".
יון־בראון התרשם. הוא בעיקר התרשם מהעובדה שגולדי הצביעה על שורה של עיתונים והוצאות לאור שפירסמו טקסטים שלה, בהם "הגרדיאן" הבריטי ומגזין הלייף־סטייל האמריקאי "The Cut"; כתבי עת קנדיים כמו "The Walrus"; מגזין "ווג" שמתפרסם בפיליפינים; "הרולינג־סטון" שמתפרסם באפריקה; אתרי אינטרנט ששייכים לרשת Vox Media; ועוד. הוא החליט לתת לה הזדמנות.
החשדות צצו תוך זמן קצר – בין היתר, בגלל האופן שבו ניסחה גולדי את המיילים שלה, שהזכיר את צורת הכתיבה של תוכנות בינה מלאכותית. ובעוד שאת המאמר ב"גרדיאן", למשל, היה אפשר לקרוא, את זה שפורסם לכאורה ב"The Walrus" אי אפשר היה למצוא. יון־בראון יצר קשר עם עורכת במגזין הקנדי ושאל אותה על ויקטוריה גולדי. העורכת אמרה לו שהיא לא מכירה מישהי כזו, ושהיא מעולם לא פירסמה טקסט אצלה. "איזה דבר מוזר הוא לטעון כזה דבר", היא כתבה לו. וכאשר יצר קשר עם הרופא מטורונטו, שגולדי כביכול דיברה איתו, גם הוא אמר: מעולם לא שוחחתי איתה.
את מה שקרה אחר כך תיאר יון־בראון בטקסט שפירסם באתר המגזין, טקסט שחושף את המציאות העגומה של תקופתנו: הגענו לרגע שבו אין כמעט שום דרך לדעת מי עומד מאחורי טקסט שאנחנו מקבלים – אדם או מכונה.
הוא בחן מחדש את המייל הראשון שקיבל מאותה ויקטוריה גולדי, ואת האופן שבו היא התנסחה. הוא החל לעקוב אחר פרסומיה ברשת, ואז הוא הבחין שלמרות שהיא טענה שהיא קנדית, היא דיווחה על אירועים שהתרחשו ברחבי העולם – בניגריה, באנגליה, בארה"ב – כאילו היא מקומית.
הוא גילה שכתיבתה התפרסה על פני תחומים רבים. בכתבה אחת היא ציטטה כמה ממעצבי הפנים הגדולים בעולם, בהם מעצבים יפנים, בריטים ואמריקאים. איך פרילנסרית קנדית מצליחה להשיג ציטוטים של כמה מהאנשים המבוקשים בתחומם? אף עורך לא שאל את השאלה הזאת באתר העיצוב הגדול שפירסם את הטקסט שלה – הם פשוט פירסמו אותו.
אחרי שיון־בראון החל ליצור קשר עם העורכים באתרים, בעיתונים ובכתבי העת השונים על מנת לקבל את תגובתם, הטקסטים של גולדי החלו להיעלם בהדרגה, ובמקומם הופיעו שגיאות 404 ("העמוד אינו קיים") או התנצלויות של המערכת. גם חשבון הטוויטר שלה נסגר.
הסיפור הזה משוגע, אבל מי שעומד מאחורי רוח הרפאים העיתונאית שנקראת "ויקטוריה גולדי" הוא ככל הנראה חלק מתופעה שהולכת ותופסת תאוצה.
מרגו בלנצ'רד, למשל, היא פרילנסרית שב–2025 פירסמה כתבות בכלי תקשורת שונים, שנחשבים בדרך כלל לרציניים. ב"סן פרנסיסקו גייט" היא סיפרה על מעריצים אובססיביים בדיסנילנד; ב"Wired" היא כתבה על נישואים שמתרחשים במשחק הווידיאו "מיינדקרפט". כתבותיה הופיעו גם ב"Business Insider", "Mashable", "Fast Company", באתרי אינטרנט ובהוצאות לאור נוספות.
בקיץ האחרון היא פנתה לג'ייקוב פורדי, שהקים גוף מדיה בריטי חדש שנקרא The Dispatch, שמתמחה בכתבות מגזין ארוכות. היא הגישה לו הצעה מסקרנת: לפרסם תחקיר על מכרה נטוש בשם גרייבמונט השוכן בעיירה קטנה בקולורדו. במכרה הזה, היא טענה, נעשים ניסויים, חקירות ובדיקות סודיות על גופות, ולדבריה היא האדם הנכון לבצע תחקיר שכזה, שכן יש לה גישה לאנשים שמכירים את הנושא מקרוב.
פורדי נדרך. מצד אחד, זה בדיוק סוג הסיפורים שהוא חשב עליהם כאשר הקים את גוף המדיה שלו: אתר נושך, בלעדי, מתוחקר היטב. מצד שני, אחרי שהחל לרחרח, הוא נתקל בכמה דגלים אדומים. בראש ובראשונה, הוא לא איתר בקולורדו מכרה נטוש (או בלתי נטוש) בשם גרייבמונט. כאשר ביקש מבלנצ'רד הבהרות, היא כתבה לו שהיא לא מופתעת שהוא לא הצליח לאתר אותו. "גרייבמונט לא מפרסם את עצמו. שמעתי עליו לראשונה כאשר ראיינתי פתולוג משפטי עבור כתבה אחרת", היא טענה.
פורדי הריח בולשיט. הוא פנה ל"Press Gazzete", מעין "העין השביעית" הבריטי, שכותב על עיתונאים ועל תעשיית העיתונות. באתר החלו לבדוק את העניין לעומק. הם בחנו את כל הכתבות שבלנצ'רד פירסמה, ומצאו מקרים רבים שבהם אנשים, שלכאורה צוטטו בשמם, לא באמת קיימים.
כך לדוגמה, בכתבה של בלנצ'רד שפורסמה ב"Cone Magazine", שעוסק בתחום האמנות, התרבות והאופנה, צוטט רפא גומז, "מייסד שותף של מותג בשם 'Fool's Gold', שהוקם בטורונטו ומתמחה באופנת רחוב". נשמע נהדר! כל עוד מתעלמים מהעובדה שאין מותג שכזה, ואותו רפא גומז – יהיה אשר יהיה, אם יהיה בכלל – לא הקים אותו.
בדומה למקרה של ויקטוריה גולדי, מהרגע שאנשי "Press Gazzete" החלו לפנות לעיתונים ולאתרי האינטרנט בנוגע לאותה בלנצ'רד וכתבותיה, הן נעלמו מהרשת, ובמקומן הופיעו התנצלויות או הצהרות על כך שהטקסט, שבעבר פורסם, נמצא "בבחינה" מחודשת. כחודשיים לאחר מכן התברר שמי שעמד מאחורי הדמות של בלנצ'רד הוא דמות פיקטיבית נוספת – יוצר קנדי שככל הנראה הצליח להחדיר גם להקה פיקטיבית לספוטיפיי. יותר ממיליון איש האזינו לשיריה, שנכתבו ונוגנו בידי בינה מלאכותית.
על אף שפורדי הביע זעזוע מהאירוע, נדמה שהוא שואב ממנו עידוד. לדבריו, הוא הקים את ה"Dispatch" כדי להתמקד בדיווחים מהשטח. ואת זה, אמר, "אי אפשר לזייף". הרי עבודה עיתונאית קלאסית דורשת לדבר עם אנשים אמיתיים וללכת למקומות אמיתיים. "בלנצ'רד היתה יכולה להתחמק מכל זה כאשר היא כתבה מאמר דעה לאתר פוליטי, כאשר היא כתבה על בריאות הנפש עבור ה'Business Insider' או על האינטרנט עבור 'Wired', אבל זה נגמר כאשר היא היתה צריכה להגיע למקום אמיתי".
יש להדגיש – תרמיות בתחום העיתונות רחוקות מלהיות המצאה חדשה. אנחנו מכירים אינסוף מקרים של עיתונאים שהמציאו מקורות, סיפורים ואירועים שלא התרחשו, אבל בכל המקרים עמד מאחוריהם עיתונאי אמיתי – חלקם עבדו בתחום העיתונות במשך שנים רבות. כעת אנחנו נכנסים לעידן שבו את הטקסטים השונים לא מייצרים אנשים, אלא מכונות.
האם מאחורי מעשי התרמית האלו עומדת מכונה שיצאה מכלל שליטה? לא, לפחות לא בשלב הזה. מה שיש כאן הוא מבצע היברידי: ישנו אדם בקצה, שמקבל את הכסף בתמורה לעבודתה של "ויקטוריה גולדי" או של "מרגו בלנצ'רד". ישנו רמאי, אבל הרמאי הזה לא נדרש להשקיע אלפית מהמאמץ שהשקיעו הרמאים שקדמו לו. הוא אפילו לא צריך לדעת לכתוב.
בניגוד לפורדי, יון־בראון כעס על עצמו: הוא היה צריך לחשוב על זה קודם. אבל הוא לא צריך להחמיר עם עצמו יותר מדי: באמזון נמכרים המוני ספרים שאף אדם לא כתב אותם, ובכתבי עת מדעיים מתפרסמים אלפי מחקרים שלכאורה נכתבו על ידי מי שחתום עליהם, ובפועל הם לא יותר מתוצאה של פרומפט מתוחכם.
קבוצה של חוקרים פירסמו מחקר בכתב העת "Nature Human Behaviour", שבו הם ניתחו יותר ממיליון מאמרים ומחקרים מדעיים שפורסמו בשנים 2020–2024. הם מצאו שבדיסציפלינות מסוימות השימוש בבינה מלאכותית לניסוח טקסטים הפך לשכיח בצורה מבהילה: כ-22% מכלל התקצירים (אבסטרקט) שנבדקו בתחום מדעי המחשב נכתבו, בדרגה גבוהה של חשד, על ידי בינה מלאכותית.
גם בודקי המאמרים לא חפים מכך. כמעט 20 אלף מאמרים ומחקרים נשלחו למארגני ועידה שעוסקת בבינה מלאכותית, שתתקיים באפריל הקרוב בברזיל. המאמרים נשלחו לעמיתיהם על מנת שיחוו את דעתם, כחלק מתהליך "ביקורת עמיתים" (Peer Review). אלא שאז התברר לחוקרים שכ–21% מביקורות העמיתים על המאמרים שלהם לא נכתבו על ידי עמיתים, אלא על ידי בינה מלאכותית.
בלית ברירה הודיעו מארגני הכנס שהם יטמיעו בתהליכי הבקרה שלהם כלים שינסו לאתר טקסטים שנכתבו על ידי מכונות – בין אם אלו הוגשו על ידי החוקרים ובין אם הוגשו על ידי העמיתים שלהם, שמחווים על המחקרים את דעתם – כדי למנוע מצב שבו בצד האחד הבינה המלאכותית כתבה את המחקר ובצד השני בינה מלאכותית הביעה עליו את דעתה.
עולם הטקסט נפל. מורים לא יודעים אם התלמידים שלהם כתבו את שיעורי הבית, מרצים לא יודעים אם הסטודנטים שלהם כתבו בעצמם את עבודת הסמינר, ואם אתם שואלים את עצמכם "רגע, איך אנחנו יכולים להיות בטוחים שיובל דרור כתב את הטקסט הזה, ולא בוט?" — זו שאלה לגיטימית. כמעט שאין לכם דרך לדעת, אלא לסמוך על העיתון שלעורכיו יש מספיק יושרה כדי להודות בכך מראש.
אבל הבעיה האמיתית מחכה לנו מעבר לפינה, במדיה העשירה: קול, תמונה ותמונה נעה. חלק עצום מההבנה שלנו את העולם נשען על ההנחה שכאשר אתה שומע משהו "במו אוזניך", אתה יודע לומר אם הוא נכון או לא, ש"לראות זה להאמין", ש"אין כמו מראה עיניים".
הביטויים האלו עוברים כעת תהליך של התפוררות מהירה. בהדרגה נגלה שאין כמעט שום משמעות לדברים שאנחנו שומעים או רואים, כי את הכל ניתן לפברק. בשנים הבאות גם "משמע האוזניים" ו"מראה העיניים" יאבדו ממעמדם. רק עד לפני כמה שנים היינו צוחקים על מי שנופל בפח ומאמין לסרטון מזויף, שהוא בבירור מזויף; היום, אפילו אנשים בעלי אוריינטציה טכנולוגית גבוהה מתקשים להבחין בין תיעוד אותנטי ליצירה בדיונית.
מארגני הכנסים, המוציאים לאור של כתבי העת, עורכי אתרי האינטרנט והעיתונים, כולם מרגישים נבגדים. האינטראקציות החברתיות שלנו מבוססות על אמון. אני נותן אמון בסטודנטים שלי שהם כתבו את העבודה שלהם, אבל אם איאלץ להחליף את ברירת המחדל שלי מ"לתת אמון" ל"לא לתת אמון", אהפוך לאדם הרבה פחות פתוח ונחמד; אהפוך למריר וחשדן.
דמיינו את האינטראקציה הבאה של כותב או כותבת שיפנו לעורך הקנדי ויציעו לו כתבה. דמיינו כמה חומות ההגנה שלו יהיו גבוהות, כמה הוכחות הוא ידרוש לפני שיסכים לקבל טקסט מאדם שאיתו לא עבד בעבר, שאותו הוא לא פגש, שהוא לא מכיר אותו באופן אישי.
האם זה העולם שממתין לנו, עולם ללא אמון?
כתיבת תגובה