עושים טכנולוגיה
פודקסט על טכנולוגיה, אנשים ומה שביניהם
פרקים שאני אוהב במיוחד
[239] בום. בינה. בועה?
בחודשים האחרונים נשמעים יותר ויותר קולות, חלקם של מנכ"לי חברות הבינה המלאכותית עצמם, שטוענים שאנחנו נמצאים בתוך בועת בינה מלאכותית, ועדיין, לא מדובר בקביעה שכו-לם מסכימים עליה: יש כאלו שטוענים שמדובר בהגזמה ושפרשנים רבים ממהרים להכריז על בועות שעומדות להתפוצץ כמעט בכל שנה, וכמעט בכל שנה הם טועים.
לפני שנכנסתי לתוך המספרים, לתוך הנתונים והטיעונים, גם לי לא היתה דעה מגובשת סביב השאלה האם אנחנו בבועה: האם יש בום של התלהבות מבינה מלאכותית? בוודאי, אבל למה לא? זו טכנולוגיה שעומדת לשנות את העולם, אם לא נתלהב ממנה, ממה נתלהב? האם יש של בום השקעות בבינה מלאכותית? כן, אבל ככה זה תמיד. במסילות רכבת לא השקיעו? באוטוסטרדות לא השקיעו? בהנחת סיבים אופטיים לא השקיעו? השקיעו. אז משקיעים גם עכשיו.
בלגאן. ננסה לעשות סדר.
ראשית, ננסה להבין ממה בנוי הטיעון שאנחנו נמצאים בבועה, על מה הוא נשען, על אילו נתונים ועד כמה הם משכנעים? לאחר מכן ננסה להבין האם הטיעון לפיו "גם אם יש בועה, זה לא כל כך רע – למעשה, זה אפילו טוב!", האם הטיעון הזה, משכנע.
הצטיידו במשאבה או בסיכה: בום. בינה. בועה?
[237] שיגעון בשניים – הכישרון של מר בוט
בחודשים האחרונים פורסמו יותר ויותר אירועים שבהם אנשים שמתכתבים עם ChatGPT ובוטים אחרים, מפתחים דלוזיות, פסיכוזות ולעתים נקלעים לתוך מחילות של הזיה. בפרק בפרק הקודם התמקדתי בשאלה "איך זה קורה", הפעם אתמקד בשאלה אחרת: "למה זה קורה".
תחילה אנסה להסביר מדוע אין טעם לבקש מהבוטים לספק הסבר שיבהיר למה הם עושים את מה שהם עושים ואחר כך אציג השערה שאני חושב שמסבירה למה חלק מהמשתמשים מוצאים את עצמם מדברים עם הבוטים האלו ובהדרגה גולשים תוך מחוזות ההזיה.
[236] שיגעון בשניים – פסיכוזה טכנולוגית
מאות מיליוני בני אדם משתמשים בצ'אטבוטים וזה לא מפתיע לגלות שחלקם מפגינים התנהגויות שיש בהן, למשל, מן ההתמכרות. אחרי הכל מבין מיליארדי בני האדם שאוכלים שוקולד, יהיו כמה שיתמכרו לשוקולד, מבין מיליארדי בני האדם שעושים קניות, יהיו כמה שיתמכרו לקניות, שלא לדבר על כך שלפעמים הבעיות שאנחנו רואים הן התוצאה ולא הסיבה. כלומר, בגלל שיש לי אישיות התמכרותית אני מבלה עשר שעות בצפייה בטלוויזיה. זה לא בגלל שהטלוויזיה "גרמה לי" להתמכר אליה אלא בגלל שאם זו לא היתה טלוויזיה זה כנראה היה משהו אחר.
כך חשבתי על העניין עד לא מזמן אבל בחודשים האחרונים אני עוקב אחרי תופעה שהולכת ומתפשטת ברחבי העולם ואני מתחיל לשנות את דעתי: משתמשים ובעיקר בני משפחותיהם, מדווחים על אירועים פסיכוטיים, אירועים של הזיות, של פרנויה וניתוק מהמציאות, שמתרחשים אחרי סשנים ארוכים של שיחות עם הבוטים השונים.
מה קורה במקרים האלו? האם אפשר למצוא דפוס משותף בשיחות שמתחילות כשיחה רגילות ובתוך זמן קצר יחסית הופכות לשיחות שנראה שיצאו מתוך הזיה? אני אספר על מחקר של קבוצת חוקרים בריטים שמספק קצה חוט להבנת הדינמיקה הרעילה הזו רגע לפני שננסה להבין למה האירועים האלו בכלל מתרחשים.
[232] יובל דרור מת. יחי האלגוריתם
ההתקדמות בעולם הבינה המלאכותית היא מהירה ורחבה ובתקופה האחרונה המערכות שמייצרות סרטוני וידאו משכו תשומת לב רבה, אבל אולי בגלל שאני אוהב כתיבה טובה דווקא ההתפתחויות בתחום מערכות הבינה המלאכותית הכותבות מושכות את תשומת הלב שלי.
חלק עצום מהחברה, התרבות, הכלכלה, המשפט, למעשה הציוויליזציה המערבית כולה, כולם מבוססים על כתיבה. אתה מנסח חוזים, חותם על תצהירים, כותב מאמרים אפילו שולח הודעות ווטסאפ – הכל מבוסס על כתיבה. אבל מה קורה מהרגע שבו הכותב האנושי נעלם, מה קורה מהרגע שאין בו עוד צורך מכיוון שמערכות הבינה המלאכותית כותבות עבורו ובמקומו? כמו הרבה דברים אחרים שקשורים בבינה מלאכותית, במחשבה ראשונה אתה אומר לעצמך "גן-עדן! מי צריך את המטלה המעיקה, הארוכה והמאוד מעייפת של כתיבה. שהמערכות האלו יעסקו בכתיבה וישחררו אותי לעשות דברים אחרים!". אבל כמו הרבה דברים אחרים שקשורים בבינה מלאכותית, במחשבה שנייה אתה מבין שגן העדן שחשבת עליו, עשוי להתגלות כאשליה.
זה החלק הראשון בסדרה בת שלושה חלקים שעוסקת בשינוי הגדול ביותר שעומד לטלטל את עולמם של הכותבים, הסטודנטים, המרצים והמפתחים – הוא יטלטל גם את עולמכם. ולא, השינוי הזה ממש לא רחוק; למעשה, הוא כבר כאן.
[229] פרויקט הפירמידות של המאה ה-21 הוא הזייה
כל מי שמבקר בשנים האחרונות בערב הסעודית שומע מהמקומיים דבר אחד ודבר אחד בלבד: "פרויקט 2030" או "חזון 2030". מטרתו של החזון, שאותו מוביל יורש העצר מוחמד בן-סלמן, הוא להפחית את התלות הכמעט מוחלטת של הסעודים בנפט וזאת באמצעות גיוון מקורות ההכנסה של המדינה. בין השאר הסעודים משקיעים בבידור, בספורט, ביעילות ממשלתית ובפרויקטי תשתית חדשניים.
פרויקט התשתית הגדול מכולם נקרא NEOM והוקצו לו לא פחות מ-500 מיליארד דולר. NEOM הוא מרחב ענק שמוקם במדבר הסעודי ושכולל כמה תתי-פרויקטים, בראשם The Line, "הקו", עיר עתידנית שצפויה להימתח מהים האדום ולאורך המדבר הסעודי, בצורה של קו, קו ישר שאין בו אפילו עיקול אחד. על פי התוכניות ה"קו" צפויה לאכלס לא פחות מ-9 מיליון תושבים.
אין שום דבר נורמלי ב"קו", עיר שאמורה להישען על שורה של טכנולוגיות חדשניות, חלקן, טוענים המבקרים, בכלל לא קיימות וכבר כעת יש שטוענים ש"הקו" אחד המיזמים הבזבזנים, המטורפים והבלתי מוצלחים מאז הניסיון להקים את מגדל בבל.
זהו סיפורו של "הקו", מיזם הפירמידות של המאה ה-21.
[221] אוו שיט – המכונה החושבת
בסוף נובמבר 2022 הושק בוט חדש תחת השם הדבילי והבלתי סקסי בעליל: ChatGPT. ב-OpenAI לא האמינו שהוא יצליח, אבל לא רק שהוא הצליח, הוא הפך לסנסציה שהיוותה את מכת הפתיחה למהפכת הבינה המלאכותית. חלפו קצת יותר משנתיים ועידן ה-GPT עומד לחלוף מהעולם.
משפחה חדשה של בוטים עושה את דרכה אלינו והיא עובדת בצורה שונה מהמשפחה שהכרנו עד כה. היא יותר איטית אבל יותר חכמה, היא יותר צרה אבל יותר מפחידה, היא יותר דומה לאופן שבו אנחנו חושבים ובעיקר היא מקרבת אותנו, כנראה בצורה משמעותית, לרגע הזה שכולם מחכים לו וגם חוששים מפניו, הרגע שמכונה AGI, "בינה מלאכותית כללית", הרגע שבו המכונות ידעו לעשות כל דבר שאנחנו עושים ואולי אפילו לסופר-בינה מלאכותית, מצב שבו המכונות ידעו לעשות כל דבר יותר טוב מאיתנו.
מה כל כך שונה במשפחה הזו? למה היא כל כך מלהיבה אבל גם כל כך מפחידה? למה OpenAI מסרבת להסביר איך היא בדיוק עובדת ואיך זה שבכל זאת אנחנו כנראה יודעים איך היא עובדת? למה המערכות האלו כל כך חכמות אבל האם יכול להיות שבגלל שהן כל כך חכמות, הן גם כל כך שקרניות ואיך כל זה קשור לחברת DeepSeek הסינית שהפילה את וול-סטריט?
[203] אני לא יודע
אחת הבעיות הגדולות עם מערכות הבינה המלאכותית החדשות היא שקשה לסמוך עליהן ויש לכך שתי סיבות עיקריות: הראשונה היא שאנחנו לא יודעים למה הן פועלות בדרך שבה הן פועלות, למה הן נתנו לנו תשובה א' ולא תשובה ב' והשנייה היא שלא רק שאנחנו לא יודעים מה קורה בתוכן, לפעמים הן מנפיצות תשובות, ממציאות תשובות שאין בינן ובין המציאות שום קשר.
אבל למה זה קורה? למה אנחנו לא מבינים מה קורה בתוך המערכות האלו ולמה הבוטים מתקשים לומר "אני לא יודע"? ובכן אפילו על השאלות האלו קשה לענות ובכל זאת זה מה שאני אנסה לעשות: אנסה גם להסביר את בעיית "אני לא יודע" וגם אספר על התקדמות מעניינת באחת הגזרות, התקדמות ששופכת אור על האופן שבו המערכות האלו פועלות מה שאולי יאפשר לנו קצת יותר לסמוך עליהן. אולי.
[200] היום שבו כל ההצפנות יפרצו
בשנים האחרונות מתנהלת בין ארצות הברית לסין מלחמה קרה וב"עושים טכנולוגיה" סיקרנו כמה פנים שלה: הצבענו על החשש של ארה"ב מטיקטוק, סיפרנו על המאבק בין המעצמות סביב פיתוח שבבים וגם סביב הנחת כבלים תת-ימיים. בפרק הזה, הרביעי בסדרת "המלחמה הקרה החדשה", אנחנו עוסקים בטכנולוגיה שצפויה לפרוץ את כל ההצפנות שבהן כולנו משתמשים: מחשוב קוואנטי.
הדבר הזה, שרק מעטים מסוגלים להסביר אותו, ועוד יותר מעטים מסוגלים להבין אותו, מתקרב אלינו בצעדי ענק והוא מוביל למרוץ אדיר וחסר רחמים בין המעצמות, שמנסות להגיע ראשונות לקו היעד. האם אכן כל ההצפנות יפרצו ועד כמה אנחנו קרובים לשם?
ספוילר: כמעט כל ההצפנות יפרצו ואנחנו ממש ממש קרובים.
[180] טכנולוגיה, בינה מלאכותית וסרטי מדע בדיוני
האם האופן שבו אנחנו מבינים את הטכנולוגיה, את האופן שבו היא פועלת ואת האופן שבו היא משפיעה עלינו, קשור לדרכים השונות שבהן טכנולוגיה מוצגת בסרטי המדע הבדיוני?
את ההשראה לשאלה המשונה הזו קיבלתי מפרק ששודר בפודקסט של מלקולם גלדוול שבו הוא הראה כיצד ז'אנר הספרים שעוסקים בשוטרים משפיע על האופן שבו אנחנו מבינים את עבודת המשטרה. האם אותו הדבר קורה עם טכנולוגיה?
יצאתי למשימה לקטלג ולסווג את הז'אנרים המרכזיים של סרטי וספרי המדע הבדיוני שבמרכזם עומדת טכנולוגיה ומצאתי שז'אנר אחד הפך לפופולארי במיוחד – וכן, יכול להיות שהוא משפיע על האופן שבו אנחנו מבינים – ובעיקר לא מבינים – טכנולוגיה.
[178] עתיד האנושות הוא סולארפאנק
בקיץ 2023 נשברו שיאי חום ברחבי העולם ורבים נזכרים באפוקליפסה האקלימית שמוצגת בסרטים כמו כמו "עולם המים", "היום שאחרי מחר" או "רכבת הקרח". בסרטים האלו וברבים אחרים, הסביבה לא דומה בשום דבר לסביבה הדינאמית והירוקה שאנחנו מכירים: או שהיא מוצפת במים בגלל הפשרת הקטבים או שהיא מדבר שממה, מקום חם ובוער שאין בשמיים שלו ענן אחד לרפואה.
אל מול העתיד השחור והמפחיד הזה מבקשת תנועת הסולארפאנק להציב אלטרנטיבה.
הסולארפאנק היא תנועה אופטימית – אולי אופטימית מדי – שאנשיה מאמינים שלמרות הנזקים האיומים שהסבנו לכדור הארץ, עדיין ניתן לבנות עתיד אחר, עתיד שבו בני האדם לא מנסים לנצל ולשעבד את הטבע לצורכיהם אלא כזה שבו בני האדם חיים בהרמוניה עם הטבע בין השאר בגלל שהם משתמשים בטכנולוגיות שלא מנסות לשדוד את הטבע, לפרק או להמית אותו. למעשה, בעתיד שהתנועה מדמיינת, הטכנולוגיות יהיו מתקדמות ומועילות לא פחות מהטכנולוגיות שיש לנו היום.
האם זה אפשרי?
[170] התיק המוזר של טיקים בטיקטוק
מאמצע 2019 ועמוק אל תוך 2020, הופיעו עשרות בני ובנות נוער במרפאות ברחבי העולם כשהם מפגינים הפרעות מוטוריות ששכיחות בקרב אנשים שסובלים מתסמונת טורט. על פניו אין בכך שום דבר מוזר עד שמבינים שכל זה לא הגיוני.
תסמונת טורט מתגלה בגילאים צעירים בדרך כלל בגילאי 3-8 אבל פה מדובר בבני נוער שבבת-אחת פיתחו את הטיקים האלו. אלו גם לא היו טיקים שאופייניים לטורט. הם היו הרבה יותר מורכבים ומוזרים ואם בכל זה לא די, רוב הפניות הגיעו מצד הורים של בנות ולא של בנים, עובדה משונה בהינתן שהתסמונת הזו שכיחה פי ארבע יותר בקרב בנים. כאן הגיעו בעיקר בנות. פי עשרים יותר בנות.
מאמר שפורסם באוגוסט 2021 בכתב העת המדעי Brain ושעליו חתומים כמה מהמומחים הגדולים בעולם בתחום, טוען שהתופעה הזו שנצפתה במקומות שונים בעולם דוגמת ארה"ב, קנדה, אוסטרליה, דנמרק, צרפת, איטליה וגרמניה, היא בכלל לא טורט אלא סוג חדש של מחלה סוציוגנית המונית, כזה שהמקור שלה הוא מדיה חברתית. המאמר הזה הוביל למהומה שעדיין לא שכחה.
ברוכים הבאים לתיק המוזר של הטיקים בטיקטוק. סליחה.
[155] שמענו שנפטרת. האם זה נכון?
לפני כמה חודשים קראנו למאזינים שלנו ליצור איתנו קשר ועשרות רבות נענו לקריאה. שאלנו אותם שאלה פשוטה: "האם ברשימת אנשי הקשר שלכם ישנם מספרי טלפון של אנשים שאינם בין החיים, ואם כן, מדוע אתם עדיין שומרים אותם?!".
התשובות לשאלה הזו הובילו לכמה שיחות מרתקות, חלקן מצחיקות עד דמעות ואחרות שוברות לב שעוסקות בקשר בין זיכרון והעולם הדיגיטלי ובין כעס להשלמה.
[149] מה הבעיה שלי עם אפל?
מאז שאני מגיש את "עושים טכנולוגיה" יצא לי כמה וכמה פעמים לומר שיש לי בעיה עם אפל וכאשר אני פוגש מאזינים זו השאלה שהכי מטרידה אותם: "תגיד", הם אומרים לי כשהם מנופפים באייפון שלהם, "מה הבעיה שלך עם אפל?". זו שאלה לגיטימית.
אפל היא חברה אמיתית שהמציאה את עצמה כמה וכמה פעמים מחדש. היא הביאה לעולם את המקינטוש, את האייפוד, אייפד, אייווטש, איירפודס וכמובן את האייפון. חלק מהמכשירים האלו שינו את העולם, חלקם טלטלו תעשיות שלמות. במוצרי אפל משתמשים מיליארדי בני אדם.
אז איך אני, כחובב טכנולוגיה ידוע, יכול להרשות לעצמי להגיד שיש לי בעיה עם אפל? בעיה? אני לא מוכן לקנות אף מוצר של החברה הזו. אבל למה?
נראה לי שהגיע לענות על השאלה וגם להסביר איך היא קשורה לברגים.
[144] זהירות: האזנה לפרק עשויה להפוך אתכם למסטולים
מקצבים בינוראלים, Binaural Beats, או טונים דו-אוזניים, הם טונים מיוחדים שנוצרים כתוצאה של אשליית סאונד שנגרמת כתוצאה מהאופן שבו המוח שלנו מפרש את המידע שזורם אליו מהאוזניים שלנו.
על הטונים הדו-אוזניים כתבו כבר לפני יותר מ-180 שנה אבל משנות השבעים של המאה ה-20 החלו מדענים לבדוק האם ואיך האזנה להם משפיעה על המצברוח שלנו, על רמות החרדה שלנו, על הזיכרון שלנו, על היכולת שלנו להתרכז.
כ-5% מבין כ-30 אלף נשאלים מ-22 מדינות שונות, דיווחו שהם נוהגים להאזין למקצבים האלו אבל מדוע אחד מבין עשרה מאזינים טען שהמוטיבציה שלו היא לחוות חוויות פסיכדליות? אפשר להתמסטל מהאזנה למקצבים מוזיקליים??! בפרק הזה נאזין להם וננסה.
[110] אוקסיקונטין: משכך הכאבים שהרג חצי מיליון אמריקאים
במאי 1996 החלה חברת פורדו-פארמה האמריקאית למכור את האוקסיקונטין, משכך כאבים חזק שהפך בתוך זמן קצר לבלוק-באסטר, להיט מהסוג שעולם הרפואה כמעט ולא הכיר עד אז. אלא שאותו משכך כאבים, שהיה אמור להפחית את האפשרות להשתמש בו לרעה, הוביל למשבר הבריאותי הגדול ביותר שידעה ארה"ב, לפחות עד להופעת הקורונה. מדובר במשבר שהביא למותם של כחצי מיליון אמריקאים.
במשך שלושה עשורים התפתח אחד הסיפורים המדהימים והמזעזעים שידע עולם הרפואה והטכנולוגיה, סיפור על שיווק ופרסום, על רגולציה ובתי משפט, סיפור על הבטחה טכנולוגית אדירה שיצאה מכלל שליטה והניסיונות הנואשים להשתלט עליה בחזרה.
לפניכם הפרק הראשון בסדרה בת שלושה חלקים שמספרת את סיפורו של משכך כאבים שהרג חצי מיליון אמריקאים. בפרק הזה: העליה לגדולה.