הסיפור הגדול של עולם הטכנולוגיה של שנת 2023 הוא הבינה המלאכותית הג'נרטיבית וסיפורים גדולים מובילים להשקעות גדולות. אחת החברות שזכו להשקעות גדולות היא Anthropic שהוקמה על ידי שני יוצאי חברת OpenAI.
Anthropic מוכרת בעולם כחברה שמנסה לפתח בינה מלאכותית אחראית, נחמדה ולא מזיקה. קווין רוס, כתב "הניו-יורק טיימס", כתב עליה פרופיל קצר לאחר שבילה בחברה כמה שבועות ודיבר עם העובדים שלה. בטקסט שלו הוא מתאר כיצד כמעט כל המרואיינים שלו דיברו איתו על כמה בינה מלאכותית היא דבר מסוכן, עד כמה הם מתקשים לישון בלילה וגם – כמובן – עד כמה הם משקיעים מאמץ בלהפוך את הבינה המלאכותית שלהם, את "קלוד", לבינה מלאכותית אחראית, מועילה וטובה.
Anthropic מנסה להחזיק את המקל משני הקצוות: מצד אחד אנחנו מפתחים את "קלוד", בינה מלאכותית חדשנית (כמובן שחדשנית) וחזקה (ברור) ומצד שני אנחנו משקיעים מאמצים ניכרים כדי לפתח בינה מלאכותית טובה ולא מרושעת.
המסר הזה מבקש להתכתב עם שני המחנות הקולניים שממלאים את שדה הראשים המדברים בעולם הבינה המלאכותית. מצד אחד מחנה הפסימיסטים שסבור שבינה מלאכותית תוביל לקץ האנושות ומצד שני מחנה האופטימיסטים שטוען שמי שלא מחבק עכשיו ומיד וללא היסוס כלי בינה מלאכותית הוא "דוחה חדשנות", "מיושן", "שונא טכנולוגיה", "לודיט" וכל זבל העופות הזה.
השאלה האם לכל ההבטחות האלו יש כיסוי. ב-Anthropic מסבירים שהם חיכו עם ההשקה של המוצר שלהם כי הם בדקו אותו, כי הם אחראים. מעניין. החלטתי להתכתב על קלוד בעצמי ולבדוק אותו אבל מהר מאוד גיליתי שהוא זמין רק בארה"ב ובאנגליה. אז קפצתי רגע לארה"ב (באמצעות VPN) וניסיתי שוב. הוא מאוד מנומס קלוד, מאוד.
אחרי כמה שאלות ראשוניות שאלתי אותו מיהו יובל דרור.
כמו שאפשר לראות, מסתבר שאני מדען מחשב וסגן נשיא למחקר ופיתוח בחברת Anthropic "החברה שיצרה אותי", הסביר לי קלוד. קיבלתי את הדוקטורט שלי במדעי המחשב מאוניברסיטת סטנפורד והקמתי את Anthropic יחד עם שני מייסדים נוספים.
ביקשתי קישורים, מראי מקום למידע הפנטסטי הזה. קלוד נענה בשמחה.
נכנסתי לקישורים האלו. באף אחד מהם אין מידע על יובל דרור. זה לא שיש בהם מידע על יובל דרור אחר. אין בהם מידע על אף יובל דרור ולמעשה חלק מהקישורים האלו מומצאים לחלוטין ומובילים לשגיאה 404. באופן משעשע למדי, הקישור למחקר שקלוד הפנה אליו הוא של קבוצה של חוקרים, אף אחד מהם לא נקרא "יובל דרור", אבל אחד מהם הוא פרופסור מור נעמן, שהוא חבר שלי, הוא למד איתי בשכבה בבית הספר היסודי! עולם קטן.
כפי שניתן לראות, Anthropic מוסיפה הערה בתחתית התשובה לפיה הקישורים עשויים להיות לא מדויקים או לא מעודכנים. יפה מצידם. החלטתי להעמיד את קלוד על טעותו.
עכשיו הוא מתנצל עד עמקי נשמתו. עכשיו הוא נזכר שבעצם הוא לא היה צריך להמציא. הוא מצטער.
הבינה המלאכותית הג'נרטיבית נמצאת בראשית דרכה ויש מצב ש"הזיות" מהסוג הזה יפתרו או יהפכו לנדירות יותר (אם כי יש על כך מחלוקת). העניין הוא שבינתיים הן כאן והן כאן בגלל שהטכנולוגיה נמצאת בחיתוליה והיא עמוסה בבאגים, בבעיות ובמוזרויות שהמפתחים לא תמיד יודעים לפענח וכנראה גם מתקשים לנכש.
האם זה אומר שצריך להפסיק את הפיתוח של המערכות האלו? לא. האם זה אומר שצריך להפסיק את השימוש בהן? גם לא. אבל נדמה לי שזה אומר שצריך להרגיע את כל אלו שמתופפים על תופי הטם-טם ומודיעים לכל העולם שמי שלא יצטרף למהפכה הזו ממש עכשיו, ממש הרגע, הרגע הזה ממש, יישאר מאחור.
אל תיתנו למתלהבים האלו להלחיץ אתכם. או שהם כסילים מוחלטים או שהם מנסים למכור לכם משהו.
אני לא בטוח שאני מסכים לגבי הטענה האחרונה שלך. המערכות האלה הן לא טובות כרגע, אבל מי שלא משתמש בהם עכשיו, יכול למצוא את עצמו ללא כישורים נדרשים, כאשר הן יהפכו ליעילות. כמו כן, נסיון עם מערכות אלה יכול ללמד אותי איך להימנע מהיכולת שלהן לרמות אותי. כאשר המערכות האלה ידעו מה לעשות – הייתי רוצה להיות בחזית – זה שכבר למד והפך את הידע שלהם למשהו שימושי.
תלוי מה אתה צריך מהן. אם אתה סטודנט אתה יכול להשתמש בהן לכתיבת עבודות וקשה מאוד לזהות את הזיוף במקרים רבים. זה לא מושלם אבל יש לזה כבר הרבה שימושים מעשיים.
בלי קשר (ואולי עם) הרעה החולה של הבינה המלאכותית היא היכולת שמוגבלת מאד לומר: "אני לא יודעת", אלא פשוט ממציאה מידע שלא קיים, או בעצם מדביקה מידע קיים, אך ממש לא רלוונטי לשאילתה/ לבקשה/ לאיתור/ חיפוש – מידע אמין ומבוקר. ועד שלא תהיה יכולת של ממש לומר "אני לא יודעת" (או "כבר שאלת אותי, אתה מחפש מידע נוסף/ אחר ממה שהצעתי? מצטערת – עשיתי את המיטב") במקום לחרטט – הבלון הזה יתפוצץ ברובו, והכלים של היום תחת הכותרת בינה מלאכותית, יקבלו פנים אחרות מההיצע הדי מבלבל ולא אמין הקיים כיום.
בינג דווקא כן נוטה לכיוון הזה, שאל אותו סתם לדוגמא על קודים בשפות תכנות פחות מוכרות ותקבל תשובות בסגנון שביקשת
באמת שאתה נדמה טהורה שאתה מדייק את מכונות ה AI.
חוץ מזה, מרושע? מה שרע לך עשוי להיות טוב ל OpenAI או מישהו אחר.
טכנולוגיה היא טובה או רעה בהתאם לשימוש שעושים בה בני אנוש
איך שאני רואה את ה"AI" היום זה לא כאינטליגנציה מלאכותית, אלא כדימוי של אינטליגנציה מלאכותית. כלומר, הן לא מספקות תשובות אמיתיות אלא משהו שסטטיסטית דומה לתשובות אמיתיות שהופיעו בתכנים שהם התאמנו עליהם. פעמים רבות זה יכלול מידע אמיתי, ופעמים רבות זה יכלול מידע פיקטיבי. וכן, יש חפיפה.
באשר לסיפא שלך, אני מסכים בגדול, אלא אם אתה מתכנת בתחום הAI. במצב כזה, עכשיו נראה לי כמו זמן טוב להתעסק עם זה.