ויהי אור

באותו לילה לראשונה מזה שנים חלמתי על דולפינים. זה לא היה החלום המיתולוגי ההוא שהיה חוזר אליי מילדותי ועד גיל 30, ובו תמיד פגשתי דולפינה אחת ויחידה בחוף נידח. הפעם זה היה בתל אביב, והחוף דמה יותר לבריכה, ובמים היתה להקה ענקית של דולפינים. אבל כמו בחלום ההוא, קפצתי למים ושחיתי איתם. והתעוררתי ב"חלום הראס" (מבחוץ חושה מבפנים סוויטה), ומצמצתי קצת וגיליתי שחשכת הלילה מתפוגגת מעט, ויצאתי החוצה כדי להגיע בול בזמן לאחת ההופעות המהפנטות עלי אדמות, הזריחה בסיני.

היופי בזריחה של סיני טמון בבילד-אפ המפואר שלה: בשעה שהשמש מתקינה עצמה בסתר מאחורי פרגוד ההרים של סעודיה, האפלה מתחילה להיצבע בגוני לילך מפוייסים, ואז מתגנב אליהם סומק ורדרד, וכעבור עוד כמה רגעים מתחילות לבעור בשמים ובמי-המראה של ים סוף להבות כתומות עזות, ואז, בדיוק מתוך המחשוף שבין שני ההרים הרחוקים היא עולה כמו תליון של אש, והכל בוער: הרקיע, ההרים, פני הים.

כלבה לבנה צופה בחיזיון הזה לצידי בהדרת כבוד. אנחנו לא מחליפים מילה או ליטוף, אבל דומה שאנחנו מחוברים, כמעט ממוזגים, בתוך קנבס הציור של הבריאה, דף חדש שכולו אור.

אפשר לומר ביג דיל, זה קורה ליטרלי כל יום, בכל העולם. אבל זה כל היופי: לפני עשרות אלפי שנים עמד כאן אחד מאבותי הקדומים ועצר את נשימתו מול המחזה. לצידו אולי היתה כלבה/זאבה, אמה הקדמונית של הכלבה שלצידי.

אין הבדל גדול בין מה שחוויתי לבין מה שהוא חווה. החוויה שלי לא עשירה יותר בגלל שלמדתי בבית ספר שלא השמש זורחת אלא כדור הארץ מסתובב, היא לא מרגשת יותר בגלל שאני יודע את מימדי השמש ואת המרחק שלה מכדור הארץ (האמת שמזמן שכחתי). בקיצור, רגע כזה של אושר לא קשור לאינטליגנציה או לידע שלי אלא לאנושיות שלי, שהיא הרחבה של החיות שלי (מלשון חיה, בעל-חיים).

היא היתה קשורה לתחושת הרווחה שמיליארדי יצורים חיים חווים כשהאור חוזר אחרי האפלה; לחוש ההרמוניה שמוטמע בנו כל כך עמוק, פילטר מורכב שמזהה תוך הרף עין את ההבדל שבין חסד לבין סכנה; והיא היתה קשורה גם לעובדה שצעדתי לתוך הפלא הזה היישר מחלום הדולפינים שלי; ושידעתי שעכשיו אחזור לישון לעוד כמה שעות, טעון בכל היופי הזה, לפני שאתעורר ליום האחרון שלי בסיני לסיבוב הנוכחי.

מה את מבינה

הדיבור עכשיו הוא שתכף הבינה המלאכותית עוקפת אותנו במהירות הברק, נעשית גאונה ברמות שאנחנו לא יכולים לתפוס במוחנו הקטן והמוגבל, ותוך שנים ספורות הופכת את כולנו לפגי-תוקף, טיוטה חיוורת ומפגרת של הדבר האמיתי. כפי שתוכלו לקרוא אצל יריב המר, כמה מהאנשים שפיתחו אותה כבר יצאו בקריאה נרגשת לעצור הכל, ומיד. אבל הרכבת הזאת כבר הפליגה, הספינה כבר עזבה את התחנה או איך שלא אומרים. זה היה צפוי לפחות מאז המצאת המחשב, וספרות המד"ב של שנות ה-70 מלאה בסיפורים על אנדרואידים ומערכות הפעלה שהופכים לגירסת טורבו של האנושות.

כשניצבים מול תסריט בלהות אפוקליפטי שכזה, הדבר הכי טוב לעשות הוא מה ששום AI לא תעשה לעולם: לעצור רגע ולנשום.

מול הזריחה בסיני, מול מסך הטלפון, מול דפי העיתון: לעצור שנייה, לנשום עמוק, להחזיק את האוויר בריאות, ולשחרר לאט.

יופי. יכול להיות שיבאס אתכן לדעת שבזמן שנשמתן את הנשימה הבודדה הזאת, התוכנה הכי דבילית ביצעה שני מיליארד פעולות חישוב מקבילות. אני מקווה שינחם אתכם לדעת שהיא לא נהנתה מאף אחת מהן. היא גם לא סבלה וגם לא התרגשה וגם לא הופתעה וגם לא התאכזבה וגם לא התעייפה וגם לא התבלבלה וגם לא שאלה את עצמה מה הטעם בכל זה.

וכאן טמונה הסכנה הגדולה וההזדמנות הנפלאה שהרגע ההיסטורי הזה מזמן לנו: הוא מאלץ אותנו להגדיר את עצמנו כאנושות. כך פועלת האבולוציה, ומין שלם עומד מול צומת שבצידו האחד התפתחות וצמיחה ובשני סכנת הכחדה.

בזמן שאנחנו נושמים, בואו נראה מול מה אנחנו עומדים. בינה מלאכותית? מוזר שכך תורגם המונח בעברית. אינטליגנציה ובינה הן לחלוטין לא אותו דבר. אדם יכול להיות די אינטליגנטי וגם אהבל לא קטן (מי שהיה צריך הוכחה קיבל שפע מהן בשנים האחרונות). בינה היא עניין אחר, היא לא קשורה בכמה אנחנו יודעים אלא בהבנה של הידע הזה, בתבונה.

אינטליגנציה מלאכותית לא מבינה שום דבר. היא מעבדת על פי אלגוריתמים. אין ולא יהיה לה רגע של "אהההה… הבנתי!!!", אלא מיליארדי ננו-רגעים של הצלבה ומיון של מידע, בתנועת חפירה עיוורת. אינטליגנציה מלאכותית יודעת לשקלל נתונים, אבל אין לה מושג ולא אכפת לה מה הם אומרים, הם רק שורות קוד כמו כל שורת קוד. היא יכולה לבצע פעולות מורכבות במהירות מסחררת בלי לטעות, בלי לנוח, ביעילות מושלמת. בקיצור, היא יכולה לעשות מה שאנחנו כמין החלטנו משום מה שהכי חשוב בעולם: להיות עובדים מסורים, יעילים ומצליחים. ובכן, חדשות קשות: יש קאובוי חדש בעיר.

בעיניי אלה חדשות מלבבות. בעוד רגע מירוץ העכברים נגמר, החולדה האלקטרונית ניצחה. הללויה. אין יותר צורך באנשים יעילים, אין צורך בפועלים שחורים, אין צורך בעבדי היי-טק, אין צורך ב"מוסר עבודה". תכף מגיע הזמן לברר במה יש ותמיד יהיה צורך, ומי אנחנו כשאנחנו לא מקדישים את חיינו למשהו שלא תורם לנו שום דבר אבל מונע מאיתנו לאכול צהריים עם הילדים.

יחסינו לאן

עוד תת סעיף בבהלה מפני האינטליגנציה המלאכותית קשור בחשש שהיא תנהל את חיינו, ואז גם תשמיד אותנו. הרפואה, התעבורה, החשמל, הממשל, הכל יהיה בידיים שלה. זה מצחיק כי זה כבר קרה, לא בגלל תוכנות חסרות נשמה אלא בגלל תאגידים ופוליטיקאים רדומי נשמה שבעיניהם שאר האנושות היא משאב שיש לנהל ביעילות מירבית. האינטרס שלהם לשעבד את נתיניהם גלוי פי אלף מהאינטרס של אינטליגנציה מלאכותית לעשות משהו כזה, כי לאינטליגנציה מלאכותית אין אינטרס, לטוב ולרע. אני לא אומר שהיא לא עלולה להזיק לנו, אבל אני פחות חושש מהזדוניות שלה.

הילידים של יבשת אמריקה לפני הכיבוש הלבן (שאנחנו עדיין מכנים למרבה המבוכה "אינדיאנים") האמינו שהכל חי, והכל מורכב ממערכות יחסים. יש לך מערכת יחסים עם נציג/ה של עם החרקים, או של עם האבנים או של עם הגשמים. כל מפגש עם כל דבר הוא מערכת יחסים, כל פעולה היא שיחה עם מה שמולי. לפני 250 שנה, עם פרוץ המהפכה התעשייתית, התחילה מערכת היחסים שלנו עם המכונה. מה שאנחנו חווים עכשיו הוא המשך בלתי נמנע של אותה מערכת יחסים. זה לא חדש, זה רק מואץ מאוד.

הנה קטע: כמעט בכל סרטי המד"ב של המאה הקודמת ידעו לחזות שהשלב הבא אחרי טלפונים (שהיו אז קוויים) יהיה תקשורת וידיאו ניידת. בכל הסרטים והסדרות הללו רואים שכך מדברים בטלפון בעתיד, בתקשורת חזותית מלאה.

והנה אנחנו מזמן חיים בעתיד הזה. הטכנולוגיה זמינה כבר למעלה מעשור, לא צריך להוריד שום אפליקציה, רק ללחוץ על סימן המצלמה ואנחנו ב"אנטרפרייז". כמה משיחות הטלפון שלנו באמת מתנהלות ככה? כמעט אפס (חוץ מרגעים נדירים שבהם יש בזה תועלת, ורגעים קינקיים שגם בהם מן הסתם יש תועלת). למה? הרי על זה האנושות חלמה כבר 50 שנה! למה? כי לא בא לנו. אז למרות שדחפו לנו את הטכנולוגיה המהפכנית לכל מכשיר אמרנו לא תודה, לא בא לי עכשיו לעשות גבות ושפם.

הנה עוד קטע: מתי מטוסי נוסעים יטיסו את עצמם לבד, בלי טייס אנושי? התשובה היא כמובן לעולם לא, ומזמן כן. כלומר, כבר לפחות עשרים שנה שכל פעולות המטוס הן אוטומטיות, ומבחינה טכנולוגית אין שום מניעה שמטוסי נוסעים ירחפו להם ללא טייס (ויש אפילו הטוענים שזה יהיה בטוח יותר, ושרוב התאונות נובעות דוקא מטעויות אנוש). אז למה זה לא קורה, למה בכל מטוס עדיין משלמים משכורות גבוהות לטייס ולטייס משנה ומשקיעים במדים מפונפנים עם כובע מצחייה? כי אם לא נראה אותם חולפים לפנינו בעמדת הבידוק בצעדתם הטווסית לקוקפיט, אין מצב שרגלנו תדרוך על כבש המטוס. תראו לנו אלפי תרשימים, טבלאות ונתונים וזה לא מעניין לנו את הפרופלור. לא טס בלי טייס.

אלה הן שתי דוגמאות לאופן הדו-כיווני שבו מתנהלת מערכת היחסים שלנו עם המכונה. יש כמובן שפע דוגמאות להתנהלות פחות מיטבית, אבל הנקודה החשובה היא שזו מערכת יחסים. זה לא כוח-טבע אבסולוטי שפועל באופן דטרמיניסטי, כלומר על פי גורל קבוע מראש. זו ישות, מלשון "יש", כמו שהחום או הקור הם ישויות, כמו שיתושים הם ישויות, כמו שהזריחה בסיני היא ישות, כמו שהישועים והשעועית הם ישויות (סליחה לא התאפקתי). ואין ישות שהיא רעה או טובה, היא יכולה להיות "רעה לנו" או "טובה לנו" וזה קשור באופי מערכת היחסים שלנו איתה.

פחד הוא מרכיב מאוד לא מועיל במערכת יחסים; כך גם הכחשה, וכך גם השלכה (כמו למשל לקבוע שישות מסויימת תפעל באופן זדוני רק מפני שאנחנו מנחשים שכך היינו נוהגים במקומה). כרגע הא"מ היא תינוק. אם נאכיל אותה בפחד, היא תעשה כמיטב יכולתה להגשים אותו, כי ככה היא בנויה.

ואיך אנחנו מאכילים אותה? כמעט בכל רגע, בכל פעולה. גם הטקסט הזה, שעולה באתר "בראשית", מתווסף לפירמידת המזון שלה. בכל פעם שאנחנו פותחים סרטון של מכות באילת, בכל פעם שאנחנו מחליטים לדלג. וגם בפעולות הלא מקוונות שלנו, כי כל בחירה בסופו של דבר תשחרר אדוות דיגיטליות. ולכן זה רגע היסטורי: יש ישות שמעבדת עכשיו את כל האדוות שלנו. והולכת להיות לנו איתה מערכת יחסים ארוכת שנים (אם נהיה נבונים, ולא רק אינטליגנטים).

צייר לי חמניה

אבל מה יהיה על היצירה האנושית? א"מ כבר מייצרת ציורים וצילומים מורכבים תוך שניות, כותבת שירים חדשים של אלביס פרסלי ויכולה ללהק את מרלין מונרו המנוחה לסרטו הבא של אלמודובר. או, אם להביא את זה יותר קרוב הביתה, יכולה לכתוב ספר המשך ל"באדולינה". לא?

התשובה, כנהוג במגזר הקוונטי, היא כן ולא. אני יכול להעלות למידג'רני צילום של עץ הלימון שלי ולבקש ממנו שיעשה לי מזה ואן-גוך, והוא יעשה אחלה ואן-גוך (באמת, ניסיתי). והתוצאה חביבה ומשעשעת וזהו. איש לא יתרגש מזה, גם לא אני. כי אף אחד לא חתך את האוזן במהלך יסורי היצירה, אף אחד לא צייר את זה לבעל בית-הקפה בתמורה לארוחה חמה אף אחד לא נטש את האזור הבטוח של האמנות והתפוצץ בלי חשבון על הקנבס. זה רק לקח עשר שניות של הרצת פיקסלים דרך אלגוריתם, וזה לא היה אפשרי אלמלא וינסנט ואן-גוך היה משוגע מספיק כדי לשבור את כל תבניות הציור הקלאסי.

הסיבה שאנחנו מתרגשים מאמנות היא לא התוצאה אלא ההקשר שלה. ההקשר שלה בתוך נסיבות חיינו, בתוך נסיבות חיי היוצרת, בתוך השיח האמנותי והתרבותי של התקופה. כל יצירה אנושית אמיתית היא מסע אל הלא נודע, בהיפוך מוחלט מהיצירה (או למעשה מהעיבוד) של הא"מ.

אני יכול לבקש מהא"מ לכתוב לי שיר של רביד פלוטניק. אם לא עכשיו, בעוד שנייה קוסמית או שתיים. ואקבל משהו שנשמע כמוהו, עם ביטים שנשמעים כמו שלו ומבנה לשוני ותוכני שנשמע כמו שלו. זה אולי יישמע כמו שיר שהוא פעם כתב, אבל זה לא יישמע כמו השיר הבא שהוא יכתוב. כי המסע אל הלא נודע מתרחש מחוץ לאקוסיסטם של הא"מ. מה שעושה את רביד פלוטניק (ובדומה לו גם את טונה) לאמן מרגש הוא המסע העקשני והסופר-אותנטי שלו לפצח את החיים דרך חרוזים וביטים. אנחנו אוהבים את רביד כי גם אם אנחנו לא מכירים את סיפור חייו, אנחנו מרגישים אותו פועם בכל שורה שלו, חוצב את דרכו לאור. אנחנו לא צריכים להכיר את הסיפור על ראשית דרכו, צעיר ביישן מפתח-תקווה, שמופיע עם הלהקה שלו במצפה רמון מול 15 איש ובכספי הכרטיסים קונה לכל החבורה וודקה, ועל העליות והמורדות שהוא חווה עד לימים האלה שבהם הוא וחבר הילדות שלו טונה עושים טונות של כסף. אנחנו מרגישים את כל התנופה, הפליאה, הבלבול ותחושת הניצחון המתוק שלהם, וזה מחלחל. הם הרגישו משהו ואז הפכו אותו לשיר. הא"מ לא מרגישה כלום, ואז הופכת את זה לשיר.

אני כן חושב שהא"מ יכולה להחליף בהצלחה זמרים ולהקות רבים, ומבחינתי זה בסדר גמור. עולם המוזיקה הפך מזמן ל"תעשיית" המוזיקה, ויש לא מעט אמנים שלא יודעים לשיר (ולא צריך, כי הכל עובר דרך תוכנת האוטו-טיון), שלא כתבו שורה אחת או אקורד אחד (צוות שלם של כותבים מקצועיים מבצע בגמלוניות משימה שראויה יותר לא"מ: ליצור להיט על סמך קופי-פייסט של כל מה שהצליח בלהיטים אחרים), ובקיצור שמעולם לא יצאו במסע יצירתי אל הלא-נודע. אין לי שום דבר נגד זה, אני יכול לנענע בכיף לצליליו של מוצר פופ מלוטש. אני רק מעריך שעל התחום הזה הא"מ תוכל להשתלט הרבה יותר טוב, ותאלץ את האמנים האנושיים להפליג שוב אל הלא-נודע ולגלות את החד-קרן האמיתי שטמון בהם.

האם א"מ יכולה לכתוב המשך ל"באדולינה"? מן הסתם כן, אבל זה ספר שאם הייתי כותב בעצמי הייתי מתבייש בו נורא, כי הוא לא היה יותר ממיחזור תפל. אין מצב שהיא היתה כותבת, או אפילו מנחשת את הכיוון, של הספר הבא שלי (וגם אתם לא, חפשו אותו אינשאללה בחנות הספרים הקרובה לביתכם בסביבות ספטמבר).

האם א"מ יכולה לכתוב את הספר הבא של ג'ון גרישם? אני די בטוח שכן, אם זה עדיין לא קרה. ג'ון גרישם (המוכשר כשד, באמת) הוא בעצמו סוג של תוכנה, הוא בנה פורמט מושלם לספר מתח בלשי, ובכל פעם צריך רק להחליף לוקיישן, גיבורים וסוג פשע והופ – יוצא ספר שקוראים בנשימה אחת. ושוכחים בנשימה הבאה.

האם א"מ יכולה להחליף ספורטאים? פיזית – מזמן. אין דבר יותר קל מליצור מכשירים שקופצים יותר גבוה ורצים יותר מהר ואפילו קולעים לסל ביתר דיוק מבני-אדם. למעשה אולימפיאדות כאלה כבר מתרחשות, קוראים להן "אולימפיאדת הרובוטיקה" וקהל הצופים העולמי שלה מתחרה באוהדים השרופים של אולימפיאדת הדוקים.

האם ראוי שיצירות א"מ יוצגו במוזיאונים לצד יצירות אנושיות? אני לא רואה סיבה שלא. כל הציורים של מידג'רני הם תוצאה של אינטארקציה בין אדם למכשיר, יהא זה מכחול, עדשת מצלמה או תוכנה. מיליוני אנשים משחקים עכשיו עם התוכנה הזאת, כך שכדי להגיע למוזיאון מישהו יצטרך להתעלות ולהתבלט בטכניקת הציור החדשה הזו, כפי שלכולם מזמן יש מצלמות אבל רק אמנים בודדים מגיעים למוזיאונים.

ותודה על הדגים

הפחד הכי גדול שלנו מא"מ הוא קריאת השכמה מבורכת: אנחנו פוחדים ממנה כי אנחנו חושבים שהיא תמלא את הייעוד שלנו טוב מאיתנו. אבל זה רק כי מתישהו התחלנו להאמין שהייעוד שלנו הוא להיות יעילים, שהמדד להצלחה הוא "ניהול משימות" ושההוכחה להגשמה עצמית טמונה בהישגים חיצוניים. עכשיו כשמערכת הפעלה ממוחשבת יכולה לעשות את כל זה הרבה יותר טוב, אנחנו יכולים להודות באמת: אף פעם לא באמת האמנו בזה, רק נכנענו.

איך אני יכול להיות כל כך בטוח? מאלף סיבות, אבל ניקח רק את יוליה כדוגמה.

שום א"מ שבעולם לא היתה יכולה לצפות את הדבר הזה. כלבת ים בודדה הביסה את כל הכותרות. לפי האלגוריתם הסטטיסטי שלנו כצרכני חדשות, אמור להיות לנו חשוב הרבה יותר מה קורה עם הרפורמהפכה המשפטית, או עם אוקראינה או אירן או קדחת-מחט-התחת האחרונה של ארגון הבריאות העולמי. אבל אז מישהו פתאום ראה כלבת ים על החוף ביפו. והעלה פוסט. ומאז כל המדינה עוקבת אחרי חופשת האביב של יוליה, וכולם כבר יודעים שאסור להפריע לה ושצריך לקשור את הכלבים כדי שלא יפחידו אותה, ואנשים מתחרים על הזכות לשמור עליה בלילות, וכל אתר חדשות שרוצה להישאר רלוונטי נאלץ להעלות מדי יום צילום חדש של גוש השומן החביב הזה משתזף לו על החוף ללא מעשה. יוליה המיסה ללא קרב את כל מסכי התקשורת המהונדסת, כי היא מייצגת משהו שחשוב לנו יותר מגפני וסמוטריץ, יותר מאוקראינה-רוסיה ואפילו יותר מווירוס קץ-היקום הבא: טבע טהור, תם, לא מעובד, לא אלקטרוני, נוגד-דאטה, אקס-אלגוריתמי. יוליה היא אנחנו, יצורים שוחרי הרמוניה שעבורם ניהול משימות נכון הוא לחיות בשלום ובנחת, לזכות באהבה ולהתפנן על כל זריחה כאילו היא הראשונה והאחרונה בחיינו.