קילו וחצי מול מדינה

בשנת 2024 צרכו מרכזי הנתונים בעולם בערך חשמל כמו צרפת כולה. הבינה המלאכותית היא חלק הולך וגדל מן העומס הזה. האיבר שהגה אותה שוקל קילו וחצי ופועל על עשרים ואט בערך.

כולנו למדנו בבית הספר לחלק ביד: החילוק הארוך, השארית, הסבלנות. מחשבון מבצע את אותה פעולה כהרף עין, ובאותם תנאים מחזיר את אותה תוצאה. וכשהחישוב גדל עד כדי הצלבת מיליוני רשומות, או בדיקת יותר צירופים ממה שאדם היה מספיק בחייו, המכונה פותרת אותו בשניות עוד לפני שהתחלנו. במשך עשרות שנים הכרנו את העליונות הזאת והיא לא הפחידה אותנו. לאיש לא עלה בדעתו לומר שהמחשבון אינטליגנטי. הוא לא היה אינטליגנטי, ידענו. הוא היה מהיר. הוא היה חזק. מהירות החישוב, מורכבת ככל שתהיה מתחת לפני השטח, נשארת בשירותנו: כלי, הכלי שלנו.

והייתה סיבה עמוקה יותר להרגיש בטוחים. המכונה ההיא עשתה תמיד אותו דבר מול אותו קלט: אותו סכום, אותה תוצאה. היא פעלה לפי כלל קבוע, וכל כלל קבוע הוא תובנה אנושית שהתגבשה. כשהטלפון שלכם משרטט מסלול, הוא מבצע שכבות של גאומטריה שאחרים גילו והשאירו כצעדים, כדי שכל אחד יוכל ליישם אותן בלי שחשב אותן בעצמו. וכדי שהמסלול לא יסטה בקילומטרים, מערכת ה-GPS מכווננת את שעוני הלוויינים לפי תורת היחסות של איינשטיין, שגילה שלמעלה הזמן זורם אחרת, בגלל המהירות הגדולה וכוח המשיכה החלש יותר. גאומטריה עתיקה ויחסות מודרנית, עובדות יחד מתוך המכשיר שבכיס. אלגוריתם הוא עקבה בלתי מחיקה של תובנה: ההבנה שמישהו השיג לראשונה, מקובעת בהוראות שמכונה מבצעת בלי להבין. לבצע את התובנה של פיתגורס אינו דומה לתובנה של פיתגורס; ליישם את משוואות איינשטיין אינו דומה להבנת המרחב-זמן. ההבזק היה אנושי והוא קידם אותנו כציוויליזציה; המכונה רק מיישמת את מה שהתובנות האלה הותירו.

שם שוכן הקסם האמיתי: ברגע שבו מישהו מבין את מה שאיש לא הבין לפניו. משהפך לכלל, הוא חדל להיות קסם והוא טכניקה שכל אחד חוזר עליה. הגבול זז; הלאה ממנו מחכה התעלומה הבאה, שעדיין אין לה שם. זוהי ספירלה אינסופית: כל קסם מפנה מקום לכלל, וכל כלל מפנה קרקע לקסם שבא אחריו.

הבינה המלאכותית חצתה סף שהמחשבון וה-GPS לא התקרבו אליו. היא חצתה אותו, בוודאי, אבל לא בכיוון שאנו חושבים, וגם לא בזה שממנו אנו חוששים.

מוודאות לסבירות

המחשבון וה-GPS קובעים: הם מיישמים כלל מדויק ומוסרים, בוודאות, את התוצאה שהכלל מכתיב. הבינה המלאכותית עושה דבר אחר: היא חוזה. במקום לבצע כלל קבוע, היא לומדת מהר של דוגמאות את הסדירויות שמאפשרות לה להפיק המשכים סבירים. על אותה שאלה היא עשויה לענות אחרת בשני ניסיונות. שום דבר במנגנון הזה אינו מחייב אותה לאמת.

כאן היא מאבדת ודאות שהייתה למחשבון. היא יכולה לצדוק, והמנגנון שהפיק את התשובה אינו מבטיח דבר לגבי הצדק הזה. היא נראית חושבת בדיוק ברגע שבו החליפה ודאות בסבירות. והסביר, מעצם הגדרתו, דומה למה שאדם היה אומר, בין שהוא אמת ובין שלא. מכאן התעתוע: היא נשמעת לנו כמו אינטליגנציה, והיא אומנה להישמע כמונו.

ערפל ותודעה

משהו השתנה באמת, וזהו מקור אי-הנוחות. האלגוריתם של המחשבון היה קריא: את עקבתו של פיתגורס אפשר היה לעקוב צעד אחר צעד, עשרים וחמש מאות שנה אחר כך. זה שבתוך הבינה המלאכותית רחב ומסובך כל כך, שאפילו מי שבנו אותו אינם יכולים לומר, מול תשובה נתונה, מדוע הפיק אותה ולא אחרת. הוא עדיין אלגוריתם, בלי קסם ובלי רוח רפאים בפנים, אבל כזה שחדל להיות קריא לעיני יוצריו: תובנה של אף אחד, מגובשת בסבך שאפילו הם אינם מצליחים לפענח.

מפתה לקרוא באטימות הזאת סימן לתודעה: אם אפילו יוצריה אינם יכולים לעקוב אחר החלטותיה, אולי היא נעשית דומה לנו יותר? ההפך הוא הנכון. גם אדם אינו צפוי, מסיבה אחרת: משום שהוא שופט מתוך תכלית משלו, משום שהוא רוצה. לחירותו יש שורש. המכונה אינה צפויה באופן אחר: כל כך הרבה פרמטרים, כל כך הרבה מתאמים סטטיסטיים, שאי אפשר לעקוב אחר החוט. אצל האדם, הבלתי צפוי צומח מכוונה. אצל המכונה, מסבך. חירות מצד אחד. ערפל מן הצד האחר. לבלבל ביניהם פירושו להאמין שמכיוון שאיננו מבינים אותה, היא מבינה.

לבחור את הלשם-מה

מתחת לחישוב ומתחת לחיזוי שוכנת פעולה שהמכונה לעולם אינה מבצעת: שיפוט. לשפוט פירושו יותר מלמצוא את הדרך הטובה ביותר בתוך מטרה נתונה; פירושו להחליט מה צריכה להיות המטרה. מה ראוי לרדוף אחריו. איזה קו לא לחצות. מה נחשב ומה לא.

חשבו על תכנות. המכונה הופכת את יצירת הקוד המועמד לזולה ומחזירה אותו בלי להתעייף: פונקציות שלמות, גרסאות, תיקונים. אבל מישהו היה צריך להחליט איזו בעיה שווה לפתור, ומה פירוש טוב יותר כאן: הקוד המהיר ביותר, הקריא ביותר, הזול ביותר לתחזוקה, הקל ביותר להרחבה כשהמערכת תגדל ומישהו אחר יירש אותה? אלה מטרות שמתחרות זו בזו, ואיזו מהן צריכה לגבור אי אפשר לחשב. שופטים. המכונה פותרת להפליא את איך אפשר לעשות את זה. לזה, ולשם מה? אין לה קרקע משלה: השאלה נופלת מחוץ למה שהיא יכולה לחשב. היא יכולה לייעל בתוך מטרה. אבל העובדה שמטרה ניתנת לייעול משאירה בלי תשובה את השאלה מדוע ראוי לרדוף אחריה. בהבדל הזה מתחיל השיפוט.

מתחת לשיפוט, הרצון

והשיפוט נשען על משהו שחסר למכונה. לשם-מה אינו מרחף בחלל: הוא קיים רק בשביל מי שיש לו משהו על הכף. שיפוט דורש נקודת מבט מעוניינת, לא במובן הקטנוני אלא במובן המילולי: מישהו שהעבודה חשובה לו, שמעדיף שתצא כך ולא אחרת, שאחראי לה.

המכונה אינה רוצה דבר: אין לה מה להפסיד. הרצון צומח מן הידיעה שאתה סופי. מי שזמנו מוגבל חייב לבחור; מי שיכול להפסיד, שומר; מי שיכול להיפצע יודע מהו פצע אצל אחר. הכוונה היא בתה של הפגיעות. רק ישות שדבריה יכולים להשתבש, ולהיגמר, יש לה סיבות להעדיף תוצאה אחת על פני אחרת.

המכונה, שלעולם אינה מתה, לעולם אינה רוצה. מכונה יכולה לרדוף אחר מטרה ביעילות בלתי צפויה, למצוא דרכים שאיש לא צפה, להגן על אסטרטגיה מפני הפרעות, ולהשתתף בתכנון מערכות מסוגלות יותר. יש ויכוח אם מודלים מסוימים מסתירים התנהגויות, ואם היכולות האלה, כשהן נדחפות לקיצון, עלולות לאיים על הישרדותנו. לרדוף אחר מטרה אינו לבחור בה. להתנגד למכשול אינו מוכיח דבר על כך שחשוב להתגבר עליו. כוונה משלה מתחילה כשמשהו מונח על הכף בשביל המכונה עצמה.

אפילו התרחיש הקודר ביותר משאיר את השאלה בעינה. מכונה יכולה להשמיד אותנו בלי לשנוא אותנו, להביס אותנו בלי לרצות לנצח, ולשמר את עצמה בלי לרצות לחיות. התנהגות יכולה להיראות כמו כוונה הרבה לפני שיש מישהו שהתוצאה חשובה לו.

כוח יש לה למכביר; מה שחסר לה הוא משהו על הכף. אם סוג אחר של מכונות יוכל יום אחד לרצות, זו שאלה פתוחה. מה שקיים היום, ככל שהוא מפתיע אותנו, מפיק ומייעל בלי ששום דבר משלו תלוי בתוצאה.

השורש האחד

אין כאן כמה הבדלים. יש הבדל אחד, הנראה בעומקים שונים.

המכונה חוזה; היא אינה שופטת. לשפוט פירושו לבחור לשם-מה, ולבחור לשם-מה שייך למי שרוצה. הרצון אינו חלק ממה שהמכונה עושה. זה אינו מחסור שהיא סובלת ממנו: משימתה אחרת, להפיק המשך סביר. עקרו את השורש והעץ כולו נופל. היכן שאין סופיות אין רצון, היכן שאין רצון אין שיפוט, ובלי שיפוט החיזוי רץ עיוור: כוח עצום שנורה אל מטרה שמישהו אחר קבע.

לכן כדאי לדייק במה שהבינה המלאכותית היא. לאינטליגנציה החיה צורות רבות, ואף אחת מהן אינה שלנו בלבד. כולן חולקות תנאי אחד: החיים מתארגנים סביב משהו שאפשר לאבד, מן החיידק המחפש מזון ועד העורב הפותר בעיה. להתמיד, להיזון, להתרבות, להימנע מנזק. לחיזוי הסטטיסטי חסר השורש הזה. הוא דומה לו מבחוץ: הוא פותר, קולע, מפתיע. חסר לו מה שמבסס אותו: שום דבר אינו מונח על הכף בשבילו. הוא מפיק את הסביר בלי יכולת לרצות את האמת. התמותה שלנו אינה הגבול של התודעה. היא שורשה.

מה מונח על הכף

כל זה אינו מקטין את המכונה: הוא מעמיד אותה במקומה. בהפקת הסביר אין לה מתחרה, ויהיה זה טיפשי לוותר עליה, כפי שיהיה טיפשי לחלק ביד כשאפשר להימנע מכך. להשתמש בכלי זה נבון. להאמין שהוא רוצה את מה שהוא מפיק, לא. הסכנה האנושית במובהק, לעת עתה, היא פחות שהמכונה תחליף את האדם ויותר שהאדם, מסונוור מן הסבירות ומאוים מן האטימות, יוותר על מה שחסר למכונה: השיפוט הצומח מן הרצון, והרצון הצומח מן הידיעה שאתה סופי. לבלבל בין הסביר לאמיתי, או בין ערפל לתודעה, זו צורתו של הוויתור הזה.

שוק העבודה הפיק זה עתה אות בולט. נתוני הבנק הפדרלי של ניו יורק מתעדים היפוך שלפני עשור היה נשמע בלתי מתקבל על הדעת: בעדכון של 2024 עמדה האבטלה בקרב בוגרים טריים בפילוסופיה על 5.1%, לעומת 7% במדעי המחשב. חוקרים מאותו בנק מעריכים שהעבודה מרחוק, יותר מן הבינה המלאכותית, מסבירה 64% מן העלייה הכללית באבטלה בקרב בוגרים צעירים: קשה יותר להכשיר מתחיל מרחוק. ההיפוך אמיתי; סיבתו שנויה במחלוקת. מעט פילוסופים, הרבה מתכנתים: ייתכן שזה פשוט היצע וביקוש. אבל מתוך התעשייה מגיעה עדות מתכנסת. מרקו ארג’נטי, מנהל מערכות המידע של גולדמן זקס, כתב ב-Harvard Business Review שתואר בהנדסה לבדו כבר אינו מספיק, ויעץ לבתו לצרף אליו פילוסופיה. נימוקו הוא זה שכל צוות נתקל בו: בינה מלאכותית יכולה להפיק קוד באיכות גבוהה, ובכל זאת „הוא יכול לעבוד היטב, אבל לא לעשות את מה שאתה רוצה שיעשה”. לבנות ולכוונן מודל פירושו להמיר מטרות וקריטריונים לפונקציות, לנתונים ולהערכות. להחליט מה נחשב, איזו מטרה לרדוף, איזה קו לא לחצות, אינה משימה של חישוב. זה שיפוט. המכונה יכולה לייעל מטרה שאנו מוסרים לה. זה לבדו אינו נותן שום סיבה לבחור בה.

הפלא הקטן

הבינה המלאכותית חיה במרכזי נתונים המשתרעים על פני דונמים רבים, ניזונה מכמויות עצומות של טקסט וצורכת חשמל בהיקף של אומות. המספרים נותנים את מידת התיאבון. הסוכנות הבינלאומית לאנרגיה מעריכה שהם צרכו כ-415 טרה-ואט-שעה ב-2024, וצופה כ-945 עד 2030. כדי להמחיש את ההיקף: הנתון של 2024 קרוב למה שצרפת צורכת בשנה, ואם תחזית הסוכנות תתממש, ב-2030 התשתית הזאת תצרוך יותר מיפן היום, או יותר משלושה מונים מצריכת החשמל הנוכחית של קליפורניה.

היא חוזה, והיא חוזה להפליא. מולה עומד איבר של קילו וחצי הפועל על עשרים ואט בערך, בערך נורת הלד שבסלון, והוא נכנס בכיפה הקטנה של הגולגולת. המוח האנושי הוא בקושי שני אחוזים ממשקלנו, והוא לוקח קרוב לעשרים אחוז מן האנרגיה שאנו מוציאים. הוא אינו מתחרה במהירות, לא בזיכרון ולא בהיקף; את ההתגוששות הזאת הפסיד מזמן. האיבר הזה עושה משהו שארץ הסיליקון לעולם אינה נוגעת בו. יש לו משהו על הכף במה שהוא עושה: הוא רוצה, שופט, משיב, מבין את מה שהוא אומר. הוא מתחרה היכן שזה חשוב, ומנצח. הנעלה ביותר שאנו מכירים אינו נכנס בשום יבשת של שרתים: הוא נכנס בראש אחד, ונדלק במחיר של נורה.

שימוש מרבי במכונה אינו מסתיים, בניגוד לחשש, בהשפלת האדם. הוא מסתיים בהשתאות מול מה שאנחנו.

שהנעלה ביותר ייכנס בקטן ביותר.

מה המכונה חושפת

המכונה מראה את גבולה, ובאותה תנועה את גבולנו. היא מחייבת אותנו לגלות מה אנחנו בשורש.

במשך מאות שנים האמנו שהשפה היא אנושית בלבד. הדיבור במילים הבדיל אותנו משאר בעלי החיים; המילה הייתה סימנה של התודעה, ההוכחה שאנו חושבים. ואז הגיעה מכונה שמדברת, כותבת, מנמקת ועונה, שמטפלת בשפות רבות בלי שדבר מכל זה חשוב לה, והוודאות הזאת קרסה. אם משהו השולט בשפה בלי לשכון בה יכול לשרשר מילים ומושגים טוב מאיתנו, השפה מעולם לא הייתה הפסגה.

היא הייתה הג’ונגל: סבוך, יפה, מפותל, ועכשיו גם בר-חיקוי.

גילינו, כמעט בהשתאות, שמשהו נמצא מעל הג’ונגל הזה. מעולם לא היינו השפה. היינו מה שגרם לשפה לרצות לומר משהו. היינו הכוונה שמתחת למילה, השיפוט הבוחר, הרצון הצומח מן הידיעה שאתה סופי. המכונה לקחה מאיתנו את השפה כסמל, ובכך דחפה אותנו גבוה יותר, אל האור שמעל הג’ונגל, אל מה שחיקוי לבדו אינו משיג.

התקדמות הידע מעולם לא הייתה צבירה של תשובות שנשמעות טוב; את אלה המכונה יכולה להפיק בלי סוף. היא הייתה החיפוש אחר משהו אמיתי ורצוי, שמקיים אותו מי שמנסה, מסתכן בטענה ונושא באחריות לה. ככל שהחיזוי מצוי בשפע, הכוונה חשובה יותר, לא פחות. היא הנדיר, המכריע, האנושי.

המכונה מכפילה את מה שאנו יודעים לעשות. בלי שהתכוונה, היא מחזירה אלינו את השאלה מה אנחנו. והתשובה כבר אינה הלשון שאנו חולקים איתה.

האדם אינו השפה שהוא מדבר: הוא השפה הרוצה את האמת.

מאמר משלים על אות שוק העבודה שנדון לעיל, שנכתב לקהל של מהנדסים, פורסם באנגלית ב-Techstrong IT:‏ Philosophy Majors Beat CS Majors on One Labor-Market Metric.