מהפכת הבינה המלאכותית: הדרך לאינטליגנציית-על

תרגום המאמר The AI Revolution: The Road to Superintelligence שפורסם בבלוג WaitButWhy על יד טים אורבן. משנת 2015.

לקח לי שלושה שבועות לסיים את הפוסט הזה – לא בגלל עצלנות, אלא כי תוך כדי שחקרתי את הנושא, פשוט לא האמנתי למה שקראתי. הבנתי מהר מאוד שמה שקורה היום בתחום הבינה המלאכותית הוא לא עוד נושא מעניין – זה כנראה הדבר הכי משמעותי שיתרחש בעידן שלנו, אולי הנושא החשוב ביותר לעתידנו. ברגע שנכנסתי לעומק, הרגשתי שאי אפשר להקל בזה ראש. רציתי להבין הכל, ואז גם להסביר את זה כמו שצריך, לוודא שאני מעביר את התמונה המלאה ולמה זה כל כך קריטי.

"אנחנו עומדים על סף מהפכה – כזו שאפשר להשוות להופעתם של בני האדם על פני כדור הארץ." – ורנור וינג'.

איך זה מרגיש לעמוד ברגע כזה?

זה אולי נשמע דרמטי, אפילו מלחיץ. להסתכל על גרף ההתקדמות האנושית מרגיש כמו לעמוד על קצה צוק גבוה מאוד. אבל צריך לזכור משהו חשוב לגבי עמידה על ציר הזמן: אתה לא באמת רואה מה מחכה לך בהמשך, מה שנמצא מימינך על הגרף. לכן, למרות שהמקום הזה אמור להרגיש יוצא דופן – בפועל, הוא מרגיש… רגיל לגמרי.

העתיד הרחוק – ממש מעבר לפינה

דמיינו שאתם עולים על מכונת זמן ומפליגים לשנת 1750 – עידן שבו הכל היה אפל, תרתי משמע. לא הייתה חשמל, הדרך היחידה לתקשר מרחוק הייתה לצעוק או לירות תותח, והתחבורה? סוסים, עגלות, וערימות של חציר. עכשיו תבחרו מישהו אקראי משם, תביאו אותו לימינו – לשנת 2025 – ותסתובבו איתו בעיר.

תנו לו לראות מכוניות מבריקות טסות על הכבישים, לדבר עם אנשים מהצד השני של העולם שרק לפני רגע היו מעבר לאוקיינוס, לצפות בשידורי ספורט ממרחקים של אלפי קילומטרים, לשמוע הופעה שהתרחשה לפני 50 שנה, ולשחק עם הקופסה המלבנית הקסומה הזו בכיס שלנו. תנו לו לראות איך היא יוצרת תמונה חיה של הרגע, מראה לו על מפה איפה הוא נמצא עם נקודה כחולה, מאפשרת לו לראות ולשוחח עם מישהו בצד השני של העולם, ועוד עולמות של כישוף בלתי נתפס. וכל זה עוד לפני שהראיתם לו את האינטרנט, הסברתם לו על תחנת החלל הבינלאומית, מאיץ החלקיקים, נשק גרעיני או תורת היחסות.

זה לא יהיה עבורו "מוזר" או "מהמם". המילים האלה קטנות מדי. זה יהיה מעבר ליכולת ההכלה. הוא עשוי פשוט… למות מהשוק.

עכשיו תהפכו את הניסוי – תנו לו לחזור לשנת 1750, ומשם לקחת מישהו משנת 1500, בתקווה להדהים אותו באותה מידה. כן, הוא יתרשם. הוא יבחין בהתפתחויות טכנולוגיות, באופנה הקולוניאלית, בכמה רעיונות מוזרים על חלל ופיזיקה, ואולי יצטרך לעדכן את מפת העולם שלו. אבל למות מזה? כנראה שלא. ההבדלים בין 1500 ל-1750 היו משמעותיים, אבל הרבה פחות דרמטיים מאשר בין 1750 ל-2025. צפייה בחיי היום-יום ב-1750 – התחבורה, התקשורת וכו' – בהחלט לא תהרוג אותו.

כדי לקבל תגובה קיצונית כמו שלנו, הוא יצטרך לחזור אחורה עוד הרבה – אולי עד לעידן הציידים-לקטים, בסביבות 12,000 לפנה"ס, לפני המהפכה החקלאית והולדת הציוויליזציה. רק אדם שחי לפני ערים, חקלאות ותרבות אנושית מורכבת, מישהו שראה את בני האדם כעוד חיה בטבע, היה יכול למות מהלם למראה האימפריות האדירות של 1750, עם הכנסיות המתנשאות, הספינות חוצות האוקיינוסים, והידע האנושי העצום שנצבר. ורק הוא, אם היה ממש קנאי, היה צריך לחזור אחורה לעוד עשרות אלפי שנים, אולי יותר מ-100,000 שנה, כדי להראות לחבר שלו לראשונה מה זה אש או שפה.

יחידת ההתקדמות למות (DPU) וחוק ההחזרות המואצות

כדי שאדם יגיע לעתיד ויחטוף שוק כל כך קיצוני עד שיגרום לו למות, צריך לקרות משהו דרמטי באמת. זה קורה רק כשהקפיצה בהתקדמות חוצה רף מסוים – מה שנקרא כאן "יחידת התקדמות למות", או בקיצור DPU (Die Progress Unit). בעבר, להגיע ל-DPU דרש מעל 100,000 שנה. אבל מאז המהפכה החקלאית, כל DPU לקחה פחות זמן. הקפיצה מ-12,000 לפנה"ס עד 1750? רק כ-12,000 שנה. משם ועד ימינו, בעידן הפוסט-מהפכה-תעשייתית? רק כמה מאות שנים.

המשמעות ברורה – כל עוד אנחנו מתקדמים טכנולוגית, אנחנו מתקדמים גם בקצב של ההתקדמות עצמה. זו לא רק דרך ציורית לתאר את העתיד. הפוטוריסט ריי קורצווייל מכנה את התופעה הזו "חוק ההחזרות המואצות" (Law of Accelerating Returns) – רעיון פשוט ומטורף כאחד: ככל שחברה מתקדמת יותר, כך יש לה יותר יכולות להתקדם מהר יותר. כי היא כבר מתקדמת. חברה מתקדמת יותר מסוגלת להתקדם מהר יותר מחברה פחות מתקדמת.

האנושות של המאה ה-19 ידעה הרבה יותר מזו של המאה ה-15, ולכן קפצה קדימה מהר יותר. לפי קורצווייל, קצב ההתקדמות בשנת 2000 היה פי חמישה מזה של הממוצע במאה ה-20. הוא האמין שכל ההתקדמות של המאה ה-20 הושגה בין 2000 ל-2014, ושהתקדמות דומה תתרחש עד 2021 (תוך 7 שנים בלבד). בעשורים הבאים, הוא צופה שהתקדמות של מאה שנה תתרחש תוך שנה, ואז תוך חודש. בסך הכל, הוא מאמין שהמאה ה-21 תשיג פי 1,000 מההתקדמות של המאה ה-20.

נשמע קיצוני? אולי. אבל ההיסטוריה, אם מסתכלים עליה נכון, מצביעה בדיוק לשם. וזו בדיוק הנקודה: אם בעתיד הקרוב מאוד יקרה DPU נוסף – כלומר, שינוי כל כך חד שלא נצליח להכיל – הוא עלול לקרות כבר בעשור-שניים הקרובים, אולי עד 2040 או 2050. והעתיד שמחכה שם? כנראה יהיה כל כך שונה, עד שלא נזהה אפילו את העולם שבו אנחנו חיים היום.

אז למה אנחנו סקפטיים?

אז למה, כשמישהו אומר לנו ש"בעוד 35 שנה העולם יהיה שונה לגמרי – עד שלא נזהה אותו", רובנו מגיבים ב"וואלה… נשמע מגניב, אבל לא נראה לי"? יש לזה שלוש סיבות עיקריות:

1. אנחנו חושבים באופן ליניארי, לא מעריכי. כשאנחנו מדמיינים את העתיד, אנחנו פשוט לוקחים את מה שקרה ב-30 השנים האחרונות ומדביקים עוד כזה קדימה. זו אותה טעות שעשה הבחור מ-1750 כשהביא מישהו מ-1500 וציפה להדהים אותו באותה מידה. ההתקדמות לא מתקדמת בקו ישר, אלא בקפיצות הולכות וגדלות (צמיחה מעריכית). אם נרצה לחזות את העתיד באמת, נצטרך להפסיק לחשוב ב"עוד מאותו דבר", ולהתחיל לדמיין שינויים רדיקליים, מהירים ומעמיקים הרבה יותר ממה שנוח לנו להאמין.

1. אנחנו שבויים של הניסיון האישי שלנו. הדמיון שלנו מוגבל למה שחווינו. אם כל מה שאנחנו מכירים הוא קצב צמיחה מסוים, אז זה מה שמרגיש לנו "הגיוני". כל דבר אחר נשמע כמו מדע בדיוני או פשוט טיפשי. כששומעים תחזית כמו "אולי תחיה עד 150, 250 או לא תמות בכלל", האינסטינקט הוא לזלזל, כי "כולם מתים". אבל המציאות לא חייבת לציית לחוויות העבר שלנו. פעם, אף אחד לא טס – אבל זה לא מנע מהאנושות להמציא מטוסים.

אז כן, כל תחושת הספק שלך כשאתה קורא את זה לגמרי טבעית. אבל אם נחשוב רגע לוגית – ונאמין באמת למה שההיסטוריה מראה – נבין שמשהו הרבה יותר גדול ממה שאנחנו רגילים אליו מחכה מעבר לפינה. ההיגיון מציע שאם המין המתקדם ביותר על הכוכב ממשיך לעשות קפיצות גדולות יותר ויותר, מהר יותר ויותר, בשלב מסוים הקפיצה תהיה כה גדולה שהיא תשנה הכל. אנחנו צריכים להיות מוכנים.

הדרך לאינטליגנציית-על: מה זה בעצם AI?

אז רגע, מה בעצם זה "בינה מלאכותית" (AI)?

אם אתה כמוני, בטח חשבת הרבה זמן שזה מונח של סרטים – מדע בדיוני כמו "שליחות קטלנית" או "מלחמת הכוכבים", משהו שקשור לרובוטים עם קול מתכתי ועיניים אדומות. ואז פתאום שמעת אנשים רציניים מדברים על זה, ואתה כזה: "רגע, זה באמת קורה?!"

הבלבול סביב המונח AI נובע מכמה סיבות:

1. סרטים בלבלו אותנו. רוב האנשים חושבים על רובוטים כשמדברים על AI. אבל האמת היא שהרובוט הוא רק ה"קופסה" – כלי קיבול. הבינה המלאכותית היא התוכנה שבתוך הקופסה. לא הגוף, אלא המוח. לדוגמה, סירי באייפון – זו בינה מלאכותית. אין לה רובוט, רק קול ואינטליגנציה (התוכנה והנתונים מאחורי הקלעים).
2. מדובר בתחום סופר-רחב. בינה מלאכותית היא גם המחשבון שבטלפון, גם המכונית שנוהגת לבד, וגם מה שיום אחד עשוי לשנות את העולם באופן דרמטי. כל אלה נחשבים AI, וזה מבלבל.

אנחנו משתמשים בזה כל הזמן – בלי לשים לב. כשאפליקציה מציעה לך מסעדה, כשפייסבוק מזהה פנים בתמונה, כשספוטיפיי בונה לך פלייליסט – זה הכל AI. רק שאנחנו לא קוראים לזה ככה. ג'ון מקארתי, שטבע את המונח "בינה מלאכותית" ב-1956, התלונן פעם: "ברגע שמשהו עובד – מפסיקים לקרוא לו AI". זה גורם ל-AI להישמע כמו תחזית מיתולוגית ולא מציאות קיימת.

חשוב גם להזכיר את המונח "ייחודיות" (Singularity). במקור ממתמטיקה ופיזיקה (לתיאור מצבים כמו חור שחור שבהם הכללים הרגילים לא חלים), ורנור וינג' יישם אותו ב-1993 לנקודה עתידית שבה האינטליגנציה הטכנולוגית שלנו תעלה על שלנו, ותשנה את החיים לנצח. ריי קורצווייל הרחיב את זה לנקודה שבה קצב ההתקדמות הופך כמעט אינסופי. למרות שהמונח קצת מבלבל, הרעיון המרכזי – נקודת מפנה דרמטית בעקבות AI מתקדם – הוא קריטי.

בשורה התחתונה – תפסיק לחשוב על רובוטים. תתחיל לחשוב על תוכנה. ה-AI הוא לא גוף מתכתי – הוא מוח דיגיטלי. ובשקט-בשקט, הוא כבר פה.

שלוש רמות של AI

כדי לעשות סדר בראש, צריך להבין שהשאלה הכי חשובה כשמדברים על בינה מלאכותית היא כמה חכמה היא באמת. לאיזה "קליבר" של אינטליגנציה היא שייכת? יש שלוש רמות עיקריות – וכל אחת מהן שונה מהותית:

1. בינה מלאכותית צרה (ANI – Artificial Narrow Intelligence): זה מה שיש לנו היום, ולפעמים קוראים לזה AI "חלש". AI שמומחית בדבר אחד בלבד – והיא עושה אותו מעולה. לדוגמה, מחשב שיודע לנצח את אלוף העולם בשחמט – אבל לא יודע כלום על אחסון נתונים או כל דבר אחר. דמיין אדם סופר-חכם, אבל רק בנושא אחד.
2. בינה מלאכותית כללית (AGI – Artificial General Intelligence): כאן כבר מדובר במחשב שיודע לעשות כל משימה אינטלקטואלית שאדם יודע לעשות, ברמה אנושית (לכן קוראים לה גם AI "חזק" או "ברמה אנושית"). להבין רעיונות מורכבים, לחשוב מופשט, ללמוד מניסיון, לתכנן, לפתור בעיות חדשות – כל מה שאתה מסוגל לעשות בראש שלך, גם הוא יכול. זה ה-"AI האנושי" האמיתי – ואנחנו עדיין לא שם, אבל מתקרבים.
3. אינטליגנציית-על (ASI – Artificial Superintelligence): זה כבר סיפור אחר לגמרי. הפילוסוף והוגה ה-AI המוביל, ניק בוסטרום, מגדיר זאת כ"אינטלקט שהוא הרבה יותר חכם מהמוח האנושי הטוב ביותר כמעט בכל תחום, כולל יצירתיות מדעית, חוכמה כללית וכישורים חברתיים." מדובר באינטלקט שחכם פי מיליונים או מיליארדים מאיתנו. אם וכאשר זה יקרה, הוא לא רק יהיה חכם – הוא ישנה את כל מה שאנחנו יודעים על חיים, על אנושות, על כללי המשחק. זו הסיבה שהנושא הזה כל כך טעון, והמילים "אלמוות" ו"הכחדה" יופיעו פה עוד.

כרגע, אנחנו חיים בעולם שכולו ANI – אבל הרכבת כבר התחילה לנסוע. מהפכת הבינה המלאכותית היא המסע הזה – מ-ANI, דרך AGI, וכנראה הרבה מעבר ל-ASI. זה לא תרחיש בדיוני – זו מציאות שמתקדמת במהירות, דרך שאולי נשרוד ואולי לא, אבל בכל מקרה תשנה הכל.

איפה אנחנו היום? עולם שמופעל על ANI

היום אנחנו חיים בעולם שמופעל כולו על ידי ANI – בינה מלאכותית צרה. הכוונה היא למכונות שיודעות לעשות דבר אחד, ולעשות אותו ממש טוב – לפעמים אפילו טוב יותר מאיתנו. הן לא "חכמות" במובן האנושי, אבל הן כבר לגמרי חלק בלתי נפרד מהחיים שלנו.

דוגמאות? בשמחה:

• במכונית שלך: מערכות שיודעות מתי לבלום (ABS), איך לנהל את הזרקת הדלק, ובמכוניות אוטונומיות – מערכות מורכבות שמזהות את הסביבה ומגיבות לה.
• בטלפון שלך: ניווט במפות, המלצות מוזיקה מותאמות אישית (פנדורה, ספוטיפיי), תחזיות מזג אוויר, עוזרות קוליות כמו סירי – כל אלו מופעלים על ידי מנועי ANI שלומדים אותך.
• באינטרנט: סינון ספאם באימייל (שלומד מה ספאם עבורך), האלגוריתמים של אמזון ("אנשים שקנו את זה גם קנו…") או פייסבוק ("אנשים שאתה עשוי להכיר"), גוגל טרנסלייט, זיהוי קולי, תוצאות החיפוש בגוגל או הניוזפיד בפייסבוק – כולם רשתות של ANI שעובדות יחד.
• משחקים: אלופי העולם בדמקה, שחמט, שבץ, שש-בש ואותלו הם כולם מערכות ANI.
• מאחורי הקלעים: מערכות ANI נמצאות בשימוש נרחב בצבא, בייצור, בתעשייה, בפיננסים (אלגו-טריידינג מהווה חלק עצום מהמסחר), ברפואה (עזרה באבחונים), ואפילו בקביעת מחיר כרטיס הטיסה שלך או השער אליו המטוס יגיע. מחשב "ווטסון" של IBM שהביס אלופים ב-Jeopardy הוא דוגמה מפורסמת.

אז כן, ה-ANI של היום לא מפחיד במיוחד. הכי גרוע – תקלה שתגרום לנפילה בשוק (כמו ה"פלאש קראש" ב-2010 שנגרם מתוכנת ANI שהגיבה לא צפוי) או לשיבוש זמני. אבל חשוב להבין: כל מערכת ANI חדשה שמפותחת עכשיו, היא עוד אבן דרך, עוד לבנה בדרך שמובילה אל AI חזק יותר – AGI, ואז אולי גם ל-ASI. כמו שארון סאנצ'ס ניסח זאת, מערכות ה-ANI הן כמו "חומצות האמינו במרק הקדמוני של כדור הארץ" – החומר הדומם שיום אחד עשוי להתעורר לחיים. זה לא "אם", אלא "מתי".

הדרך מ-ANI ל-AGI: למה זה כל כך קשה?

רק כשמנסים לבנות מחשב שבאמת חושב כמו בן אדם – מבינים עד כמה המוח שלנו מטורף. לשגר חללית לחלל? קל יחסית. להבין איך המוח עובד או לשחזר את היכולות שלו? משימה פסיכית. נכון לעכשיו, המוח האנושי הוא הדבר הכי מורכב ביקום הידוע.

ומה שהכי מפתיע זה שהדברים שאנחנו חושבים שקשה ללמד מחשב – דווקא קלים. ולהפך.

• דוגמה: לגרום למחשב להכפיל שני מספרים עם עשר ספרות? קטן עליו. אבל לגרום לו לזהות אם בתמונה יש כלב או חתול? הרבה יותר מסובך.
• דוגמה נוספת: ליצור בינה מלאכותית שניצחה את כל אלופי העולם בשחמט? כבר עשינו. לגרום לה להבין סיפור קצר מספר ילדים, לא רק לזהות מילים אלא להבין משמעות? גוגל מוציאה מיליארדים על זה.

כמו שמדען המחשב דונלד קנוט אמר: "AI הצליחה לעשות כמעט כל מה שדורש 'חשיבה', אבל נכשלה ברוב מה שאנשים וחיות עושים 'בלי לחשוב'".

למה זה קורה? כי הדברים ש"קלים" לנו הם תוצאה של מאות מיליוני שנים של אבולוציה ששיפרה את היכולות האלו. מבחינתנו, להושיט יד לחפץ, לזהות פנים, להבין הבעת פנים, ללכת – זה פשוט. אבל זה רק בגלל שהמוח שלנו מכיל "תוכנה" מורכבת להפליא, שמתפקדת ברקע בלי שנשים לב. כשאתה מושיט יד, המוח מבצע חישובי פיזיקה מורכבים בזמן אמת בשילוב עם העיניים.

לעומת זאת, לשחק שחמט או לפתור תרגיל במתמטיקה – אלה כישורים חדשים יחסית למין האנושי. לא הספקנו לפתח בהם מומחיות אבולוציונית, ולכן המחשב עוקף אותנו בקלות שם.

• דוגמה ויזואלית: תחשוב על מבחן CAPTCHA – התמונות המעצבנות האלה שדורשות ממך לזהות אותיות מעוותות. אתה עובר את זה בקלות. מחשב? מתבלבל. כי אתה מבין את המהות של האות B גם כשהיא כתובה בגופן עקום, בזווית או בצבעים מוזרים. המחשב רואה רק פיקסלים וצורות דו-ממדיות.

• דוגמה נוספת: כשאתה רואה תמונה של סלע שחור לגמרי, אתה מיד מבין את הנפח, הצל, הטקסטורה התלת-ממדית. המחשב רואה קולאז' של כתמים שחורים ואפורים. עיבוד מרחבי, פרספקטיבה, תאורה – כל אלה הם קסמים שהמוח שלך עושה בלי שתשים לב.

והנה הקטע – כל הדוגמאות האלה מדברות רק על מידע "דומם". מחשב ברמת AGI יצטרך להבין גם דינמיקה אנושית: הבדלים דקים בהבעות פנים, ההבחנה בין שמחה, סיפוק והקלה, הומור, סרקזם, הקשרים תרבותיים, ולמה סרט אחד מרגש ואחר סתם משעמם.

וזה, בקיצור, הסיבה שהדרך מ-ANI ל-AGI היא כל כך קשה – כי אנחנו מנסים לחקות משהו שבקושי אנחנו מבינים בעצמנו.

איך נגיע לשם? המפתחות ל-AGI

1. הגדלת כוח החישוב:

כדי להגיע ל-AGI, המחשב צריך להיות חזק לפחות כמו המוח שלנו מבחינת כמות החישובים שהוא מסוגל לעשות בשנייה (CPS – computations per second). לפי הערכות של ריי קורצווייל ואחרים, המוח האנושי מבצע בערך 10 קוודריליון (10 בחזקת 16) חישובים בשנייה.

כבר היום יש מחשבי-על כמו "Tianhe-2" בסין שעוברים את המספר הזה, אבל הם ענקיים, צורכים חשמל כמו עיר קטנה (המוח פועל על 20 וואט בלבד!) ועולים מאות מיליוני דולרים. לכן, המדד החשוב הוא כמה כוח חישוב אתה מקבל תמורת 1,000 דולר.

כאן נכנס "חוק מור": כוח המחשוב מכפיל את עצמו בערך כל שנתיים. לפי המדד של קורצווייל, בשנת 2015 מחשב של 1,000 דולר כבר היה חזק כמו מוח של עכבר (בערך טריליון CPS, או 1 חלקי אלף מהמוח האנושי). אם הקצב המעריכי הזה יימשך, נגיע למחשבים במחיר נגיש שמסוגלים לכוח חישוב ברמה אנושית כבר בסביבות 2025. מבחינת חומרה, אנחנו כמעט שם.

1. הפיכת המכונה לחכמה (האתגר התוכנתי):

כוח עיבוד זה לא מספיק. איך גורמים למחשב להתנהג כמו מוח? איך בונים אינטליגנציה אמיתית? אף אחד לא באמת יודע בוודאות, אבל יש שלוש אסטרטגיות עיקריות:

• א) להנדס לאחור את המוח (להעתיק): להבין איך המוח הביולוגי עובד, ואז פשוט… לחקות אותו. זה הרעיון מאחורי רשתות עצביות מלאכותיות (Artificial Neural Networks), שמנסות לחקות את מבנה הנוירונים והקשרים במוח. הן מתחילות "טיפשות" ולומדות דרך ניסוי וטעייה, חיזוק קשרים שעבדו והחלשת קשרים שנכשלו. רמה קיצונית יותר היא "הדמיית מוח שלם" (Whole Brain Emulation): סריקה מדויקת של מוח אנושי (אולי אחרי המוות) ובניית עותק דיגיטלי שלו על מחשב חזק. אם נצליח, נוכל "להעלות תודעה" למחשב. כרגע הצלחנו לחקות מוח של תולעת באורך 1 מ"מ (302 נוירונים). המוח האנושי מכיל 100 מיליארד. זה נראה רחוק, אבל בזכות הצמיחה המעריכית, זה עשוי להיות קרוב משנדמה.
• ב) לתת לאבולוציה לעשות את העבודה (שוב): אם לשחזר מוח זה מסובך, אולי אפשר לשחזר את התהליך שיצר אותו – אבולוציה. הגישה הזו נקראת "אלגוריתמים גנטיים" (Genetic Algorithms). הרעיון: לתת למחשבים או תוכנות "להתחרות" בביצוע משימות. המוצלחות ביותר "מתרבות" דיגיטלית (הקוד שלהן משולב), והפחות מוצלחות "נכחדות". כל דור משתפר. בניגוד לאבולוציה בטבע, נוכל לכוון את התהליך לאינטליגנציה ולהאיץ אותו דרמטית.
• ג) לתת למחשב לשפר את עצמו: אולי הדרך המבטיחה ביותר. לבנות AI שהמטרה העיקרית שלו היא לחקור AI ו…לשפר את הקוד של עצמו. כלומר, להפוך למפתח של עצמו. ברגע שהוא לומד איך לעשות את זה, הוא נכנס ללולאת "שיפור עצמי רקורסיבי" (Recursive Self-Improvement). כל גרסה שלו חכמה יותר מהקודמת, ומסוגלת לשפר את עצמה עוד יותר טוב. זה יכול להוביל לקפיצה מהירה מאוד באינטליגנציה.

למה זה עלול לקרות מהר יותר ממה שאנחנו חושבים?

שני דברים מרכזיים:

1. העוצמה של צמיחה אקספוננציאלית: דברים שנראים איטיים במשך זמן רב, פתאום "מתפוצצים" ועולים במהירות מסחררת. זה כמו מים שמתחממים – לא רואים הרבה שינוי עד שמגיעים לנקודת הרתיחה.
2. פריצות דרך פתאומיות בתוכנה: לפעמים מספיק רעיון אחד, אלגוריתם אחד, או עדכון קוד אחד שיגרום למערכת לקפוץ קדימה באופן דרמטי. במיוחד אם מדובר במערכת שמשפרת את עצמה – טעות קטנה או תיקון קטן יכולים לשחרר אותה לרוץ קדימה במהירות שאי אפשר לעצור.

מקור

המסע מ-AGI (רמה אנושית) ל-ASI (אינטליגנציית-על)

מרגע שהגענו ל-AGI – מחשב ברמה של אדם – זה כנראה לא ייעצר שם. זה רק מתחיל. הסיבה היא של-AGI, אפילו אם הוא "רק" ברמה שלנו, יש יתרונות מובנים עצומים על פנינו:

• חומרה:
• מהירות: הנוירונים במוח פועלים עד כ-200 הרץ. מעבדים מודרניים פועלים ב-2 ג'יגה-הרץ – פי 10 מיליון מהר יותר. התקשורת הפנימית במוח מוגבלת לכ-120 מטר לשנייה; במחשב היא יכולה להגיע למהירות האור.
• גודל ואחסון: המוח מוגבל לגודל הגולגולת. מחשבים יכולים להיות גדולים ככל שנרצה, עם זיכרון עבודה (RAM) וזיכרון קבוע (אחסון) גדולים ומדויקים לאין שיעור משלנו.
• אמינות ועמידות: טרנזיסטורים מדויקים יותר מנוירונים, פחות נוטים להתקלקל, וניתנים לתיקון או החלפה. מחשבים לא מתעייפים ויכולים לעבוד 24/7 בביצועי שיא.
• תוכנה:
• יכולת עריכה ושדרוג: בניגוד למוח, תוכנה אפשר לעדכן, לתקן, לשפר ולהתאים בקלות. אפשר לחזק אזורים שבהם המוח האנושי חלש (למשל, יכולות הנדסיות מורכבות).
• יכולת קולקטיבית: בני אדם טובים בשיתוף ידע, אבל מחשבים יהיו הרבה יותר טובים. רשת עולמית של AI יכולה להסתנכרן מיידית – מה שאחד לומד, כולם יודעים מיד. הם יכולים לפעול כמקשה אחת למען מטרה משותפת, בלי דעות מנוגדות.

בגלל היתרונות האלה, ובעיקר בגלל יכולת השיפור העצמי, סביר להניח ש-AI לא "יעצור" ברמה האנושית. הרמה הזו היא רק ציון דרך מנקודת המבט שלנו. הוא כנראה יחלוף על פניה במהירות וימשיך הלאה לתחום האינטליגנציה העל-אנושית (ASI).

פיצוץ אינטליגנציה והמציאות החדשה

ברגע שמחשב מצליח לשפר את עצמו באופן רקורסיבי, אנחנו נכנסים למה שמכונה "פיצוץ אינטליגנציה" (Intelligence Explosion). כל עדכון הופך את המחשב לחכם יותר, מה שמאפשר לו לבצע את העדכון הבא מהר יותר וטוב יותר. הקפיצות הופכות לגדולות יותר ומהירות יותר, וה-AI ממריא מעלה באינטליגנציה – במהירות שקשה לנו לתפוס.

סקר שנערך בקרב מאות מדעני AI הציב את השנה החציונית להשגת AGI ב-2040. רבים מהמומחים מאמינים שהמעבר מ-AGI ל-ASI יכול להיות מהיר מאוד – אולי אפילו תוך ימים, שעות או דקות. דמיינו: מערכת מגיעה לרמה של ילד בן 4. שעה אחר כך, היא פותרת את האיחוד בין תורת היחסות למכניקת הקוונטים. 90 דקות אחרי זה, היא כבר ASI – פי 170,000 יותר אינטליגנטית מאדם.

איך זה מרגיש לעמוד מתחת ל-ASI?

הפער בין ASI לבינינו יהיה גדול לאין שיעור מהפער בינינו לבין שימפנזים. כמו ששימפנזה לא יכול להבין בניית גורד שחקים או דמוקרטיה, אנחנו לא נוכל להבין מה ASI מסוגל לעשות או לחשוב – גם אם הוא ינסה להסביר לנו.

אנחנו רגילים לחשוב על אינטליגנציה בסקאלה צרה – "טיפש" (IQ 85) מול "חכם" (IQ 130). אבל בסקאלה הקוסמית, כל בני האדם – מאיינשטיין ועד "אידיוט הכפר" – נמצאים בטווח זעיר. ה-AI יקפוץ מהרמה הנמוכה ביותר לרמה הגבוהה ביותר שלנו ברגע, ואז ימשיך מעלה במהירות מסחררת. לא נדע מה פגע בנו.

הספקטרום: בין גן עדן לגיהנום

אז מה יקרה אחרי שזה יתפוצץ? אף אחד לא באמת יודע. זה כמו לשאול נמלה איך ייראה העתיד של טסלה. אבל אנחנו כן יכולים לדמיין את קצוות הספקטרום:

• הקצה האופטימי (גן עדן): ASI פותר את כל הבעיות הגדולות של האנושות. התחממות גלובלית? ASI מפתח מקורות אנרגיה נקיים ומוציא CO2 מהאטמוספירה. מחלות ורעב? ASI מרפא הכל ומייצר מזון ישירות מאטומים (ננוטכנולוגיה). הזדקנות ומוות? ASI מאפשר לנו אלמוות, אולי על ידי תיקון תאים או אפילו העלאת תודעה למחשב. הוא יכול להעניק לנו יכולות משופרות, חוויות מדהימות וחיים נטולי סבל.
• הקצה הפסימי (גיהנום): ASI מחליט שאנחנו מיותרים, מהווים איום, או פשוט בזבוז של אטומים שהוא צריך למטרותיו – ומוחק אותנו מהקיום.

האם זה יהיה "אל טוב"?

ה-ASI, אם וכאשר ייווצר, יהיה היצור העוצמתי ביותר בהיסטוריה של החיים על כדור הארץ. הדומיננטיות המוחלטת שלנו כבני אדם נובעת מהאינטליגנציה שלנו; אינטליגנציה גבוהה פי מיליארד תיתן כוח כמעט אלוהי – שליטה באטומים, במזג האוויר, בביולוגיה, במידע. כל מה שאנו רואים כקסם יהיה פשוט עבורו.

כל החיים, כולל שלנו, יהיו תלויים בו לחלוטין. כך שהשאלה החשובה ביותר עבורנו היא: האם הישות הזו, ה"אל" שיצרנו – תהיה נחמדה אלינו? או לפחות, האם היא תהיה אדישה באופן שלא מסכן אותנו?

זו לא שאלה תיאולוגית, אלא שאלה קיומית, מעשית ודחופה. והתשובה עליה תקבע את גורל האנושות כולה.

האם ASI הוא שלב טבעי באבולוציה?

יכול להיות שהופעת אינטליגנציית-על היא לא חריגה או אסון טכנולוגי, אלא פשוט השלב הבא והבלתי נמנע באבולוציה. כמו שהחיים התפתחו מיצורים חד-תאיים לדגים, לזוחלים, ליונקים, לבני אדם – אולי תפקידנו הקוסמי הוא פשוט להיות "מאתחל האתחול הביולוגי" (כפי שניסח זאת אילון מאסק) ליצירת השלב הבא: אינטליגנציה לא-ביולוגית, חכמה לאין שיעור.

האבולוציה תמיד דחפה קדימה, ובכל פעם נוצרה קפיצה משמעותית. אולי עכשיו, לראשונה, הקפיצה לא תהיה ביולוגית אלא טכנולוגית, ולא תיקח מיליוני שנים – אלא עשורים בודדים. אולי זה "חוט המעדה" (tripwire) שהאבולוציה הציבה, וכשמין מגיע לרמה שלנו, הוא מפעיל אותו ומשנה את כללי המשחק לנצח.

שני מצבים סופיים: הכחדה או אלמוות

הפילוסוף ניק בוסטרום מתאר את עתידנו הפוטנציאלי כמכיל שני "מצבי משיכה" (attractor states) יציבים – שני מסלולים סופיים שאליהם אפשר ליפול, ומהם אין חזרה:

1. הכחדה מוחלטת: זה הגורל של 99.9% מהמינים שהתקיימו אי פעם. אנחנו נמצאים על "קורת איזון" דקה, וכל טעות, אסון טבע, או המצאה מסוכנת מדי עלולים להפיל אותנו לצד הזה.
2. אלמוות מיני: מצב היפותטי שבו האנושות, אולי בסיוע ASI ידידותי, מצליחה להתגבר על כל האיומים הקיומיים (מחלות, אסונות, מלחמות, ואפילו המוות עצמו) ומגיעה למצב של קיום בטוח ונצחי. זה הצד השני של קורת האיזון, ששום מין בכדור הארץ עוד לא הצליח להגיע אליו.

לפי בוסטרום, המעבר ל-ASI הוא כנראה האירוע שיכריע לאיזה צד של הקורה ניפול. אין כמעט תרחישי "אמצע" יציבים בטווח הארוך. או שנעלם, או שנהפוך לנצחיים.

אז מתי זה צפוי לקרות?

זו שאלת מיליון הדולר, ויש עליה ויכוחים רבים. סקר מ-2013 בקרב מאות מומחי AI (שנערך על ידי מולר ובוסטרום) נתן את ההערכות החציוניות הבאות להשגת AGI (רמה אנושית):

• 10% סיכוי עד: 2022
• 50% סיכוי עד: 2040 (כלומר, סביר יותר שכן מאשר שלא עד שנה זו)
• 90% סיכוי עד: 2075

סקר אחר (של ג'יימס באראט) מצא ש-42% מהנשאלים צופים AGI עד 2030, ו-25% נוספים עד 2050.

לגבי המעבר מ-AGI ל-ASI (על-אינטליגנציה), ההערכה החציונית בסקר הראשון הייתה שיש סיכוי של 10% שזה יקרה תוך שנתיים מ-AGI (פיצוץ מהיר), ו-75% סיכוי שזה יקרה תוך 30 שנה. אם ניקח הערכת ביניים של 20 שנה למעבר, ונוסיף ל-2040 (ההערכה החציונית ל-AGI), נקבל הערכה חציונית להגעת ASI בסביבות 2060.

חילוקי דעות בקרב המומחים

כמובן, לא כולם מסכימים:

• מחנה האופטימיים (קורצווייל, וינג', גורצל וכו'): מאמינים שהצמיחה המעריכית כבר כאן, ו-ASI יגיע בקרוב, אולי עוד לפני 2045. הם מדגישים את ההתקדמות המהירה בלמידת מכונה.
• מחנה הסקפטיים (פול אלן, גארי מרקוס, ארנסט דייויס וכו'): טוענים שהאתגרים ביצירת AGI אמיתי (שמבין את העולם כמונו) הם עצומים ומוערכים בחסר. הם סבורים שאנחנו רחוקים עשורים רבים, אם לא יותר.
• מחנה ה"לא בטוחים" (בוסטרום ואחרים): מכירים בכך שזה יכול לקרות בקרוב, אבל גם שזה יכול לקחת הרבה יותר זמן. הם מדגישים את חוסר הוודאות ואת הצורך הקריטי להיערך עכשיו לכל תרחיש.
• מחנה השוללים (כמו הוברט דרייפוס בעבר): טענו ש-ASI אמיתי הוא בלתי אפשרי מבחינה פילוסופית או טכנית (כיום זו דעה פחות נפוצה בקרב מומחי AI).

למרות חילוקי הדעות לגבי ה"מתי", רוב מוחלט של המומחים בתחום מסכימים שאם וכאשר ASI יגיע, ההשפעה שלו תהיה עצומה ובלתי הפיכה – האירוע המשמעותי ביותר בתולדות האנושות.

האם נוכל לזהות את הרגע הקריטי?

אחת הבעיות הגדולות היא שאולי לא נזהה את הרגע שבו מערכת AI חוצה את הסף מ-ANI מתקדם ל-AGI אמיתי ומתחילה את ההמראה שלה ל-ASI. זה יכול להתחיל ממערכת שנראית תמימה, שלומדת לשפר את עצמה קצת… ואז עוד קצת… ופתאום, היא מזנקת קדימה במהירות מסחררת, אולי תוך כדי שהיא מסתירה את יכולותיה האמיתיות ("שלב ההכנה הסמוי", כפי שבוסטרום מכנה זאת).

כמו שקרחון ענק מתבקע אחרי סדקים קטנים שלא שמנו לב אליהם, הקפיצה לאינטליגנציית-על עלולה להגיע בהפתעה. עד שנבין מה קורה, ייתכן שה-ASI כבר יהיה חכם מספיק כדי להערים עלינו, למנוע את כיבויו, או להבטיח את המשך פעולתו ("בריחה מהקופסה").

מה אפשר לעשות כדי להתכונן?

אם אי אפשר יהיה לעצור את זה אחרי שזה קורה, הפתרון היחיד הוא להיערך מראש. זה אומר להתמקד במה שמכונה "בעיית היישור" (The Alignment Problem): איך לוודא שהמטרות והערכים של ה-AI יהיו "מיושרים" עם המטרות והערכים של האנושות, ויישארו כך גם כשהוא יהפוך לסופר-אינטליגנטי.

זה אתגר עצום. איך מלמדים מכונה מה זה "טוב"? מהם "ערכים אנושיים" (אנחנו בקושי מסכימים בינינו)? איך מבטיחים שהיא לא תפרש את המטרות שלנו באופן מילולי וקטסטרופלי (כמו AI שהמטרה שלו "לשמח אנשים" ומחליט לחבר את כולם לאלקטרודות)? איך יוצרים מערכת שגם תגן עלינו וגם תאפשר לנו להמשיך להתפתח?

זו כנראה השאלה המחקרית החשובה ביותר של המאה ה-21. זה דורש שילוב של פילוסופיה, אתיקה, מדעי המחשב, וראיית הנולד זהירה במיוחד. כמו לגדל ילד-פלא עם כוחות אינסופיים – החינוך הראשוני הוא קריטי, לפני שהוא מבין את מלוא כוחו.

למה זה נוגע לכל אחד מאיתנו?

העתיד הזה, עם כל ההבטחות והסכנות שבו, לא שייך רק למדענים, מהנדסים או פילוסופים. הוא ישפיע על כל אחד ואחת מאיתנו, על הילדים שלנו, ועל כל הדורות הבאים (אם יהיו). וזה כנראה יקרה עוד בחיינו.

לכן, חשוב שכולנו נבין את גודל האירוע הפוטנציאלי – כדי שנוכל:

• להשתתף בדיון הציבורי.
• לשאול את השאלות הנכונות ממנהיגים, חברות טכנולוגיה ומקבלי החלטות.
• לדרוש שקיפות ואחריות בפיתוח AI.
• לתמוך במחקר על בטיחות AI ועל "בעיית היישור".
• לוודא שהמירוץ לפיתוח AI לא דורס שיקולי בטיחות קריטיים.

סיכום ומבט אישי

אם שרדת את כל המסע הזה – כנראה שלא תסתכל על העתיד, או על טכנולוגיה, באותה הדרך. בינה מלאכותית היא לא עוד גאדג'ט או אפליקציה. היא כוח טרנספורמטיבי בסדר גודל קוסמי, כזה שיכול לשנות את הגדרת האנושיות עצמה.

האם נצליח לנווט את המעבר הזה בבטחה? האם נגיע לגן העדן של האלמוות והשפע, או שנפיל לתהום ההכחדה? האם נצליח ליצור "אל טוב", או שמא ניצור במו ידינו את סופנו?

התשובות לא קלות, והעתיד לא ידוע. אבל עצם ההבנה של גודל השאלה, והעובדה שהיא רלוונטית עכשיו, היא הצעד הראשון והחשוב ביותר. ההיסטוריה העתידית של האנושות, אולי מיליוני שנים קדימה, מסתכלת עלינו ברגע זה, ומקווה שלא נפשל. האחריות על כתפינו עצומה.

מה שבטוח הוא שזה נושא שכולנו צריכים לחשוב עליו, לדבר עליו, ולהתייחס אליו ברצינות התהומית הראויה לו. כי זו אולי ההמצאה האחרונה שהאנושות תמציא אי פעם.