Singularity University

האם זה אוקסימורון מתחכם או רצינות תהומית? Singularity University היא היוזמה החדשה שדוחף ד"ר ריי קורצוויל, העתידן והממציא, אחד מהאנשים שדחפו במרץ רב בשנים האחרונות את הנושא (ולפעמים זוכה גם לביקורות לא קטנות). מהי הסינגולאריטי? ובכן מדובר ברגע ההיסטורי שיבוא מתישהו אחרי שמערכת מחשב תעמוד בקריטריונים או אף תעקוף את המוח האנושי במבחני אינטיליגנציה כללית.

כמובן שמי שחובב מד"ב דיסטופי מיד קופץ כנשוך נחש וצווח "אמא'לה, SkyNet!", אבל זה יהיה פשטני מדי. מדענים בצד הפיסי/רפואי בונים כבר דגם מלא של גזע מוח של עכבר בסימולצית תוכנה, ובקרוב מוח שלם, משם "קצרה" הדרך ליונקים גדולים יותר ועד לאדם. מהצד השני חוקרים אנשי תוכנה איך לזייף אינטיליגנציה עד שתהיה אינטיליגנציה של ממש. לקח הרבה שנים כדי להגיע למסקנה שהיום נשמעת כמעט טרוויאלית: כנראה שאי אפשר להתחיל ממערכת מומחה כמו תוכנות השחמט הטובות בעולם, ולהסיק מהן משהו על תבונה מלאכותית כללית (AGI = Artificial General Intelligence). הרי "כחול עמוק" או "מחשבה עמוקה" או איך ש־IBM קראה לו (וקספרוב לא רוצה לשמוע עליו יותר) מנצח את כל העולם בשח אבל הוא שחקן שש-בש גרוע ביותר, וגם לעשות קפה אינו יודע. בסיפוריו של אסימוב היו המוחות מגיעים עם מסד נתונים כברירת מחדל מהמפעל, אבל משהו שונה ומקורי היה בסיפור אחד, שבו "מוח פוזיטרוני" אחד התחיל במצב "ריק כמו תינוק" ולמד מסביבתו, כולל חוקי מוסר בסיסיים. היום אנחנו יודעים שכדי להגיע ל־AGI שכזה, מאוד יכול להיות שלהעמיס ניתוח סמנטי של כל הבריטניקה לא יספיק, והמערכת צריכה להיות באינטראקציה עם העולם – ללמוד מאיך שפעולותיה משפיעות על סביבתה ואיך הסביבה מגיבה חזרה. יש חוקרים שכבר היום מתחילים לבחון מערכות לומדות שכאלו ע"י חיבור הקשר שלהן לעולם הסובב ולראות איך הן לומדות לא רק מהתכתבות טקסטואלית, ע"י זה שהם "שותלים" את הישות שלה בצורת כלבלב או תינוק בתוך סקונד לייף, ונותנים ל"מקומיים" להיות איתה באינטראקציה.

אז איך יראה עתיד שכזה, שבו האדם אינו הייצור האינטיליגנטי ביותר על הכוכב? הנקודה שבה נבנה מכונה מספיק אינטיליגנטית כדי לתכנן את הדור הבא של עצמה כמעט בלעדינו? האם אינטיליגנציה כזו תבין רגשות? האם היא תמצא לנו פתרונות למשבר המשאבים שיצליחו להתמודד גם עם כל הקשיים התרבותיים והדתיים? ופתרון מאזן האימה הגרעיני? האם היא תעלה על שיטות מתמטיות לפצח את כל סוגי הקריפטוגרפיה המקובלים בשוק או שמא להפך, תוכיח מי מהם החזקים והראויים לשימוש, או שתמציא חזקים וטובים מהם?

האם היא תתפתח למצב שנפתרות לנו חידות מדעיות בקצב יותר מהיר משנוכל להבין את הפתרונות? קורצוייל גורס שכן, וביום שזה יקרה – כשפיתוחים מדעיים מיושמים בקצבים העוקפים את יכולתנו להבין אותם, זו היא נקודת הסינגולריטי, כשהמין האנושי יתקדם בקצב יותר מהיר ממה שהוא מסוגל להבין אפילו. לפחות לא בלי הרבה עזרה מלאכותית של הרחבה או החלפה של הגוף והמוח הביולוגיים.

ואני לא נכנס אפילו לקטעים המוסריים של מכונה עם מודעות עצמית, האם מגיעה לה אזרחות וזכויות עצמאיות, או מה אם היא תבחר באמונות אנושיות כדרך עדיפה, או אולי תתכנן עקונות דת שיעזרו לנווט את המין האנושי למקום חדש. מה תהיה המשמעות הרוחנית שיעניקו לתוכנה/תבונה הזו אנשי רוח היום שיקבלו תובנות מעניינות מרעיונות רוחניים שיהגה מוח אלקטרוני? האם יפסלו אותה ואת עצותיה אנשי דת כחסרת נשמה או שמא יחזרו בשאלה או אולי יאשימו אותה בדיבוק?

קורצווייל גם מעריך כי לפני שנגיע לשלב הזה יהיו נאנובוטים שיעשירו את יכולותינו הטבעיות – פיסיות וקוגניטיביות – במצב כזה יצורי כלאיים קיברנטיים כמו "הבורג" של STTNG כבר יראו ישנים ומגוכחים, כי הקיברנטיקה תזרום לנו במחזור הדם, אבל גם חלקי חילוף גדולים יעברו מהפכה תפיסתית (ובתחום המאוד רחב הזה, הציצו על הרצאותיהם של קורצווייל עצמו ושל מאלינס המקסימה). נאנובוטים בדם שמעשירים אותנו יכולים גם לפגוע בנו אם איננו יודעים מה מקורם – אז האם אלו סמים טובים או רעים? יש עוד המון שאלות פתוחות.

השאלה הנוספת היא כמובן מתי זה עלול לקרות, והעוסקים בתחום מעריכים שהנקודה הזו תקרה תוך 10-20 שנה. זה לא הרבה זמן להתכונן למהפכה שדבר כזה עלול לגרום, ולכן קורצווייל לא מסתפק יותר בועידה שנתית, אלא פתח "אוניברסיטה" בשטח בסיס נאסא בעמק הסיליקון והכריז עליה לפני חצי שנה. במקום אפשר יהיה ללמוד מטובי הרעיונאים והחוקרים בתחום קורס קצר או תכנית שלמה, על כל האספקטים של מדעים מדויקים, סוציולוגיה, פסיכולוגיה, וכל מה שבינהם, כולל לדון באפשרות (הנראית פחות ופחות אפשרית) שהסינגולאריטי לא יגיע לעולם. בקרוב הסרט.

האנשים החכמים נפגשים לועידה שנתית שאפשר לראות או לפחות לשמוע ברשת (2006, 2007, 2008 ועוד פודקאסטים ב־ITC), אבל האוניברסיטה מיועדת לרכז ולהרחיב את המאמצים. בעיטת הפתיחה היא תוכנית קיץ מיוחדת (ואני מקווה שלא חד פעמית) – 9 שבועות קייטנה רב-תחומית לטובי החוקרים שהגישו בקשות מכל העולם. 40 איש ואישה מכל העולם שיקבלו מלגה מלאה להגיע לעמק הסיליקון וללמוד, לדון ולהפיק אולי גם ניירות עם טובי המוחות מתחומי המדע השונים. 40 מוחות מצוינים ומגוונים שנבחרו מבין עשרות ואולי מאות אלפים של מועמדויות שהוגשו, והשבוע נדע מי התקבל…

Across cultures, classes, and aeons, people have yearned to transcend death.

Bear that history in mind as you consider the creed of the singularitarians. Many of them fervently believe that in the next several decades we’ll have computers into which you’ll be able to upload your consciousness—the mysterious thing that makes you you. Then, with your consciousness able to go from mechanical body to mechanical body, or virtual paradise to virtual paradise, you’ll never need to face death, illness, bad food, or poor cellphone reception.

Now you know why the singularity has also been called the rapture of the geeks.

— Glenn Zorpette , Waiting for the Rapture

17 Replies to “Singularity University”

  1. ב-8 בדצמבר 2004 ישבתי עם ריי קורצוויל כמה שעות ב-MIT ושוחחנו על קו מוצרי הבריאות שהוא קידם בזמנו, תוספי תזונה שנועדו לאפשר לו לחיות לנצח, או לפחות עד שיופיעו הננובוטים שיאפשרו לו לחיות לנצח. התחזית שלו היתה מגובה כמובן בתחזיות הנוגעות לקצב התקדמות הטכנולוגיה, תחזיות שקורצווייל ידוע בחיבתו אליהן כמו גם בהצלחות העבר שלו בייצור תחזיות אלה.
    בזמן השיחה היה ברור מאד שמה שמניע אותו היה טראומה ממות אביו. מעבר לשיחה על המשמעויות האתיות של חיים לנצח, בניתי מודל דינאמי תוך כדי שיחה המתאר את חוסר ההתאמה בין הרגלי התזונה שלנו, המטבוליזם שלנו והסביבה בה אנו חיים, הבא לידי ביטוי בהשמנת יתר. לפי התכנית של קורצווייל, הפתרון הוא פיתוח של תוספי תזונה שמאפשרים לנו לאכול מה שאנחנו רוצים מבלי להשמין. הראיתי לו שלדינמיקה כזאת יש השפעה הרסנית על הסביבה, מכיוון שהיא רק מעודדת צריכת תוספי תזונה ועוד ועוד מזון, והקבלתי את המודל שלי למודלים קיימים המתארים דינאמיקה של התמכרות.
    הפתרון שהצעתי היה פשוט לא לאכול יותר זבל, ולוותר על רעיון חיי הנצח. הוא לא הגיב לזה טוב.

    1. עזוב אותך מהפסיכוזות של קורצווייל, אנחנו יודעים שהאיש לא בדיוק, איך נקרא לזה, "רגיל". אבל אני מפריד בין הפסיכוזות הקטנות שיש לכל אחד מאיתנו, לבין הדברים המבריקים שהאיש הוגה ופועל למענם.

      בוא ננסח את זה אחרת – אם אתה היית מקבל מלגה עכשיו לטוס למאונטיין וויו ל9 שבועות של טחינת פתרונות לבעיות שאולי ישנו יום אחד את יכולת האנושות להתמודד עם סינגולאריטי. יותר מזה – אפילו אם אתה לא מאמין אפילו שאירוע הסינגולאריטי יקרה… לא היו מעניינים אותך כל האנשים שתפגוש ותלמד מהם שם? הוא לא מעביר להם הרי את כל הקייטנה בעצמו, מביאים להם את טובי המוחות החושבים מארה"ב ומהעולם.

      ובמילים אחרות, סיפורי תוספי התזונה, זה מה מה שמעצב לך את דעתך על כל האישיות שלו ופועלו?

  2. א. כן. בטח שהייתי נוסע, אבל גם לא מסתנוור מהרזומה המרשים של המאורות הגדולים שם ומפעיל חשיבה ביקורתית.
    ב. לא. סיפור תוספי התזונה לא מעצב את דעתי על כל אישיותו ופועלו של האיש.

    1. א. ברור חשיבה ביקורתית, זה מה שהכוונה פה. יצירתית וביקורתית. חשיבה ביקורתית זה הכי כיף, זה כמו פאזל תמידי – לעצור מישהו כשהוא גולש לבולשיט ולא להניח לו לברוח לשם :-)

      ב. נו, אבל זה מה שספרת נגדו, אז אם כך מעבר לזה, ומעבר לשאלות של ההתנהלות המוזרה שלו מול ניוזוויק ושאר מקרים – רעיונות והמצאות נטו, יש כבוד או אין? אם יש משהו אחר, ספר, ונשמח להחכים.

  3. אפשר לחשוב על SU כסיעור-מוחות בין תחומי של 9 שבועות.

    בדרך כלל אנשים בכלל ומדענים בפרט לא מדברים עם עמיתייהם העוסקים בתחומים אחרים. אפילו חסרה להם השפה לעשות זאת.

    הכוונה ב SU היא במשך 6 שבועות ללמד את כולם את השפה של תחומים אחרים (3 שבועות לרוחב בכל הנושאים, ואחר-כך שלושה שבועות לעומק בתחום אחד שהוא לא התחום המקורי של הסטודנט), ואז שלושה שבועות של נסיון לפתור בעיות ולבוא עם רעיונות שישפיעו באופן חיובי על מיליארד איש תוך 10 שנים.

    בלי קשר לקורצוויל עצמו, על יתרונותיו וחסרונותיו (שנדמה לי ששניהם רבים), מדובר בניסוי מעניין. מה יקרה אם נגרום לאנשים מפקולטות שונות לנסות ולשתף פעולה?

    שי

  4. שי, אתה למדת רק בישראל אז אתה אולי לא מודע שיש מקומות בעולם שכן מנסים לעשות את האיחוד הזה (וברמה אפילו יותר מאוחדת מאשר ב-IDC הרצליה). על חשיבות הבין-תחומיות מדברים מאז סוף שנות השישים. נראה איך קורצווייל מצליח לארגן את זה.

    אגב, סיפרתי את זה למישהו – "40 אנשים חכמים מכל העולם יושבים בקמפוס בנאס"א איימז במשך תשעה שבועות, פוגשים את האנשים הכי חכמים מכל התחומים שרק יבקשו, ומנסים לפתור…" – אז הוא עצר אותי ושאל באיזה ערוץ משדרים את זה. חשבתי שזה באמת יהיה נהדר אם העולם יוכל לחוות את הרעיונות נוצרים בזמן אמת, אבל הוא צחק עלי שלא הבנתי אוטומטית את ההקבלה ל"אח הגדול"…

    אני רק מקווה שכל החומר המעניין יהיה אונליין, או שה"תלמידים" של האוניברסיטה יזרקו לנו עצמות באיזה ערוץ מאוחד של טוויטים או לייב-בלוגינג.

    מי רוצה לזרוק הימור כמה ישראלים התקבלו? ההשתתפות אסורה על עובדי הבלוג, בני משפחותיהם, ריי קורצווייל ומי שיודע בוודאות אבל נשבע לא לספר. בין המנחשים נכונה יוגרל גור חתולים נורא נורא חמוד.

  5. תשמע – זה חתיכת רעיון.
    האמת – לא ברור לי למה באמת אף אחד לא מרים את הכפפה לשדר את המפגשים האלה, או לפחות את חלקם הנרחב, בערוץ ייעודי בכבלים או בלוויין , במקום כלשהו בעולם.

    יש לי המון שאלות בסיסיות, שעלו בעקבות הפוסט הזה שלך:
    נכון – יש אנשים בעולם, שאולי יראו את הדברים שנאמרים שם כ"הזויים" – ונכון, אנשים רבים משלמים כסף טוב כדי להיות חלק מה-SU, אבל הרי כל הרעיון מאחורי ה-SU הוא שיתוף מידע, לא? פתרונות להמונים! לביליוני אנשים! איך ביליוני אנשים יידעו מה הולך מאחורי דלתיים סגורות, אם רק 40-50 איש מתוכם נמצאים שם מדי שנה (והאמת היא שאין לי ממש מושג כמה זמן אחרי זה הם גם נשארים בקשר רציף, על מנת לנסות לממש את הרעיונות האלה כקבוצה)?

    למה לא להעלות את הרעיונות האלה – "הזויים" ככל שיהיו לחלק מאנשי העולם – בערוצי תקשורת פתוחים? איך מקווים להשיג שינוי בלי שיתוף פעולה של אותם ביליונים?

    ובלי קשר – כל הרעיון עצמו נשמע מאוד מפתה ומעניין. הייתי מת להיות זבוב על הקיר שם (זבוב עם חשיבה ביקורתית, כמובן… ).

    1. זבוב עם חשיבה ביקורתית זה הפיתוח הבא שהמין האנושי צריך!

      יאללה, אתה מוזמן לשפוך את כל השאלות הבסיסיות. במסגרת עבודתי העיתונאית ב"קריקטור" ועבודות בילוש נרחבות, גיליתי שם של משתתפ(ת) בסמסטר הקיץ. אסור לי לגלות את המקור אבל יתפרסם ראיון בקרוב. אקסקלוסיבי לפני מעריב, ידיעות ודוד שי! (את הארץ, ערוץ 7, ג'רוזלם פוסט ויתד נאמן כבר לא סופרים היום).

      בקיצור מה הייתם רוצים לשאול?

  6. קמים ומארגנים אירוע שאמור לדון באיזה אפשרות מדע"ב-ית של מכונות שמקבילות לאדם ועוברות אותו – ושמים בחדר מדענים מתחומים שונים…

    כל הרב תחומיות הזו זה סבבה, אבל מי יעוף ראשון מהמחנה?

    אה.. אתה אומר שלא עפים? רגע? אז איזו סיבה יש לצפות בזה?
    —-

    אני היחידי שזה נראה לו משעשע שקוראים לאירוע רב תחומי "סינגולאריטי"?

    במיוחד שיש רק מדענים פה – מתחום מדעי החיים והטבע. זו לא רב-תחומיות –
    it's in-breading.

    :

    "Computers are useless,they can only give you answers"
    Picasso.

    1. אז זהו, שחיפשתי הרבה ולא מצאתי על המדף שלי את אותו הסיפור הקצר שעליו חשבתי. זה היה סיפור על מוח פוזיטרוני אחד ש"נדפק" בייצור ולא הגיע מוטען מראש עם "חוקי הרובוטיקה" או עם מספיק הבנה על העולם כדי להבין חוקים מופשטים כאלו, וממש התנהג כמו תינוק. לא מספיק מודע אפילו לכוחו והנזקים שגופו גורם, אבל המדענים חוקרים אותו כי הוא מציג ממש צעדי למידה והתפתחות של תינוק אנושי. אני פשוט לא מצליח להזכר מה היה שם הספר.

  7. אני לא יודע אם יקליטו וידאו, אבל אני כן שמעתי שמועה שברירת המחדל של כל התוכן ש ה SU מייצרת הוא תחת CC (מיוזמתם).

    1. is it?

      חדשות די ישנות, קורצווייל פרסם ספרים בנושא ומדבר על זה לא מעט, וזו אולי אחת הסיבות שיש אנשים שממהרים להדביק לכל פועלו דעות קדומות, וחבל.

Leave a Reply