×”×× ×–×” ×וקסימורון ×ž×ª×—×›× ×ו ×¨×¦×™× ×•×ª תהומית? Singularity University ×”×™× ×”×™×•×–×ž×” החדשה שדוחף ד"ר ריי קורצוויל, העתידן והממצי×, ×חד מה×× ×©×™× ×©×“×—×¤×• במרץ רב ×‘×©× ×™× ×”××—×¨×•× ×•×ª ×ת ×”× ×•×©× (×•×œ×¤×¢×ž×™× ×–×•×›×” ×’× ×œ×‘×™×§×•×¨×•×ª ×œ× ×§×˜× ×•×ª). מהי ×”×¡×™× ×’×•×œ×ריטי? ובכן מדובר ברגע ההיסטורי ×©×™×‘×•× ×ž×ª×™×©×”×• ×חרי שמערכת מחשב תעמוד ×‘×§×¨×™×˜×¨×™×•× ×™× ×ו ××£ תעקוף ×ת המוח ×”×× ×•×©×™ ×‘×ž×‘×—× ×™ ××™× ×˜×™×œ×™×’× ×¦×™×” כללית.
כמובן שמי שחובב מד"ב דיסטופי מיד קופץ ×›× ×©×•×š × ×—×© וצווח "×מ×'לה, SkyNet!", ×בל ×–×” ×™×”×™×” ×¤×©×˜× ×™ מדי. ×ž×“×¢× ×™× ×‘×¦×“ הפיסי/רפו××™ ×‘×•× ×™× ×›×‘×¨ ×“×’× ×ž×œ× ×©×œ ×’×–×¢ מוח של עכבר בסימולצית ×ª×•×›× ×”, ובקרוב מוח של×, ×ž×©× "קצרה" הדרך ×œ×™×•× ×§×™× ×’×“×•×œ×™× ×™×•×ª×¨ ועד ל×ד×. מהצד ×”×©× ×™ ×—×•×§×¨×™× ×× ×©×™ ×ª×•×›× ×” ×יך לזייף ××™× ×˜×™×œ×™×’× ×¦×™×” עד שתהיה ××™× ×˜×™×œ×™×’× ×¦×™×” של ממש. לקח הרבה ×©× ×™× ×›×“×™ להגיע ×œ×ž×¡×§× ×” ×©×”×™×•× × ×©×ž×¢×ª כמעט טרווי×לית: ×›× ×¨××” ש××™ ×פשר להתחיל ממערכת מומחה כמו ×ª×•×›× ×•×ª השחמט הטובות בעול×, ולהסיק מהן משהו על ×ª×‘×•× ×” מל×כותית כללית (AGI = Artificial General Intelligence). הרי "כחול עמוק" ×ו "מחשבה עמוקה" ×ו ×יך ש־IBM קר××” לו (וקספרוב ×œ× ×¨×•×¦×” לשמוע עליו יותר) ×ž× ×¦×— ×ת כל ×”×¢×•×œ× ×‘×©×— ×בל ×”×•× ×©×—×§×Ÿ שש-בש גרוע ביותר, ×•×’× ×œ×¢×©×•×ª קפה ××™× ×• יודע. בסיפוריו של ×סימוב היו המוחות ×ž×’×™×¢×™× ×¢× ×ž×¡×“ × ×ª×•× ×™× ×›×‘×¨×™×¨×ª מחדל מהמפעל, ×בל משהו ×©×•× ×” ומקורי ×”×™×” בסיפור ×חד, שבו "מוח ×¤×•×–×™×˜×¨×•× ×™" ×חד התחיל במצב "ריק כמו ×ª×™× ×•×§" ולמד מסביבתו, כולל חוקי מוסר בסיסיי×. ×”×™×•× ×× ×—× ×• ×™×•×“×¢×™× ×©×›×“×™ להגיע ל־AGI שכזה, מ×וד יכול להיות שלהעמיס × ×™×ª×•×— ×¡×ž× ×˜×™ של כל ×”×‘×¨×™×˜× ×™×§×” ×œ× ×™×¡×¤×™×§, והמערכת צריכה להיות ב××™× ×˜×¨×קציה ×¢× ×”×¢×•×œ× – ללמוד מ×יך שפעולותיה משפיעות על סביבתה ו×יך הסביבה מגיבה חזרה. יש ×—×•×§×¨×™× ×©×›×‘×¨ ×”×™×•× ×ž×ª×—×™×œ×™× ×œ×‘×—×•×Ÿ מערכות לומדות שכ×לו ×¢"×™ חיבור הקשר שלהן ×œ×¢×•×œ× ×”×¡×•×‘×‘ ולר×ות ×יך הן לומדות ×œ× ×¨×§ מהתכתבות טקסטו×לית, ×¢"×™ ×–×” ×©×”× "שותלי×" ×ת הישות שלה בצורת כלבלב ×ו ×ª×™× ×•×§ בתוך ×¡×§×•× ×“ לייף, ×•× ×•×ª× ×™× ×œ"מקומיי×" להיות ×יתה ב××™× ×˜×¨×קציה.
××– ×יך יר××” עתיד שכזה, שבו ×”××“× ××™× ×• הייצור ×”××™× ×˜×™×œ×™×’× ×˜×™ ביותר על הכוכב? ×”× ×§×•×“×” שבה × ×‘× ×” ×ž×›×•× ×” מספיק ××™× ×˜×™×œ×™×’× ×˜×™×ª כדי ×œ×ª×›× ×Ÿ ×ת הדור ×”×‘× ×©×œ עצמה כמעט ×‘×œ×¢×“×™× ×•? ×”×× ××™× ×˜×™×œ×™×’× ×¦×™×” כזו תבין רגשות? ×”×× ×”×™× ×ª×ž×¦× ×œ× ×• ×¤×ª×¨×•× ×•×ª למשבר המש××‘×™× ×©×™×¦×œ×™×—×• להתמודד ×’× ×¢× ×›×œ ×”×§×©×™×™× ×”×ª×¨×‘×•×ª×™×™× ×•×”×“×ª×™×™×? ופתרון מ×זן ×”×ימה ×”×’×¨×¢×™× ×™? ×”×× ×”×™× ×ª×¢×œ×” על שיטות מתמטיות לפצח ×ת כל סוגי הקריפטוגרפיה ×”×ž×§×•×‘×œ×™× ×‘×©×•×§ ×ו ×©×ž× ×œ×”×¤×š, תוכיח מי ×ž×”× ×”×—×–×§×™× ×•×”×¨××•×™×™× ×œ×©×™×ž×•×©, ×ו ×©×ª×ž×¦×™× ×—×–×§×™× ×•×˜×•×‘×™× ×ž×”×?
×”×× ×”×™× ×ª×ª×¤×ª×— למצב ×©× ×¤×ª×¨×•×ª ×œ× ×• חידות מדעיות בקצב יותר מהיר ×ž×©× ×•×›×œ להבין ×ת ×”×¤×ª×¨×•× ×•×ª? קורצוייל גורס שכן, ×•×‘×™×•× ×©×–×” יקרה – ×›×©×¤×™×ª×•×—×™× ×ž×“×¢×™×™× ×ž×™×•×©×ž×™× ×‘×§×¦×‘×™× ×”×¢×•×§×¤×™× ×ת ×™×›×•×œ×ª× ×• להבין ×ות×, זו ×”×™× × ×§×•×“×ª ×”×¡×™× ×’×•×œ×¨×™×˜×™, כשהמין ×”×× ×•×©×™ ×™×ª×§×“× ×‘×§×¦×‘ יותר מהיר ממה ×©×”×•× ×ž×¡×•×’×œ להבין ×פילו. לפחות ×œ× ×‘×œ×™ הרבה עזרה מל×כותית של הרחבה ×ו החלפה של הגוף והמוח הביולוגיי×.
ו×× ×™ ×œ× × ×›× ×¡ ×פילו ×œ×§×˜×¢×™× ×”×ž×•×¡×¨×™×™× ×©×œ ×ž×›×•× ×” ×¢× ×ž×•×“×¢×•×ª עצמית, ×”×× ×ž×’×™×¢×” לה ×זרחות וזכויות עצמ×יות, ×ו מה ×× ×”×™× ×ª×‘×—×¨ ב××ž×•× ×•×ª ×× ×•×©×™×•×ª כדרך עדיפה, ×ו ×ולי ×ª×ª×›× ×Ÿ ×¢×§×•× ×•×ª דת שיעזרו ×œ× ×•×•×˜ ×ת המין ×”×× ×•×©×™ ×œ×ž×§×•× ×—×“×©. מה תהיה המשמעות ×”×¨×•×—× ×™×ª ×©×™×¢× ×™×§×• ×œ×ª×•×›× ×”/×ª×‘×•× ×” הזו ×× ×©×™ רוח ×”×™×•× ×©×™×§×‘×œ×• ×ª×•×‘× ×•×ª ×ž×¢× ×™×™× ×•×ª ×ž×¨×¢×™×•× ×•×ª ×¨×•×—× ×™×™× ×©×™×”×’×” מוח ××œ×§×˜×¨×•× ×™? ×”×× ×™×¤×¡×œ×• ×ותה ו×ת עצותיה ×× ×©×™ דת כחסרת × ×©×ž×” ×ו ×©×ž× ×™×—×–×¨×• בש×לה ×ו ×ולי ×™×שימו ×ותה בדיבוק?
קורצווייל ×’× ×ž×¢×¨×™×š ×›×™ ×œ×¤× ×™ ×©× ×’×™×¢ לשלב ×”×–×” יהיו × ×× ×•×‘×•×˜×™× ×©×™×¢×©×™×¨×• ×ת ×™×›×•×œ×•×ª×™× ×• הטבעיות – פיסיות ×•×§×•×’× ×™×˜×™×‘×™×•×ª – במצב ×›×–×” יצורי כל××™×™× ×§×™×‘×¨× ×˜×™×™× ×›×ž×• "הבורג" של STTNG כבר יר×ו ×™×©× ×™× ×•×ž×’×•×›×—×™×, ×›×™ ×”×§×™×‘×¨× ×˜×™×§×” ×ª×–×¨×•× ×œ× ×• במחזור הד×, ×בל ×’× ×—×œ×§×™ חילוף ×’×“×•×œ×™× ×™×¢×‘×¨×• מהפכה תפיסתית (×•×‘×ª×—×•× ×”×ž×וד רחב ×”×–×”, הציצו על הרצ××•×ª×™×”× ×©×œ קורצווייל עצמו ושל מ××œ×™× ×¡ המקסימה). × ×× ×•×‘×•×˜×™× ×‘×“× ×©×ž×¢×©×™×¨×™× ××•×ª× ×• ×™×›×•×œ×™× ×’× ×œ×¤×’×•×¢ ×‘× ×• ×× ××™× × ×• ×™×•×“×¢×™× ×ž×” ×ž×§×•×¨× – ××– ×”×× ×לו ×¡×ž×™× ×˜×•×‘×™× ×ו רעי×? יש עוד המון ש×לות פתוחות.
הש×לה ×”× ×•×¡×¤×ª ×”×™× ×›×ž×•×‘×Ÿ מתי ×–×” עלול לקרות, ×•×”×¢×•×¡×§×™× ×‘×ª×—×•× ×ž×¢×¨×™×›×™× ×©×”× ×§×•×“×” הזו תקרה תוך 10-20 ×©× ×”. ×–×” ×œ× ×”×¨×‘×” זמן ×œ×”×ª×›×•× ×Ÿ למהפכה שדבר ×›×–×” עלול לגרו×, ולכן קורצווייל ×œ× ×ž×¡×ª×¤×§ יותר בועידה ×©× ×ª×™×ª, ××œ× ×¤×ª×— "××•× ×™×‘×¨×¡×™×˜×”" בשטח בסיס × ××¡× ×‘×¢×ž×§ הסיליקון והכריז עליה ×œ×¤× ×™ חצי ×©× ×”. ×‘×ž×§×•× ×פשר ×™×”×™×” ללמוד מטובי ×”×¨×¢×™×•× ××™× ×•×”×—×•×§×¨×™× ×‘×ª×—×•× ×§×•×¨×¡ קצר ×ו ×ª×›× ×™×ª שלמה, על כל ×”××¡×¤×§×˜×™× ×©×œ ×ž×“×¢×™× ×ž×“×•×™×§×™×, סוציולוגיה, פסיכולוגיה, וכל מה ×©×‘×™× ×”×, כולל לדון ב×פשרות (×”× ×¨×ית פחות ופחות ×פשרית) ×©×”×¡×™× ×’×•×œ×ריטי ×œ× ×™×’×™×¢ לעול×. בקרוב הסרט.
×”×× ×©×™× ×”×—×›×ž×™× × ×¤×’×©×™× ×œ×•×¢×™×“×” ×©× ×ª×™×ª ש×פשר לר×ות ×ו לפחות לשמוע ברשת (2006, 2007, 2008 ועוד פודק××¡×˜×™× ×‘Ö¾ITC), ×בל ×”××•× ×™×‘×¨×¡×™×˜×” מיועדת לרכז ולהרחיב ×ת המ×מצי×. בעיטת הפתיחה ×”×™× ×ª×•×›× ×™×ª קיץ מיוחדת (ו×× ×™ מקווה ×©×œ× ×—×“ פעמית) – 9 שבועות ×§×™×™×˜× ×” רב-תחומית לטובי ×”×—×•×§×¨×™× ×©×”×’×™×©×• בקשות מכל העול×. 40 ×יש ו×ישה מכל ×”×¢×•×œ× ×©×™×§×‘×œ×• מלגה מל××” להגיע לעמק הסיליקון וללמוד, לדון ולהפיק ×ולי ×’× × ×™×™×¨×•×ª ×¢× ×˜×•×‘×™ המוחות מתחומי המדע ×”×©×•× ×™×. 40 מוחות ×ž×¦×•×™× ×™× ×•×ž×’×•×•× ×™× ×©× ×‘×—×¨×• מבין עשרות ו×ולי מ×ות ××œ×¤×™× ×©×œ מועמדויות שהוגשו, והשבוע × ×“×¢ מי התקבל…
Across cultures, classes, and aeons, people have yearned to transcend death.
Bear that history in mind as you consider the creed of the singularitarians. Many of them fervently believe that in the next several decades we’ll have computers into which you’ll be able to upload your consciousness—the mysterious thing that makes you you. Then, with your consciousness able to go from mechanical body to mechanical body, or virtual paradise to virtual paradise, you’ll never need to face death, illness, bad food, or poor cellphone reception.
Now you know why the singularity has also been called the rapture of the geeks.
— Glenn Zorpette , Waiting for the Rapture
ב-8 בדצמבר 2004 ישבתי עם ריי קורצוויל כמה שעות ב-MIT ושוחחנו על קו מוצרי הבריאות שהוא קידם בזמנו, תוספי תזונה שנועדו לאפשר לו לחיות לנצח, או לפחות עד שיופיעו הננובוטים שיאפשרו לו לחיות לנצח. התחזית שלו היתה מגובה כמובן בתחזיות הנוגעות לקצב התקדמות הטכנולוגיה, תחזיות שקורצווייל ידוע בחיבתו אליהן כמו גם בהצלחות העבר שלו בייצור תחזיות אלה.
בזמן השיחה היה ברור מאד שמה שמניע אותו היה טראומה ממות אביו. מעבר לשיחה על המשמעויות האתיות של חיים לנצח, בניתי מודל דינאמי תוך כדי שיחה המתאר את חוסר ההתאמה בין הרגלי התזונה שלנו, המטבוליזם שלנו והסביבה בה אנו חיים, הבא לידי ביטוי בהשמנת יתר. לפי התכנית של קורצווייל, הפתרון הוא פיתוח של תוספי תזונה שמאפשרים לנו לאכול מה שאנחנו רוצים מבלי להשמין. הראיתי לו שלדינמיקה כזאת יש השפעה הרסנית על הסביבה, מכיוון שהיא רק מעודדת צריכת תוספי תזונה ועוד ועוד מזון, והקבלתי את המודל שלי למודלים קיימים המתארים דינאמיקה של התמכרות.
הפתרון שהצעתי היה פשוט לא לאכול יותר זבל, ולוותר על רעיון חיי הנצח. הוא לא הגיב לזה טוב.
עזוב אותך מהפסיכוזות של קורצווייל, אנחנו יודעים שהאיש לא בדיוק, איך נקרא לזה, "רגיל". אבל אני מפריד בין הפסיכוזות הקטנות שיש לכל אחד מאיתנו, לבין הדברים המבריקים שהאיש הוגה ופועל למענם.
בוא ננסח את זה אחרת – אם אתה היית מקבל מלגה עכשיו לטוס למאונטיין וויו ל9 שבועות של טחינת פתרונות לבעיות שאולי ישנו יום אחד את יכולת האנושות להתמודד עם סינגולאריטי. יותר מזה – אפילו אם אתה לא מאמין אפילו שאירוע הסינגולאריטי יקרה… לא היו מעניינים אותך כל האנשים שתפגוש ותלמד מהם שם? הוא לא מעביר להם הרי את כל הקייטנה בעצמו, מביאים להם את טובי המוחות החושבים מארה"ב ומהעולם.
ובמילים אחרות, סיפורי תוספי התזונה, זה מה מה שמעצב לך את דעתך על כל האישיות שלו ופועלו?
א. כן. בטח שהייתי נוסע, אבל גם לא מסתנוור מהרזומה המרשים של המאורות הגדולים שם ומפעיל חשיבה ביקורתית.
ב. לא. סיפור תוספי התזונה לא מעצב את דעתי על כל אישיותו ופועלו של האיש.
א. ברור חשיבה ביקורתית, זה מה שהכוונה פה. יצירתית וביקורתית. חשיבה ביקורתית זה הכי כיף, זה כמו פאזל תמידי – לעצור מישהו כשהוא גולש לבולשיט ולא להניח לו לברוח לשם 🙂
ב. נו, אבל זה מה שספרת נגדו, אז אם כך מעבר לזה, ומעבר לשאלות של ההתנהלות המוזרה שלו מול ניוזוויק ושאר מקרים – רעיונות והמצאות נטו, יש כבוד או אין? אם יש משהו אחר, ספר, ונשמח להחכים.
אפשר לחשוב על SU כסיעור-מוחות בין תחומי של 9 שבועות.
בדרך כלל אנשים בכלל ומדענים בפרט לא מדברים עם עמיתייהם העוסקים בתחומים אחרים. אפילו חסרה להם השפה לעשות זאת.
הכוונה ב SU היא במשך 6 שבועות ללמד את כולם את השפה של תחומים אחרים (3 שבועות לרוחב בכל הנושאים, ואחר-כך שלושה שבועות לעומק בתחום אחד שהוא לא התחום המקורי של הסטודנט), ואז שלושה שבועות של נסיון לפתור בעיות ולבוא עם רעיונות שישפיעו באופן חיובי על מיליארד איש תוך 10 שנים.
בלי קשר לקורצוויל עצמו, על יתרונותיו וחסרונותיו (שנדמה לי ששניהם רבים), מדובר בניסוי מעניין. מה יקרה אם נגרום לאנשים מפקולטות שונות לנסות ולשתף פעולה?
שי
שי, אתה למדת רק בישראל אז אתה אולי לא מודע שיש מקומות בעולם שכן מנסים לעשות את האיחוד הזה (וברמה אפילו יותר מאוחדת מאשר ב-IDC הרצליה). על חשיבות הבין-תחומיות מדברים מאז סוף שנות השישים. נראה איך קורצווייל מצליח לארגן את זה.
אגב, סיפרתי את זה למישהו – "40 אנשים חכמים מכל העולם יושבים בקמפוס בנאס"א איימז במשך תשעה שבועות, פוגשים את האנשים הכי חכמים מכל התחומים שרק יבקשו, ומנסים לפתור…" – אז הוא עצר אותי ושאל באיזה ערוץ משדרים את זה. חשבתי שזה באמת יהיה נהדר אם העולם יוכל לחוות את הרעיונות נוצרים בזמן אמת, אבל הוא צחק עלי שלא הבנתי אוטומטית את ההקבלה ל"אח הגדול"…
אני רק מקווה שכל החומר המעניין יהיה אונליין, או שה"תלמידים" של האוניברסיטה יזרקו לנו עצמות באיזה ערוץ מאוחד של טוויטים או לייב-בלוגינג.
מי רוצה לזרוק הימור כמה ישראלים התקבלו? ההשתתפות אסורה על עובדי הבלוג, בני משפחותיהם, ריי קורצווייל ומי שיודע בוודאות אבל נשבע לא לספר. בין המנחשים נכונה יוגרל גור חתולים נורא נורא חמוד.
תשמע – זה חתיכת רעיון.
האמת – לא ברור לי למה באמת אף אחד לא מרים את הכפפה לשדר את המפגשים האלה, או לפחות את חלקם הנרחב, בערוץ ייעודי בכבלים או בלוויין , במקום כלשהו בעולם.
יש לי המון שאלות בסיסיות, שעלו בעקבות הפוסט הזה שלך:
נכון – יש אנשים בעולם, שאולי יראו את הדברים שנאמרים שם כ"הזויים" – ונכון, אנשים רבים משלמים כסף טוב כדי להיות חלק מה-SU, אבל הרי כל הרעיון מאחורי ה-SU הוא שיתוף מידע, לא? פתרונות להמונים! לביליוני אנשים! איך ביליוני אנשים יידעו מה הולך מאחורי דלתיים סגורות, אם רק 40-50 איש מתוכם נמצאים שם מדי שנה (והאמת היא שאין לי ממש מושג כמה זמן אחרי זה הם גם נשארים בקשר רציף, על מנת לנסות לממש את הרעיונות האלה כקבוצה)?
למה לא להעלות את הרעיונות האלה – "הזויים" ככל שיהיו לחלק מאנשי העולם – בערוצי תקשורת פתוחים? איך מקווים להשיג שינוי בלי שיתוף פעולה של אותם ביליונים?
ובלי קשר – כל הרעיון עצמו נשמע מאוד מפתה ומעניין. הייתי מת להיות זבוב על הקיר שם (זבוב עם חשיבה ביקורתית, כמובן… ).
זבוב עם חשיבה ביקורתית זה הפיתוח הבא שהמין האנושי צריך!
יאללה, אתה מוזמן לשפוך את כל השאלות הבסיסיות. במסגרת עבודתי העיתונאית ב"קריקטור" ועבודות בילוש נרחבות, גיליתי שם של משתתפ(ת) בסמסטר הקיץ. אסור לי לגלות את המקור אבל יתפרסם ראיון בקרוב. אקסקלוסיבי לפני מעריב, ידיעות ודוד שי! (את הארץ, ערוץ 7, ג'רוזלם פוסט ויתד נאמן כבר לא סופרים היום).
בקיצור מה הייתם רוצים לשאול?
קמים ומארגנים אירוע שאמור לדון באיזה אפשרות מדע"ב-ית של מכונות שמקבילות לאדם ועוברות אותו – ושמים בחדר מדענים מתחומים שונים…
כל הרב תחומיות הזו זה סבבה, אבל מי יעוף ראשון מהמחנה?
אה.. אתה אומר שלא עפים? רגע? אז איזו סיבה יש לצפות בזה?
—-
אני היחידי שזה נראה לו משעשע שקוראים לאירוע רב תחומי "סינגולאריטי"?
במיוחד שיש רק מדענים פה – מתחום מדעי החיים והטבע. זו לא רב-תחומיות –
it's in-breading.
—
:
"Computers are useless,they can only give you answers"
Picasso.
במבט שני בתוכנית, ובעיקר באנשים שרשומים שם – אני לוקח בחזרה את ההערה של הin-breading…
זה נראה די מעניין.
איזה אסימוב זה?
אז זהו, שחיפשתי הרבה ולא מצאתי על המדף שלי את אותו הסיפור הקצר שעליו חשבתי. זה היה סיפור על מוח פוזיטרוני אחד ש"נדפק" בייצור ולא הגיע מוטען מראש עם "חוקי הרובוטיקה" או עם מספיק הבנה על העולם כדי להבין חוקים מופשטים כאלו, וממש התנהג כמו תינוק. לא מספיק מודע אפילו לכוחו והנזקים שגופו גורם, אבל המדענים חוקרים אותו כי הוא מציג ממש צעדי למידה והתפתחות של תינוק אנושי. אני פשוט לא מצליח להזכר מה היה שם הספר.
אני לא יודע אם יקליטו וידאו, אבל אני כן שמעתי שמועה שברירת המחדל של כל התוכן ש ה SU מייצרת הוא תחת CC (מיוזמתם).
הסיפור של אסימוב נקרא "לני". נדמה לי ששם הספר הוא "בארץ הרובוטים".
אכן! תודה…
this just in
http://www.technologyreview.com/blog/guest/23802/
is it?
חדשות די ישנות, קורצווייל פרסם ספרים בנושא ומדבר על זה לא מעט, וזו אולי אחת הסיבות שיש אנשים שממהרים להדביק לכל פועלו דעות קדומות, וחבל.