סמסטר סינגולאריטי שמח, שי!

הלימודים התחילו, ואיתם הגיעו הפוסטים הרשמיים, וגם פורסם החלק הראשון של הראיון איתו בקריקטור. אינני מתכוון לכתוב על זה עוד הרבה אלא אם כן יעלו נושאים ממש מעניינים. הנושא הכי חשוב שיש לי לטפל בו בהקשר הזה הוא לגרום לבלוג שלו לעבוד בצורה דו סטרית אבל קריאה, להוסיף הרשמות במייל דרך פידברנר וכולי, ובסוף לרכז פוסט על הפתרונות שעלו ונפלו, ומסקנותי לגבי וורדפרס דו כיווני.

בראיון שי מזכיר נקודה שהוא סיפר לי בשיחה בינינו ולא ידעתי אם נכון להעלות כאן את הביקורת מראש לפני שהוא יכיר את האנשים בכנס אבל ×–×” פורסם אז ×”× ×” אני מתייחס… לסמסטר ×”×–×” התקבלו אנשים בהמון תחומים מגוונים, אנשי פיסיקה, ביולוגיה, רפואה, סביבה, חוק ותחומים אחרים, אבל שי שם לב שפסיכולוגים וסוציולוגים חסרים שם לפי הרשימות שפורסמו לסטודנטים מראש. הוא גם סיפר שבהתכתבויות בין הסטודנטים שהתחילו בפורומים הסגורים של מוסד הסינגולריטי לפני כחודש ומשהו, היתה המון התלהבות וריצה לרעיונות אוטופיים עם מעט מדי "פרקליטי שטן", תפקיד שאני תמיד מוצא את עצמי נכנס לנעליו אפילו בלי לרצות, ולשמחתי גם שי הוא אדם שכזה. אני מקווה שהטפיחות ההדדיות על שכמות כמו שמתואר במה שבינתיים קראתי, לא יגרמו לgroupthink, או לפחות שהג'וב ×”×–×” לא יפול בלעדית על כתפיו של שי. אם כך יקרה, ×–×” לא יוסיף להערכתי את המוסד כמובן 🙂 – שכרגע צריך להלחם בכל הביקורת של שונאי קורצווייל ולהוכיח שיש לו הצדקה ועתיד.

למי זה טוב, הסינגולאריטי הטכנולוגי?

ביקשו ממני לדייק. סינגולאריטי ככלל אומר לרוב האנשים "חור שחור", אבל אנחנו מדברים פה על סינגולאריטי טכנולוגי. אופק האירועים הלא ידועים, שמעבר לנקודה שבה המין האנושי (בגרסתו הביולוגית) כבר איננו האינטיליגנטי ביותר על הכוכב.

אפתח בחדשה: הוכרזה פתיחת השנה במוסד הסינגולאריטי (עדיין כואב לי בראש לקרוא לו אוניברסיטה) ועכשיו מותר לספר ששלושה מהתלמידים שהתקבלו הם ישראלים, ואחד מהם הוא חברי הטוב שי, ולכבוד הארוע עזרתי לו להקים בלוג. הבעיה שהשכל האנושי איננו מכונה עדיין, ובשל כשלים ועיכובים, הבלוג עדיין איננו דו כיווני ודו-לשוני במידה שרציתי, אבל יהיה מגניב בסוף התהליך (אני מקווה)

כאמור קורצווייל מדבר על סימביוזה עם המכונות, ובסופו של דבר העתקה של התודעה לתוך המכונה, לפני שימות הגוף. אבל העליתי לפני כשבועיים לשי את השאלה השאלתית של חשיבות הבשר להגדרת נפש האדם והוא ניסח את ×–×” יפה וקצר בפוסט הראשון שלו: "נשאלה שאלה עד כמה אינטיליגנציה מלאכותית יכולה להיות אנושית בלי גוף אנושי, ואנשים הגיעו עם תגובות מאוד מעניינות (למשל חשיבות הרביה והמוות בעיצוב המוסר שלנו או העובדה שיש לנו סדרי גודל של מרחב וזמן הבסיסיים מאוד לחשיבה לנו ואינם רלוונטים למחשב)". זו שאלה בסיסית ומובנת וג'×£ הוקינס דן בה בספרו החדש "על האינטיליגנציה", ושם הוא מסביר בבטחון מופרז למה אנחנו לא באמת רוצים מכונות עם רגשות אנושיים ושזה כאב ראש מוגזם לבנות במחשב גם סימולציות של תחושות אנושיות פרימיטיביות, דחפים ופחדים (סקס ומוות בראשם), ובעצם יוצא נגד ריי קורצווייל ורצונו בחיי נצח בסיליקון. אני לא בטוח שהוא לא נאיבי בהערכתו שזה לא יקרה ואנשים יפסיקו לשאוף לשם, אני גם לא בטוח בהערכותיו הנאיביות של קורצווייל שזה יקרה בשני העשורים הקרובים, אבל השאלות רבות ומעניינות – האם אנחנו יכולים להרשות לעצמנו, עם ×”DNA הנוכחי שלנו על בעיותיו, אדם ביולוגי שחי לנצח (אליבא דה אוברי דהגריי?), ולחלופין האם אנחנו רוצים להעתיק תודעה שנולדה בגוף, קיימת עכשיו בתוך מכונה, אבל מסמלצת תחושות גוף כדי לא להשתגע ולאבד את אישיותה?

הפחד שלנו ממוות קשור למבנה האבולוציוני שלנו – אם לא נפחד ממוות לא נשרוד, ואם מוות בפתח הרי שיצר ההישרדות חייב לפעול במלוא האון, כן – ×–×” אומר גם רביה. אם מישהו חשב פעם למה מוות יכול לדכא ולחרמן כאחד, למה אנשים באיום קיומי מתחילים לחשוב על סקס, ולמה יש בייבי-בום בתקופות מלחמה, אז ×”× ×” עכשיו אתם יודעים. האדם, כמו רוב בעלי החיים, עבר אבולוציה במקומות מסוכנים, הוא למד לפחד ולהתרבות כדי שלפחות חלק מהצאצאים יוכלו לשרוד. לכן גם במקומות ×”×›×™ רעבים באפריקה עדיין יש בהם יותר ילודה ממה שהגיוני לעשות וממה שאפשר להאכיל. זוהי הטרגדיה שהצגתי לפני כמה פוסטים לגבי הצורך בשיכנוע האוכלוסיה העולמית להאט את הקצב.

חישבו על ×–×”. אם אנשים ללא אמפתיה (אולי בגלל חינוך ואולי בגלל גנטיקה) לא יפסיקו להגדיל את האוכלוסיה, הרי שיקומו יותר ויותר אנשים עם אחריות חברתית (ופגשתי כמה) ויודיעו שהם ימנעו מעצמם את הרביה, הצריכה והעושר כדי לא להעמיס על כדור הארץ. אבל זו תהיה שטות מוחלטת ×›×™ אז דווקא האנשים עם האחריות החברתית והראיה של התמונה הגדולה הם בעלי ×”DNA שלא יועבר בתורשה, הם יוכלו להשפיע רק דרך חינוך ולא דרך DNA, אבל הם גם סוג האנשים שממילא מסווגים ×›"פסיכים שאסור להם ללמד את הילדים שלנו" ×¢"×™ רפובליקנים, דתיים מפלגים שונים, קפיטליסטים ומכחישי התחממות גלובלית (להלן – מקדמי היתממות גלובלית).

האם יש חיות שישרדו בעיה כזו, של רבית יתר עד כליה, כמו שקרה בעבר בכמה תרבויות? כן, יש מקרים קיצוניים של סביבות אקולוגיות שבהן לא היו טורפי על והסכנה הקיומית הכי גדולה היא מחסור במזון, שם החיות מפסיקות להתרבות כשהן בסכנה במקום להאיץ את ההתרבות. הבעיה היא, כמובן, שמרגע שהגיע לשם האדם המודרני, הוא כמובן ניצל את זה מיד לצרכיו וכך הרבה מהחיות בניו-זילנד למשל, לא שרדו את השוק (המפורסם שבהם היה הדודו).

אני מצרף בנקודה זו הרצאה נהדרת של דאגלס אדאמס על הקקאפו (אתם יכולים להוריד הביתה כאן), ואני ממליץ למי שעוד לא קרא את Last Chance To See, לחפש את הספר ולהנות מהרעיונות הנהדרים שלו. ההרצאה הזו (איך לא) נמצאה איפשהוא באינטרנט, אין לי מושג איך ואיפה הופצה, ואם להיות צמוד לחוקי זכויות היוצרים, אני מתאר לי שאני עובר על חוקים שונים כרגע, אבל ×–×” חשוב, והוא מסביר את ×–×” כל כך טוב. המסקנות מתחילות בדקה ×”-14:00 וההשלכות ב-15:30, אבל אני ממליץ לכם לא לדלג…

[media id=20]

אז איך כל ×–×” מתקשר? הוקינס אומר שסיליקון שיוכל לתת לנו זכרון הירארכי כמו הניאוקורטקס האנושי ×™×”×™×” מקפצת מדרגה קיצונית, אבל כאמור, לדעתו חבל לנו על הזמל של לנסות לנתק את התודעה מהגוף, ×›×™ אז התודעה שלנו כבר לא תהיה אנושית. במקום ×–×” הוא מציע שאותו "שבב הקורטקס" יוכל להיות מחובר לאלפי סוגי חושים וחיישנים שהמין האנושי לא יכול לחלום עליהם. אם אנחנו ממש טובים במציאת דוגמאות (patterns) בשמיעה וראיה, הוא רואה איך מוח ×›×–×” יבסס את האינטיליגנציה שלו על מציאת דוגמאות חוזרות בחיוויים של חיישנים של מזג אוויר עולמי, מכשורי מעבדה, מכונות שונות כמו מכוניות או רובוטים שישתמשו בחיישנים שהם מעבר למה שחושים אנושיים יכולים לראות ולהרגיש בלי אמצעי ביניים… ואני אומר יותר מזה – אם נפתח תודעה כללית (AGI), למה שנרצה שהיא תהיה "כלואה" בתוך הקונספט האנושי של מודעות עצמית כפרט נפרד מהאחרים הסובבים אותו? האם יש בכלל מובן ל"תודעות" שכאלו, עם אישיות שונה לכל אחת כשהן בגריד האינטרנט העולמי? כנראה שכן, כדי להפרות רעיונות ופתרונות שצומחים מתוך אישיות שונה, אבל זו עדיין תהיה "תודעה" אחת שלצרכי יעילות ביצירתיות, תפצל את עצמה למספר סוגי "אישיות", תיצור ויכוח (ותקפיד שיהיה בו פרקליט שטן), תבנה ותבחן תאוריות ואז תאחד חזרה כוחות מחשוב כדי לבצע את הפתרון – והכל במאיות שניה. הפרידה, האיחוד, ×–×” לא משהו שאנחנו מכירים, גם לא הרעיון של לעשות האקינג על מבנה המוח של עצמך בעוד אתה יושב וחושב בו, יש כאן עולם שיהיה לנו אפילו מאוד מוזר להבין אותו, ×›×™ הגריד האינטיליגנטי ×”×–×” ×™×’×™×¢ מהר מאוד למצב שבו הוא ממציא את עצמו מחדש כל כמה זמן ובקצב שכאמור, ×™×”×™×” לנו קשה עד בלתי אפשרי לעקוב אחריו או להבין אותו, רק להשתעשע איתו וללמוד ממנו, ולהעזר בו כדי לפתור את בעיות הקיימות שלנו, ובדרך לקוות שהפתרון הוא לא להחליף אותנו 🙂 אלא אולי לעזור לנו להכניס קצת מהגנים של הקקאפו לDNA האישי שלנו, ולתקן קצת את המוח הזוחלי שלא תמיד עוזר לנו, ולקדם את המין האנושי בסימביוזה מחשבתית ואולי גם פיסית.

בנקודה הזו אני אעזוב אתכם לחשוב לאורך הסופ"ש ולהגיב, ואת ההתפלספויות הבאות בנושא אני מניח שנעשה כבר אצל שי בבלוג 🙂

Singularity University

האם זה אוקסימורון מתחכם או רצינות תהומית? Singularity University היא היוזמה החדשה שדוחף ד"ר ריי קורצוויל, העתידן והממציא, אחד מהאנשים שדחפו במרץ רב בשנים האחרונות את הנושא (ולפעמים זוכה גם לביקורות לא קטנות). מהי הסינגולאריטי? ובכן מדובר ברגע ההיסטורי שיבוא מתישהו אחרי שמערכת מחשב תעמוד בקריטריונים או אף תעקוף את המוח האנושי במבחני אינטיליגנציה כללית.

כמובן שמי שחובב מד"ב דיסטופי מיד קופץ כנשוך נחש וצווח "אמא'לה, SkyNet!", אבל ×–×” ×™×”×™×” פשטני מדי. מדענים בצד הפיסי/רפואי בונים כבר דגם מלא של ×’×–×¢ מוח של עכבר בסימולצית תוכנה, ובקרוב מוח שלם, משם "קצרה" הדרך ליונקים גדולים יותר ועד לאדם. מהצד השני חוקרים אנשי תוכנה איך לזייף אינטיליגנציה עד שתהיה אינטיליגנציה של ממש. לקח הרבה שנים כדי להגיע למסקנה שהיום נשמעת כמעט טרוויאלית: כנראה שאי אפשר להתחיל ממערכת מומחה כמו תוכנות השחמט הטובות בעולם, ולהסיק מהן משהו על תבונה מלאכותית כללית (AGI = Artificial General Intelligence). הרי "כחול עמוק" או "מחשבה עמוקה" או איך ש־IBM קראה לו (וקספרוב לא רוצה לשמוע עליו יותר) מנצח את כל העולם בשח אבל הוא שחקן שש-בש גרוע ביותר, וגם לעשות קפה אינו יודע. בסיפוריו של אסימוב היו המוחות מגיעים עם מסד נתונים כברירת מחדל מהמפעל, אבל משהו שונה ומקורי ×”×™×” בסיפור אחד, שבו "מוח פוזיטרוני" אחד התחיל במצב "ריק כמו תינוק" ולמד מסביבתו, כולל חוקי מוסר בסיסיים. היום אנחנו יודעים שכדי להגיע ל־AGI שכזה, מאוד יכול להיות שלהעמיס ניתוח סמנטי של כל הבריטניקה לא יספיק, והמערכת צריכה להיות באינטראקציה עם העולם – ללמוד מאיך שפעולותיה משפיעות על סביבתה ואיך הסביבה מגיבה חזרה. יש חוקרים שכבר היום מתחילים לבחון מערכות לומדות שכאלו ×¢"×™ חיבור הקשר שלהן לעולם הסובב ולראות איך הן לומדות לא רק מהתכתבות טקסטואלית, ×¢"×™ ×–×” שהם "שותלים" את הישות שלה בצורת כלבלב או תינוק בתוך סקונד לייף, ונותנים ל"מקומיים" להיות איתה באינטראקציה.

אז איך יראה עתיד שכזה, שבו האדם אינו הייצור האינטיליגנטי ביותר על הכוכב? הנקודה שבה נבנה מכונה מספיק אינטיליגנטית כדי לתכנן את הדור הבא של עצמה כמעט בלעדינו? האם אינטיליגנציה כזו תבין רגשות? האם היא תמצא לנו פתרונות למשבר המשאבים שיצליחו להתמודד גם עם כל הקשיים התרבותיים והדתיים? ופתרון מאזן האימה הגרעיני? האם היא תעלה על שיטות מתמטיות לפצח את כל סוגי הקריפטוגרפיה המקובלים בשוק או שמא להפך, תוכיח מי מהם החזקים והראויים לשימוש, או שתמציא חזקים וטובים מהם?

האם היא תתפתח למצב שנפתרות לנו חידות מדעיות בקצב יותר מהיר משנוכל להבין את הפתרונות? קורצוייל גורס שכן, וביום שזה יקרה – כשפיתוחים מדעיים מיושמים בקצבים העוקפים את יכולתנו להבין אותם, זו היא נקודת הסינגולריטי, כשהמין האנושי יתקדם בקצב יותר מהיר ממה שהוא מסוגל להבין אפילו. לפחות לא בלי הרבה עזרה מלאכותית של הרחבה או החלפה של הגוף והמוח הביולוגיים.

ואני לא נכנס אפילו לקטעים המוסריים של מכונה עם מודעות עצמית, האם מגיעה לה אזרחות וזכויות עצמאיות, או מה אם היא תבחר באמונות אנושיות כדרך עדיפה, או אולי תתכנן עקונות דת שיעזרו לנווט את המין האנושי למקום חדש. מה תהיה המשמעות הרוחנית שיעניקו לתוכנה/תבונה הזו אנשי רוח היום שיקבלו תובנות מעניינות מרעיונות רוחניים שיהגה מוח אלקטרוני? האם יפסלו אותה ואת עצותיה אנשי דת כחסרת נשמה או שמא יחזרו בשאלה או אולי יאשימו אותה בדיבוק?

קורצווייל גם מעריך ×›×™ לפני שנגיע לשלב ×”×–×” יהיו נאנובוטים שיעשירו את יכולותינו הטבעיות – פיסיות וקוגניטיביות – במצב ×›×–×” יצורי כלאיים קיברנטיים כמו "הבורג" של STTNG כבר יראו ישנים ומגוכחים, ×›×™ הקיברנטיקה תזרום לנו במחזור הדם, אבל גם חלקי חילוף גדולים יעברו מהפכה תפיסתית (ובתחום המאוד רחב ×”×–×”, הציצו על הרצאותיהם של קורצווייל עצמו ושל מאלינס המקסימה). נאנובוטים בדם שמעשירים אותנו יכולים גם לפגוע בנו אם איננו יודעים מה מקורם – אז האם אלו סמים טובים או רעים? יש עוד המון שאלות פתוחות.

השאלה הנוספת היא כמובן מתי זה עלול לקרות, והעוסקים בתחום מעריכים שהנקודה הזו תקרה תוך 10-20 שנה. זה לא הרבה זמן להתכונן למהפכה שדבר כזה עלול לגרום, ולכן קורצווייל לא מסתפק יותר בועידה שנתית, אלא פתח "אוניברסיטה" בשטח בסיס נאסא בעמק הסיליקון והכריז עליה לפני חצי שנה. במקום אפשר יהיה ללמוד מטובי הרעיונאים והחוקרים בתחום קורס קצר או תכנית שלמה, על כל האספקטים של מדעים מדויקים, סוציולוגיה, פסיכולוגיה, וכל מה שבינהם, כולל לדון באפשרות (הנראית פחות ופחות אפשרית) שהסינגולאריטי לא יגיע לעולם. בקרוב הסרט.

האנשים החכמים נפגשים לועידה שנתית שאפשר לראות או לפחות לשמוע ברשת (2006, 2007, 2008 ועוד פודקאסטים ב־ITC), אבל האוניברסיטה מיועדת לרכז ולהרחיב את המאמצים. בעיטת הפתיחה היא תוכנית קיץ מיוחדת (ואני מקווה שלא חד פעמית) – 9 שבועות קייטנה רב-תחומית לטובי החוקרים שהגישו בקשות מכל העולם. 40 איש ואישה מכל העולם שיקבלו מלגה מלאה להגיע לעמק הסיליקון וללמוד, לדון ולהפיק אולי גם ניירות עם טובי המוחות מתחומי המדע השונים. 40 מוחות מצוינים ומגוונים שנבחרו מבין עשרות ואולי מאות אלפים של מועמדויות שהוגשו, והשבוע נדע מי התקבל…

Across cultures, classes, and aeons, people have yearned to transcend death.

Bear that history in mind as you consider the creed of the singularitarians. Many of them fervently believe that in the next several decades we’ll have computers into which you’ll be able to upload your consciousness—the mysterious thing that makes you you. Then, with your consciousness able to go from mechanical body to mechanical body, or virtual paradise to virtual paradise, you’ll never need to face death, illness, bad food, or poor cellphone reception.

Now you know why the singularity has also been called the rapture of the geeks.

— Glenn Zorpette , Waiting for the Rapture

מוטנטים טובים

פיליפ שטארק הוא מעצב מוכשר ומסתבר גם כסטנדאפיסט מענין, גם כשהוא לא בשפה הביתית שלו. בכנס TED האחרון ממרץ הוא נתן את הקטע הבא. לא על עיצוב, אלא "למה עיצוב". הוא משרטט באנגלית רצוצה ומצחיקה את מקומינו בסולם האבולוציה לדעתו, מה המין האנושי צריך לעשות כדי שיהיה פה מעניין, ואיפה חלקו הקטן בענין.

בהרצאה סטארק (שטארק?) טוען שלמרות שאולי אין לנו שליטה על האבולוציה הגופנית שלנו ב100%, ×–×” יקרה בקרוב, וממילא כולנו מוטנטים ברצף האבולוציה מהדורות שעברו לדורות שיבואו, וחשוב שנהיה כולנו מוטאנטים טובים ונבנה כלים טובים לדורות הבאים שיוכלו להמציא את העתיד שלנו מחדש. כרגע המין האנושי כפי שאני רואה את ×–×” מחולק לשליש שמנסה רק לשרוד (ולא לגמרי באשמתו), שני שלישים כמעט שמנסים להנות (אם ×–×” בצורה הבסיסית של לעבוד ולבזבז כסף ואם ×–×” בהרגשה הטובה שאלוהים אוהב את איך שהם מתנהגים), וחתך קטן, פחות מ5% שבאמת יוצר, חוקר, מפתח אמנות ומדע ומנסה לקדם את המין האנושי, אם מאלטרואיזם וסקרנות ואם בשביל להפעיל את השריר היצירתי ×›×›×” סתם. לאחרונה אני מנסה לחפש את השריר היצירתי ×”×–×” שאבד לי. אני לא מתנהג כמו מוטנט טוב – מצטער פיליפ! וצריך לעשות משהו בנידון.

הוא לא נגע בכלל בנושא שימור הסביבה וכדור הארץ לדור הבא, אבל בשבילי זה מתקשר. ידידי רם און התיחס פעם ועוד פעם לבעיות ההתחממות הגלובלית שלא ברור עד עכשיו אם יש בהן אמת או שמא זו מחזוריות רגילה של הכוכבון שלנו. המועמדים הכי מעניינים במירוץ הנשיאות בארה"ב כרגע מחזיקים בדעות כמעט הפוכות בנושא (ויתקן אותי שי, המומחה שלי למערכת הבחירות האמריקנית, אבל נדמה לי שרון פול הליברטאר רוצה לשחרר דווקא את המגבלות על שריפתת דלקים). מה שבטוח, לפוליטיקאים יש פתאום מה להגיד בנושא, בניגוד לעבר (או ההווה בפרלמנט הישראלי). קטע הפרודיה הבא מדגים יפה: