ביקשו ממני לדייק. סינגולאריטי ככלל אומר לרוב האנשים "חור שחור", אבל אנחנו מדברים פה על סינגולאריטי טכנולוגי. אופק האירועים הלא ידועים, שמעבר לנקודה שבה המין האנושי (בגרסתו הביולוגית) כבר איננו האינטיליגנטי ביותר על הכוכב.
אפתח בחדשה: הוכרזה פתיחת השנה במוסד הסינגולאריטי (עדיין כואב לי בראש לקרוא לו אוניברסיטה) ועכשיו מותר לספר ששלושה מהתלמידים שהתקבלו הם ישראלים, ואחד מהם הוא חברי הטוב שי, ולכבוד הארוע עזרתי לו להקים בלוג. הבעיה שהשכל האנושי איננו מכונה עדיין, ובשל כשלים ועיכובים, הבלוג עדיין איננו דו כיווני ודו-לשוני במידה שרציתי, אבל יהיה מגניב בסוף התהליך (אני מקווה)
כאמור קורצווייל מדבר על סימביוזה עם המכונות, ובסופו של דבר העתקה של התודעה לתוך המכונה, לפני שימות הגוף. אבל העליתי לפני כשבועיים לשי את השאלה השאלתית של חשיבות הבשר להגדרת נפש האדם והוא ניסח את זה יפה וקצר בפוסט הראשון שלו: "נשאלה שאלה עד כמה אינטיליגנציה מלאכותית יכולה להיות אנושית בלי גוף אנושי, ואנשים הגיעו עם תגובות מאוד מעניינות (למשל חשיבות הרביה והמוות בעיצוב המוסר שלנו או העובדה שיש לנו סדרי גודל של מרחב וזמן הבסיסיים מאוד לחשיבה לנו ואינם רלוונטים למחשב)". זו שאלה בסיסית ומובנת וג'ף הוקינס דן בה בספרו החדש "על האינטיליגנציה", ושם הוא מסביר בבטחון מופרז למה אנחנו לא באמת רוצים מכונות עם רגשות אנושיים ושזה כאב ראש מוגזם לבנות במחשב גם סימולציות של תחושות אנושיות פרימיטיביות, דחפים ופחדים (סקס ומוות בראשם), ובעצם יוצא נגד ריי קורצווייל ורצונו בחיי נצח בסיליקון. אני לא בטוח שהוא לא נאיבי בהערכתו שזה לא יקרה ואנשים יפסיקו לשאוף לשם, אני גם לא בטוח בהערכותיו הנאיביות של קורצווייל שזה יקרה בשני העשורים הקרובים, אבל השאלות רבות ומעניינות – האם אנחנו יכולים להרשות לעצמנו, עם הDNA הנוכחי שלנו על בעיותיו, אדם ביולוגי שחי לנצח (אליבא דה אוברי דהגריי?), ולחלופין האם אנחנו רוצים להעתיק תודעה שנולדה בגוף, קיימת עכשיו בתוך מכונה, אבל מסמלצת תחושות גוף כדי לא להשתגע ולאבד את אישיותה?
הפחד שלנו ממוות קשור למבנה האבולוציוני שלנו – אם לא נפחד ממוות לא נשרוד, ואם מוות בפתח הרי שיצר ההישרדות חייב לפעול במלוא האון, כן – זה אומר גם רביה. אם מישהו חשב פעם למה מוות יכול לדכא ולחרמן כאחד, למה אנשים באיום קיומי מתחילים לחשוב על סקס, ולמה יש בייבי-בום בתקופות מלחמה, אז הנה עכשיו אתם יודעים. האדם, כמו רוב בעלי החיים, עבר אבולוציה במקומות מסוכנים, הוא למד לפחד ולהתרבות כדי שלפחות חלק מהצאצאים יוכלו לשרוד. לכן גם במקומות הכי רעבים באפריקה עדיין יש בהם יותר ילודה ממה שהגיוני לעשות וממה שאפשר להאכיל. זוהי הטרגדיה שהצגתי לפני כמה פוסטים לגבי הצורך בשיכנוע האוכלוסיה העולמית להאט את הקצב.
חישבו על זה. אם אנשים ללא אמפתיה (אולי בגלל חינוך ואולי בגלל גנטיקה) לא יפסיקו להגדיל את האוכלוסיה, הרי שיקומו יותר ויותר אנשים עם אחריות חברתית (ופגשתי כמה) ויודיעו שהם ימנעו מעצמם את הרביה, הצריכה והעושר כדי לא להעמיס על כדור הארץ. אבל זו תהיה שטות מוחלטת כי אז דווקא האנשים עם האחריות החברתית והראיה של התמונה הגדולה הם בעלי הDNA שלא יועבר בתורשה, הם יוכלו להשפיע רק דרך חינוך ולא דרך DNA, אבל הם גם סוג האנשים שממילא מסווגים כ"פסיכים שאסור להם ללמד את הילדים שלנו" ע"י רפובליקנים, דתיים מפלגים שונים, קפיטליסטים ומכחישי התחממות גלובלית (להלן – מקדמי היתממות גלובלית).
האם יש חיות שישרדו בעיה כזו, של רבית יתר עד כליה, כמו שקרה בעבר בכמה תרבויות? כן, יש מקרים קיצוניים של סביבות אקולוגיות שבהן לא היו טורפי על והסכנה הקיומית הכי גדולה היא מחסור במזון, שם החיות מפסיקות להתרבות כשהן בסכנה במקום להאיץ את ההתרבות. הבעיה היא, כמובן, שמרגע שהגיע לשם האדם המודרני, הוא כמובן ניצל את זה מיד לצרכיו וכך הרבה מהחיות בניו-זילנד למשל, לא שרדו את השוק (המפורסם שבהם היה הדודו).
אני מצרף בנקודה זו הרצאה נהדרת של דאגלס אדאמס על הקקאפו (אתם יכולים להוריד הביתה כאן), ואני ממליץ למי שעוד לא קרא את Last Chance To See, לחפש את הספר ולהנות מהרעיונות הנהדרים שלו. ההרצאה הזו (איך לא) נמצאה איפשהוא באינטרנט, אין לי מושג איך ואיפה הופצה, ואם להיות צמוד לחוקי זכויות היוצרים, אני מתאר לי שאני עובר על חוקים שונים כרגע, אבל זה חשוב, והוא מסביר את זה כל כך טוב. המסקנות מתחילות בדקה ה-14:00 וההשלכות ב-15:30, אבל אני ממליץ לכם לא לדלג…
[media id=20]
אז איך כל זה מתקשר? הוקינס אומר שסיליקון שיוכל לתת לנו זכרון הירארכי כמו הניאוקורטקס האנושי יהיה מקפצת מדרגה קיצונית, אבל כאמור, לדעתו חבל לנו על הזמל של לנסות לנתק את התודעה מהגוף, כי אז התודעה שלנו כבר לא תהיה אנושית. במקום זה הוא מציע שאותו "שבב הקורטקס" יוכל להיות מחובר לאלפי סוגי חושים וחיישנים שהמין האנושי לא יכול לחלום עליהם. אם אנחנו ממש טובים במציאת דוגמאות (patterns) בשמיעה וראיה, הוא רואה איך מוח כזה יבסס את האינטיליגנציה שלו על מציאת דוגמאות חוזרות בחיוויים של חיישנים של מזג אוויר עולמי, מכשורי מעבדה, מכונות שונות כמו מכוניות או רובוטים שישתמשו בחיישנים שהם מעבר למה שחושים אנושיים יכולים לראות ולהרגיש בלי אמצעי ביניים… ואני אומר יותר מזה – אם נפתח תודעה כללית (AGI), למה שנרצה שהיא תהיה "כלואה" בתוך הקונספט האנושי של מודעות עצמית כפרט נפרד מהאחרים הסובבים אותו? האם יש בכלל מובן ל"תודעות" שכאלו, עם אישיות שונה לכל אחת כשהן בגריד האינטרנט העולמי? כנראה שכן, כדי להפרות רעיונות ופתרונות שצומחים מתוך אישיות שונה, אבל זו עדיין תהיה "תודעה" אחת שלצרכי יעילות ביצירתיות, תפצל את עצמה למספר סוגי "אישיות", תיצור ויכוח (ותקפיד שיהיה בו פרקליט שטן), תבנה ותבחן תאוריות ואז תאחד חזרה כוחות מחשוב כדי לבצע את הפתרון – והכל במאיות שניה. הפרידה, האיחוד, זה לא משהו שאנחנו מכירים, גם לא הרעיון של לעשות האקינג על מבנה המוח של עצמך בעוד אתה יושב וחושב בו, יש כאן עולם שיהיה לנו אפילו מאוד מוזר להבין אותו, כי הגריד האינטיליגנטי הזה יגיע מהר מאוד למצב שבו הוא ממציא את עצמו מחדש כל כמה זמן ובקצב שכאמור, יהיה לנו קשה עד בלתי אפשרי לעקוב אחריו או להבין אותו, רק להשתעשע איתו וללמוד ממנו, ולהעזר בו כדי לפתור את בעיות הקיימות שלנו, ובדרך לקוות שהפתרון הוא לא להחליף אותנו 🙂 אלא אולי לעזור לנו להכניס קצת מהגנים של הקקאפו לDNA האישי שלנו, ולתקן קצת את המוח הזוחלי שלא תמיד עוזר לנו, ולקדם את המין האנושי בסימביוזה מחשבתית ואולי גם פיסית.
בנקודה הזו אני אעזוב אתכם לחשוב לאורך הסופ"ש ולהגיב, ואת ההתפלספויות הבאות בנושא אני מניח שנעשה כבר אצל שי בבלוג 🙂