למי זה טוב, הסינגולאריטי הטכנולוגי?

ביקשו ממני לדייק. סינגולאריטי ככלל אומר לרוב האנשים "חור שחור", אבל אנחנו מדברים פה על סינגולאריטי טכנולוגי. אופק האירועים הלא ידועים, שמעבר לנקודה שבה המין האנושי (בגרסתו הביולוגית) כבר איננו האינטיליגנטי ביותר על הכוכב.

אפתח בחדשה: הוכרזה פתיחת השנה במוסד הסינגולאריטי (עדיין כואב לי בראש לקרוא לו אוניברסיטה) ועכשיו מותר לספר ששלושה מהתלמידים שהתקבלו הם ישראלים, ואחד מהם הוא חברי הטוב שי, ולכבוד הארוע עזרתי לו להקים בלוג. הבעיה שהשכל האנושי איננו מכונה עדיין, ובשל כשלים ועיכובים, הבלוג עדיין איננו דו כיווני ודו-לשוני במידה שרציתי, אבל יהיה מגניב בסוף התהליך (אני מקווה)

כאמור קורצווייל מדבר על סימביוזה עם המכונות, ובסופו של דבר העתקה של התודעה לתוך המכונה, לפני שימות הגוף. אבל העליתי לפני כשבועיים לשי את השאלה השאלתית של חשיבות הבשר להגדרת נפש האדם והוא ניסח את זה יפה וקצר בפוסט הראשון שלו: "נשאלה שאלה עד כמה אינטיליגנציה מלאכותית יכולה להיות אנושית בלי גוף אנושי, ואנשים הגיעו עם תגובות מאוד מעניינות (למשל חשיבות הרביה והמוות בעיצוב המוסר שלנו או העובדה שיש לנו סדרי גודל של מרחב וזמן הבסיסיים מאוד לחשיבה לנו ואינם רלוונטים למחשב)". זו שאלה בסיסית ומובנת וג'ף הוקינס דן בה בספרו החדש "על האינטיליגנציה", ושם הוא מסביר בבטחון מופרז למה אנחנו לא באמת רוצים מכונות עם רגשות אנושיים ושזה כאב ראש מוגזם לבנות במחשב גם סימולציות של תחושות אנושיות פרימיטיביות, דחפים ופחדים (סקס ומוות בראשם), ובעצם יוצא נגד ריי קורצווייל ורצונו בחיי נצח בסיליקון. אני לא בטוח שהוא לא נאיבי בהערכתו שזה לא יקרה ואנשים יפסיקו לשאוף לשם, אני גם לא בטוח בהערכותיו הנאיביות של קורצווייל שזה יקרה בשני העשורים הקרובים, אבל השאלות רבות ומעניינות – האם אנחנו יכולים להרשות לעצמנו, עם הDNA הנוכחי שלנו על בעיותיו, אדם ביולוגי שחי לנצח (אליבא דה אוברי דהגריי?), ולחלופין האם אנחנו רוצים להעתיק תודעה שנולדה בגוף, קיימת עכשיו בתוך מכונה, אבל מסמלצת תחושות גוף כדי לא להשתגע ולאבד את אישיותה?

הפחד שלנו ממוות קשור למבנה האבולוציוני שלנו – אם לא נפחד ממוות לא נשרוד, ואם מוות בפתח הרי שיצר ההישרדות חייב לפעול במלוא האון, כן – זה אומר גם רביה. אם מישהו חשב פעם למה מוות יכול לדכא ולחרמן כאחד, למה אנשים באיום קיומי מתחילים לחשוב על סקס, ולמה יש בייבי-בום בתקופות מלחמה, אז הנה עכשיו אתם יודעים. האדם, כמו רוב בעלי החיים, עבר אבולוציה במקומות מסוכנים, הוא למד לפחד ולהתרבות כדי שלפחות חלק מהצאצאים יוכלו לשרוד. לכן גם במקומות הכי רעבים באפריקה עדיין יש בהם יותר ילודה ממה שהגיוני לעשות וממה שאפשר להאכיל. זוהי הטרגדיה שהצגתי לפני כמה פוסטים לגבי הצורך בשיכנוע האוכלוסיה העולמית להאט את הקצב.

חישבו על זה. אם אנשים ללא אמפתיה (אולי בגלל חינוך ואולי בגלל גנטיקה) לא יפסיקו להגדיל את האוכלוסיה, הרי שיקומו יותר ויותר אנשים עם אחריות חברתית (ופגשתי כמה) ויודיעו שהם ימנעו מעצמם את הרביה, הצריכה והעושר כדי לא להעמיס על כדור הארץ. אבל זו תהיה שטות מוחלטת כי אז דווקא האנשים עם האחריות החברתית והראיה של התמונה הגדולה הם בעלי הDNA שלא יועבר בתורשה, הם יוכלו להשפיע רק דרך חינוך ולא דרך DNA, אבל הם גם סוג האנשים שממילא מסווגים כ"פסיכים שאסור להם ללמד את הילדים שלנו" ע"י רפובליקנים, דתיים מפלגים שונים, קפיטליסטים ומכחישי התחממות גלובלית (להלן – מקדמי היתממות גלובלית).

האם יש חיות שישרדו בעיה כזו, של רבית יתר עד כליה, כמו שקרה בעבר בכמה תרבויות? כן, יש מקרים קיצוניים של סביבות אקולוגיות שבהן לא היו טורפי על והסכנה הקיומית הכי גדולה היא מחסור במזון, שם החיות מפסיקות להתרבות כשהן בסכנה במקום להאיץ את ההתרבות. הבעיה היא, כמובן, שמרגע שהגיע לשם האדם המודרני, הוא כמובן ניצל את זה מיד לצרכיו וכך הרבה מהחיות בניו-זילנד למשל, לא שרדו את השוק (המפורסם שבהם היה הדודו).

אני מצרף בנקודה זו הרצאה נהדרת של דאגלס אדאמס על הקקאפו (אתם יכולים להוריד הביתה כאן), ואני ממליץ למי שעוד לא קרא את Last Chance To See, לחפש את הספר ולהנות מהרעיונות הנהדרים שלו. ההרצאה הזו (איך לא) נמצאה איפשהוא באינטרנט, אין לי מושג איך ואיפה הופצה, ואם להיות צמוד לחוקי זכויות היוצרים, אני מתאר לי שאני עובר על חוקים שונים כרגע, אבל זה חשוב, והוא מסביר את זה כל כך טוב. המסקנות מתחילות בדקה ה-14:00 וההשלכות ב-15:30, אבל אני ממליץ לכם לא לדלג…

[media id=20]

אז איך כל זה מתקשר? הוקינס אומר שסיליקון שיוכל לתת לנו זכרון הירארכי כמו הניאוקורטקס האנושי יהיה מקפצת מדרגה קיצונית, אבל כאמור, לדעתו חבל לנו על הזמל של לנסות לנתק את התודעה מהגוף, כי אז התודעה שלנו כבר לא תהיה אנושית. במקום זה הוא מציע שאותו "שבב הקורטקס" יוכל להיות מחובר לאלפי סוגי חושים וחיישנים שהמין האנושי לא יכול לחלום עליהם. אם אנחנו ממש טובים במציאת דוגמאות (patterns) בשמיעה וראיה, הוא רואה איך מוח כזה יבסס את האינטיליגנציה שלו על מציאת דוגמאות חוזרות בחיוויים של חיישנים של מזג אוויר עולמי, מכשורי מעבדה, מכונות שונות כמו מכוניות או רובוטים שישתמשו בחיישנים שהם מעבר למה שחושים אנושיים יכולים לראות ולהרגיש בלי אמצעי ביניים… ואני אומר יותר מזה – אם נפתח תודעה כללית (AGI), למה שנרצה שהיא תהיה "כלואה" בתוך הקונספט האנושי של מודעות עצמית כפרט נפרד מהאחרים הסובבים אותו? האם יש בכלל מובן ל"תודעות" שכאלו, עם אישיות שונה לכל אחת כשהן בגריד האינטרנט העולמי? כנראה שכן, כדי להפרות רעיונות ופתרונות שצומחים מתוך אישיות שונה, אבל זו עדיין תהיה "תודעה" אחת שלצרכי יעילות ביצירתיות, תפצל את עצמה למספר סוגי "אישיות", תיצור ויכוח (ותקפיד שיהיה בו פרקליט שטן), תבנה ותבחן תאוריות ואז תאחד חזרה כוחות מחשוב כדי לבצע את הפתרון – והכל במאיות שניה. הפרידה, האיחוד, זה לא משהו שאנחנו מכירים, גם לא הרעיון של לעשות האקינג על מבנה המוח של עצמך בעוד אתה יושב וחושב בו, יש כאן עולם שיהיה לנו אפילו מאוד מוזר להבין אותו, כי הגריד האינטיליגנטי הזה יגיע מהר מאוד למצב שבו הוא ממציא את עצמו מחדש כל כמה זמן ובקצב שכאמור, יהיה לנו קשה עד בלתי אפשרי לעקוב אחריו או להבין אותו, רק להשתעשע איתו וללמוד ממנו, ולהעזר בו כדי לפתור את בעיות הקיימות שלנו, ובדרך לקוות שהפתרון הוא לא להחליף אותנו 🙂 אלא אולי לעזור לנו להכניס קצת מהגנים של הקקאפו לDNA האישי שלנו, ולתקן קצת את המוח הזוחלי שלא תמיד עוזר לנו, ולקדם את המין האנושי בסימביוזה מחשבתית ואולי גם פיסית.

בנקודה הזו אני אעזוב אתכם לחשוב לאורך הסופ"ש ולהגיב, ואת ההתפלספויות הבאות בנושא אני מניח שנעשה כבר אצל שי בבלוג 🙂

בני מצווה, בני חושך או בני אור?

חבורת ילדים קטנים שעוד לא הגיעו כולם לגיל מצוות, אנסו שתי ילדות בנות גילם. מי לא כתב על זה כבר השבוע? רק אצלי התור הארוך של הטיוטות והזמן המתמלא בעבודה לא איפשר לי להגיע לזה. חלי: "לא מִתַמֶמֶת. בהן צדקי שלא", ועוד הרבה בלוגים ולא מעט ראיונות ברדיו, כולל אחד מעניין של יעל דן עם דנה ברנזון, עם סיפור מעניין משלה שבדיוק כתבה עליו גם ספר. הקשבתי גם לכמה פסיכולוגים ואני חייב לציין שאני מתחיל להשתכנע שאין מנוס מצנזורה. אינטרנט או טלוויזיה, ההתקפה הבלתי פוסקת של אירוטיזציה של החיים בסדרות אחה"צ ופרסומות איננה נורמלית יותר, אבל בעיקר לא זוכה לשום כוח נגדי ומסביר מצד ההורים.

איפשהוא זה מתחבר לי לפוסט ההוא מלפני שבועיים על שנאה ואלימות, ולטיפול המוזר בסיפור צ'יקו תמיר ובנו, שמעט אנשים רואים בו את האבסורד, ועוד סיפורים שנוחתים עלינו בתקשורת או ברחוב. החברה שלנו פשוט הולכת ומתעוורת, אנשים מתעוורים לא רק לשכנים ולחברים בעבודה, גם בוסים לא רואים את העובדים שלהם והורים מתעוורים לילדים שלהם. לא רואים את המצוקות, לא מתקנים ראיית עולם מעוותת שנבנית לה בלי מפריע. אני לא אומר שהטלוויזיה והפורנו שבאינטרנט הם בהכרח דברים רעים, אבל מוח צעיר פשוט לא יודע מה לקלוט ולהבין מהם, אם אין מבוגר שיתן לו רקע וכלים להבין מה הוא רואה ואיך נכון לפרש את כל הדברים שם נכון. אין לי מושג אם אפשר להפוך את אותה חבורת אנסים קטנים לאזרחים נורמטיביים, אבל אני מוכן לשים כסף שלא ההורים שלהם ולא המדינה יודעים איך או יאפשרו להם לקבל את שינוי הכיוון שהם צריכים.

ובחוץ, אנשים אמפתיים יושבים בצד ורואים את כל זה ופשוט לא מבינים איך זה יכול לקרות, ואיך התהום מתקרבת ומעמיקה ואנחנו משותקים מלעשות משהו מכדי למנוע את האסון הבא.

חברה שלי בנתה לעצמה מעין מודל לענין, היא מתארת את זה בצורת מעגלים דמיוניים שמקיפים את הנפש. בראשם מעגל כאב ומעגל השפעה. לפי ראיית עולמה, אנשים כמו טופז הם בעלי מעגל כאב קטן מאוד – לא יכולים לראות כאב של אחרים מחוץ לעצמם – ובעלי מעגל השפעה גדול מאוד כשהם במקום הנכון (נקרא לזה כריזמה במקום אחד, שתלטנות במקום אחר). במקרה של טופז, למשל, ההלם של איבוד מעגל השליטה היה כמובן מאוד חזק, אבל כיון שמעגל הכאב שלו כל כך אישי, הוא לא ראה בעיה עם אף דרך שבה נקט, אולי מתוך נסיון להחזיר לעצמו את השליטה, אולי משהו אחר לא מוסבר. הדיסונאנס בין גדלי שני המעגלים וההבנה שמעגל ההשפעה שלו אינו לנצח ואינו תלוי רק בו, גרם לו למשבר. לעומתו, אנשים כמוני מרגישים שמעגל הכאב גדול ורחב הרבה יותר ממעגל ההשפעה, והתוצאות גם הן לא נעימות, ואני מנסה בשנים האחרונות לא לרוץ לנסות להציל את כל העולם, כי אין סיכוי לאדם בודד לעשות יותר מדי שינוי ללא שיתוף פעולה.

והנה הקדמה למה שהתכוונתי לכתוב עליו בשבועות הקרובים, איך להגיע לאיזון ושיתוף הפעולה הדרוש כדי להגיע לעולם בר קיימא. אם כמה אנשים חוברים ביחד, מעגל ההשפעה שלהם הרי גדל, יש אחריות הדדית, אנשים מעיזים פחות לנצל לרעה משאבים משותפים (וכל זה מגובה בלא מעט מאמרים בפסיכולוגיה וקוגניציה ואפילו נוירולוגיה). ובקיצור, בחודשים האחרונים הבנתי יותר מתמיד שעתיד העולם תלוי ביכולתינו לחזור לחלק מהמרכיבים חברתיים של החברה השבטית שבה גדל המין האנושי עד למאות האחרונות. לא הלוחמנות אלא שיתוף הפעולה והערבות ההדדית, עד כדי היתרונות של גידול של הילדים בקבוצה וקשר יותר הדוק איתם. מעניין אם יש אי אילו שהם מחקרים שיספרו על אחוזי אופטימיות, אמפאתיות, אחריותיות, פשיעה וכולי, שמשווים בין מבוגרים שנולדו וגדלו בקומונות, קיבוצים, עיירות קטנות או שפשוט גדלו שנים בתנועת נוער עם ערכים סוציאליים כמו הנוער העובד, או השמו"ץ. מעניין גם לבדוק את המדדים האלו פשוט בקרב אנשים שלמדו בכיתות קטנות ואלו שלמדו בגדולות, וכולי. אני מאמין שכמה מקוראותי, שעסקו (וחלקן עוסקות) בפדגוגיה ו/או קרימינולוגיה יוכלו לתת יותר פרטים ולמקד אותי לראות אם אני צודק או לא.

אני מאמין שהניתוק החברתי (כולם עסוקים, כל אחד בביתו הפרטי ואין זמן לחברים) גורר את הניתוק הרגשי ורגש האחריות הציבורית, את האדישות לצרותיהם של אחרים והגברת החרדתיות לצרות האישיות. הפיצויים הרגשיים שלנו כבר עברו למדפים בקניון כמו בארצות הברית, ואני חושד שכל זה מסביר גם את העליה ההמתמדת והבלתי ניתנת לערעור באחוזי האנשים הדכאוניים שבחברה. לא פסיכיאטר אחד ולא שניים כבר יצאו ואמרו שהמוח האנושי פשוט לא "תוכנן" אבולוציונית להתמודד עם החיים האורבניים, הבדלניים שאנחנו בוחרים לעצמינו, והרבה מהצרות של האנשים הרגילים שמוצאים את עצמם מחפשים פרוזאק או מריחואנה כדי להתמודד עם החיים פשוט לא מופיעים בחברות עם לכידות שבטית או משפחתית יותר גבוהה. בלי הרגשת שייכות למשפחה, לחמולה, לעיר, למדינה, לעם… אנשים ימשיכו לנהוג באדישות לצרות של אחרים, של הטבע, ויטפחו מעגלי כאב הולכים וקטנים, עד שלא תהיה יותר חברה אנושית ראויה להצלה 🙁 אנחנו צריכים להבין את זה ולא לוותר לעצמנו על מה שהמוח והגנטיקה שלנו דורשים – קרבה אנושית. לא רשתות פייסבוק אלא אנשים אמיתיים. אנשי הפרסום הצליחו למכור לנו סימולציות (וסימולאקרות…) של כל דחף נפשי, פיסי ורגשי, ואנחנו נכנעים לזה בלי להרגיש שמה שבאמת חסר, לא יקנה אף פעם הכסף.

על בריאתנים והומוסקסואלים

מצאתי היום ביוטיוב סרט שמסביר יפה למה התרבות מינית זה דבר טוב. בקצרה: התרבות מינית (בניגוד ל- א-מינית) תורמת לגיוון גנטי, מה שמאיץ שינוי, מה שגורם לאבולוציה. אנשי תנועת הבריאתנות אינם מאמינים באבולוציה באנשים, הם מוכנים להודות אולי באבולוציה בחד תאיים אבל זהו בערך (כי את זה רואים במעבדה לאורך חודשים ולא לאורך אלפי שנים).

(חובש כובע סרקאזם)
אני חושב ככה: אם התרבות א-מינית או לחלופין אי-ההתרבות אצל זוגות חד מיניים (שלא מאמצים או מקבלים תרומת זרע וכולי), עוצרת את האבולוציה, הרי שהבריאתנים צריכים לתמוך בהומוסקסואליות, שהלא בצורתה הטהורה היא-היא הפתרון לעצור את האבולוציה המרושעת המשתוללת בעולמינו המזוהם בחטא הקדמון (/סוף סרקאזם)

לצד ההצבעה לנשיא השבוע, כל אמריקני גם בוחר נציג קונגרס, ומצביע כן או לא על הצעות חוק שונות של משאל עם. אולי נתקלתם ביוטיוב בפרופגנדה דתית בעד ואזרחית נגד "הצעה 8" בקליפורניה, שמטרתה לבטל את ההיתר לנישואים חד מיניים. ההצעה הזו הזכירה להרבה אמריקנים זמנים שבהם לבני מיעוטים מסוימים אסור היה להתחתן עם לבנים (אנחנו מדברים על 40 שנה אחורה בסה"כ), או לקנות נדל"ן באזורים מסוימים. אני מקווה שהשפיות תנצח והצעת החוק המעליבה הזו תיפול. אם רק היתה להם סיבה אינטיליגנטית שחת או טיעונים מוצקים מילא, אבל לשמרנים ההגיון לא מהווה מכשול. אין להם שום בעיה לסתור את עצמם שלוש פעמים בדקה. הכי עצוב היה לראות את מקיין אצל אלן דג'נרס, לי נראה שהוא מת להגיד לה כן, אבל המחויבות לדעת הקהל מאלצת אותו לשקר על עמדותיו האמיתיות (ורואים את חוסר הנוחות הקיצוני שלו כי פשוט אין לו תשובה. איך אתה מגיע לתוכנית של אלן בלי תשובה מנוסחת בשלוף על הנושא שברור שיעלה ראשון? זה לא ברור לי).

מדינה שבה "ליברל" היא קללה בעיני חצי מהתושבים, למרות שליברלים הקימו אותה על בסיס חירויות הפרט. לך תבין.

אל תלכו לראות את הסרט הזה

אם אתם לא בענייני חדשות קהילת האתאיזם המקוונת, אתם בוודאי מפספסת את הצחוקים והשיגועים. לא חסרים אתאיסטים נלהבים ברשת. חלקם ידועים ותיקים כמו ריצ'ארד דוקינס, חלקם חדשים אבל ידועים כמו פול מאיירז, ויש גם את הפחות ידועים, אך יודעים להתבטא, כמו פאט קונדל וההומור הארסי והציני שלו.

לצערי ואולי לצערם של חלקם, במקום לקדם אורחי חיים נטולי דת ולהגדיר כיוון בונה וחיובי, רוב הדיון בנושא אתאיזם בימינו נוסב סביב לחימה בשטויות כמו אמונות ברוחות רפאים או הומאופתיה , או לחימה בנסיון של ערים ומדינות מסוימות להוציא ממערך הלימודים תורות מדעיות ובראשם אבולוציה.

אף אחד לא חשב מה יקרה אם מישהו ירצה לקחת את הפורמט המחורבן של מייקל מור ((סילופים, קיצוצי ראיונות, הוצאת דברים מהקשרם, כדי להוכיח פואנטות שמאלניות)) וינסה לקדם איתו את האג'נדומים הימניים והשמרניים, אבל אז בא הסרט "Expelled" (איך לתרגם את זה? מגורש? מוצא מהכיתה?) שבא לטעון שאנשי אקדמיה שמאמינים בבריאה במקום באבולוציה מפוטרים או נמנע מהם קידום.

מה הבעיות עם ההפקה?

לסיום, הפארודיה המתבקשת:

מוטנטים טובים

פיליפ שטארק הוא מעצב מוכשר ומסתבר גם כסטנדאפיסט מענין, גם כשהוא לא בשפה הביתית שלו. בכנס TED האחרון ממרץ הוא נתן את הקטע הבא. לא על עיצוב, אלא "למה עיצוב". הוא משרטט באנגלית רצוצה ומצחיקה את מקומינו בסולם האבולוציה לדעתו, מה המין האנושי צריך לעשות כדי שיהיה פה מעניין, ואיפה חלקו הקטן בענין.

בהרצאה סטארק (שטארק?) טוען שלמרות שאולי אין לנו שליטה על האבולוציה הגופנית שלנו ב100%, זה יקרה בקרוב, וממילא כולנו מוטנטים ברצף האבולוציה מהדורות שעברו לדורות שיבואו, וחשוב שנהיה כולנו מוטאנטים טובים ונבנה כלים טובים לדורות הבאים שיוכלו להמציא את העתיד שלנו מחדש. כרגע המין האנושי כפי שאני רואה את זה מחולק לשליש שמנסה רק לשרוד (ולא לגמרי באשמתו), שני שלישים כמעט שמנסים להנות (אם זה בצורה הבסיסית של לעבוד ולבזבז כסף ואם זה בהרגשה הטובה שאלוהים אוהב את איך שהם מתנהגים), וחתך קטן, פחות מ5% שבאמת יוצר, חוקר, מפתח אמנות ומדע ומנסה לקדם את המין האנושי, אם מאלטרואיזם וסקרנות ואם בשביל להפעיל את השריר היצירתי ככה סתם. לאחרונה אני מנסה לחפש את השריר היצירתי הזה שאבד לי. אני לא מתנהג כמו מוטנט טוב – מצטער פיליפ! וצריך לעשות משהו בנידון.

הוא לא נגע בכלל בנושא שימור הסביבה וכדור הארץ לדור הבא, אבל בשבילי זה מתקשר. ידידי רם און התיחס פעם ועוד פעם לבעיות ההתחממות הגלובלית שלא ברור עד עכשיו אם יש בהן אמת או שמא זו מחזוריות רגילה של הכוכבון שלנו. המועמדים הכי מעניינים במירוץ הנשיאות בארה"ב כרגע מחזיקים בדעות כמעט הפוכות בנושא (ויתקן אותי שי, המומחה שלי למערכת הבחירות האמריקנית, אבל נדמה לי שרון פול הליברטאר רוצה לשחרר דווקא את המגבלות על שריפתת דלקים). מה שבטוח, לפוליטיקאים יש פתאום מה להגיד בנושא, בניגוד לעבר (או ההווה בפרלמנט הישראלי). קטע הפרודיה הבא מדגים יפה:

מוזיאון הבריאתנות מגלה: הדינוזאורים הם בשבילנו קוץ בתחת

(או: מוצא הבריאתן מהקוץ או… משהו…)

צולם במוזיאון הבריאתנות:
מוצא הבריאתן מהקוץ

בלינק עוד יצירות ממוזיאון הבריאתנות שעברו עיבוד LOLCreashun. תודה לפרינגולה.

ובחדשות בנושא לא לגמרי קשור – מה באמת מענין את הפלגים השמרניים בארה"ב? הצצה בויקי הקונסרבטיבים (למעלה מ45000 ערכים!) מגלה תוצאות מעניינות בעמוד הסטטיסטיקות.