למי זה טוב, הסינגולאריטי הטכנולוגי?

ביקשו ממני לדייק. סינגולאריטי ככלל אומר לרוב האנשים "חור שחור", אבל אנחנו מדברים פה על סינגולאריטי טכנולוגי. אופק האירועים הלא ידועים, שמעבר לנקודה שבה המין האנושי (בגרסתו הביולוגית) כבר איננו האינטיליגנטי ביותר על הכוכב.

אפתח בחדשה: הוכרזה פתיחת השנה במוסד הסינגולאריטי (עדיין כואב לי בראש לקרוא לו אוניברסיטה) ועכשיו מותר לספר ששלושה מהתלמידים שהתקבלו הם ישראלים, ואחד מהם הוא חברי הטוב שי, ולכבוד הארוע עזרתי לו להקים בלוג. הבעיה שהשכל האנושי איננו מכונה עדיין, ובשל כשלים ועיכובים, הבלוג עדיין איננו דו כיווני ודו-לשוני במידה שרציתי, אבל יהיה מגניב בסוף התהליך (אני מקווה)

כאמור קורצווייל מדבר על סימביוזה עם המכונות, ובסופו של דבר העתקה של התודעה לתוך המכונה, לפני שימות הגוף. אבל העליתי לפני כשבועיים לשי את השאלה השאלתית של חשיבות הבשר להגדרת נפש האדם והוא ניסח את ×–×” יפה וקצר בפוסט הראשון שלו: "נשאלה שאלה עד כמה אינטיליגנציה מלאכותית יכולה להיות אנושית בלי גוף אנושי, ואנשים הגיעו עם תגובות מאוד מעניינות (למשל חשיבות הרביה והמוות בעיצוב המוסר שלנו או העובדה שיש לנו סדרי גודל של מרחב וזמן הבסיסיים מאוד לחשיבה לנו ואינם רלוונטים למחשב)". זו שאלה בסיסית ומובנת וג'×£ הוקינס דן בה בספרו החדש "על האינטיליגנציה", ושם הוא מסביר בבטחון מופרז למה אנחנו לא באמת רוצים מכונות עם רגשות אנושיים ושזה כאב ראש מוגזם לבנות במחשב גם סימולציות של תחושות אנושיות פרימיטיביות, דחפים ופחדים (סקס ומוות בראשם), ובעצם יוצא נגד ריי קורצווייל ורצונו בחיי נצח בסיליקון. אני לא בטוח שהוא לא נאיבי בהערכתו שזה לא יקרה ואנשים יפסיקו לשאוף לשם, אני גם לא בטוח בהערכותיו הנאיביות של קורצווייל שזה יקרה בשני העשורים הקרובים, אבל השאלות רבות ומעניינות – האם אנחנו יכולים להרשות לעצמנו, עם ×”DNA הנוכחי שלנו על בעיותיו, אדם ביולוגי שחי לנצח (אליבא דה אוברי דהגריי?), ולחלופין האם אנחנו רוצים להעתיק תודעה שנולדה בגוף, קיימת עכשיו בתוך מכונה, אבל מסמלצת תחושות גוף כדי לא להשתגע ולאבד את אישיותה?

הפחד שלנו ממוות קשור למבנה האבולוציוני שלנו – אם לא נפחד ממוות לא נשרוד, ואם מוות בפתח הרי שיצר ההישרדות חייב לפעול במלוא האון, כן – ×–×” אומר גם רביה. אם מישהו חשב פעם למה מוות יכול לדכא ולחרמן כאחד, למה אנשים באיום קיומי מתחילים לחשוב על סקס, ולמה יש בייבי-בום בתקופות מלחמה, אז ×”× ×” עכשיו אתם יודעים. האדם, כמו רוב בעלי החיים, עבר אבולוציה במקומות מסוכנים, הוא למד לפחד ולהתרבות כדי שלפחות חלק מהצאצאים יוכלו לשרוד. לכן גם במקומות ×”×›×™ רעבים באפריקה עדיין יש בהם יותר ילודה ממה שהגיוני לעשות וממה שאפשר להאכיל. זוהי הטרגדיה שהצגתי לפני כמה פוסטים לגבי הצורך בשיכנוע האוכלוסיה העולמית להאט את הקצב.

חישבו על ×–×”. אם אנשים ללא אמפתיה (אולי בגלל חינוך ואולי בגלל גנטיקה) לא יפסיקו להגדיל את האוכלוסיה, הרי שיקומו יותר ויותר אנשים עם אחריות חברתית (ופגשתי כמה) ויודיעו שהם ימנעו מעצמם את הרביה, הצריכה והעושר כדי לא להעמיס על כדור הארץ. אבל זו תהיה שטות מוחלטת ×›×™ אז דווקא האנשים עם האחריות החברתית והראיה של התמונה הגדולה הם בעלי ×”DNA שלא יועבר בתורשה, הם יוכלו להשפיע רק דרך חינוך ולא דרך DNA, אבל הם גם סוג האנשים שממילא מסווגים ×›"פסיכים שאסור להם ללמד את הילדים שלנו" ×¢"×™ רפובליקנים, דתיים מפלגים שונים, קפיטליסטים ומכחישי התחממות גלובלית (להלן – מקדמי היתממות גלובלית).

האם יש חיות שישרדו בעיה כזו, של רבית יתר עד כליה, כמו שקרה בעבר בכמה תרבויות? כן, יש מקרים קיצוניים של סביבות אקולוגיות שבהן לא היו טורפי על והסכנה הקיומית הכי גדולה היא מחסור במזון, שם החיות מפסיקות להתרבות כשהן בסכנה במקום להאיץ את ההתרבות. הבעיה היא, כמובן, שמרגע שהגיע לשם האדם המודרני, הוא כמובן ניצל את זה מיד לצרכיו וכך הרבה מהחיות בניו-זילנד למשל, לא שרדו את השוק (המפורסם שבהם היה הדודו).

אני מצרף בנקודה זו הרצאה נהדרת של דאגלס אדאמס על הקקאפו (אתם יכולים להוריד הביתה כאן), ואני ממליץ למי שעוד לא קרא את Last Chance To See, לחפש את הספר ולהנות מהרעיונות הנהדרים שלו. ההרצאה הזו (איך לא) נמצאה איפשהוא באינטרנט, אין לי מושג איך ואיפה הופצה, ואם להיות צמוד לחוקי זכויות היוצרים, אני מתאר לי שאני עובר על חוקים שונים כרגע, אבל ×–×” חשוב, והוא מסביר את ×–×” כל כך טוב. המסקנות מתחילות בדקה ×”-14:00 וההשלכות ב-15:30, אבל אני ממליץ לכם לא לדלג…

[media id=20]

אז איך כל ×–×” מתקשר? הוקינס אומר שסיליקון שיוכל לתת לנו זכרון הירארכי כמו הניאוקורטקס האנושי ×™×”×™×” מקפצת מדרגה קיצונית, אבל כאמור, לדעתו חבל לנו על הזמל של לנסות לנתק את התודעה מהגוף, ×›×™ אז התודעה שלנו כבר לא תהיה אנושית. במקום ×–×” הוא מציע שאותו "שבב הקורטקס" יוכל להיות מחובר לאלפי סוגי חושים וחיישנים שהמין האנושי לא יכול לחלום עליהם. אם אנחנו ממש טובים במציאת דוגמאות (patterns) בשמיעה וראיה, הוא רואה איך מוח ×›×–×” יבסס את האינטיליגנציה שלו על מציאת דוגמאות חוזרות בחיוויים של חיישנים של מזג אוויר עולמי, מכשורי מעבדה, מכונות שונות כמו מכוניות או רובוטים שישתמשו בחיישנים שהם מעבר למה שחושים אנושיים יכולים לראות ולהרגיש בלי אמצעי ביניים… ואני אומר יותר מזה – אם נפתח תודעה כללית (AGI), למה שנרצה שהיא תהיה "כלואה" בתוך הקונספט האנושי של מודעות עצמית כפרט נפרד מהאחרים הסובבים אותו? האם יש בכלל מובן ל"תודעות" שכאלו, עם אישיות שונה לכל אחת כשהן בגריד האינטרנט העולמי? כנראה שכן, כדי להפרות רעיונות ופתרונות שצומחים מתוך אישיות שונה, אבל זו עדיין תהיה "תודעה" אחת שלצרכי יעילות ביצירתיות, תפצל את עצמה למספר סוגי "אישיות", תיצור ויכוח (ותקפיד שיהיה בו פרקליט שטן), תבנה ותבחן תאוריות ואז תאחד חזרה כוחות מחשוב כדי לבצע את הפתרון – והכל במאיות שניה. הפרידה, האיחוד, ×–×” לא משהו שאנחנו מכירים, גם לא הרעיון של לעשות האקינג על מבנה המוח של עצמך בעוד אתה יושב וחושב בו, יש כאן עולם שיהיה לנו אפילו מאוד מוזר להבין אותו, ×›×™ הגריד האינטיליגנטי ×”×–×” ×™×’×™×¢ מהר מאוד למצב שבו הוא ממציא את עצמו מחדש כל כמה זמן ובקצב שכאמור, ×™×”×™×” לנו קשה עד בלתי אפשרי לעקוב אחריו או להבין אותו, רק להשתעשע איתו וללמוד ממנו, ולהעזר בו כדי לפתור את בעיות הקיימות שלנו, ובדרך לקוות שהפתרון הוא לא להחליף אותנו 🙂 אלא אולי לעזור לנו להכניס קצת מהגנים של הקקאפו לDNA האישי שלנו, ולתקן קצת את המוח הזוחלי שלא תמיד עוזר לנו, ולקדם את המין האנושי בסימביוזה מחשבתית ואולי גם פיסית.

בנקודה הזו אני אעזוב אתכם לחשוב לאורך הסופ"ש ולהגיב, ואת ההתפלספויות הבאות בנושא אני מניח שנעשה כבר אצל שי בבלוג 🙂

מחשבות על קיימות 2: הזהרו מהשטיפה הירוקה, הזהרו גם מביטול חשיבות הנושא

עדכון 26.4: מהתגובות נראה שהניסוח שהפוסט לקה באי בהירות, אני עורך, מנסח ומפרסם מחדש כדי למנוע אי הבנות:

סביבה, ירוק, אקולוגי, קיימות, המון מילים שאופנתי לצטט אבל למרות שרבים מכריזים שהם חושבים מחוץ לקופסה, אבל הם לא באמת. כתבתי כבר למשל איך ויסנר קורא למפלגה שלו "הירוקים" אבל כפי שמצטייר מהכתבות עליהם, הם לא בדיוק. לא חסרים בחוץ אנשים שירצו לשטוף אתכם בדיבור ירוק – תופעה הידועה ×›Greenwash – דרך שיווק מגמתי ושיטות אחרות. מתפתחים היום שווקים של הזחות הפחמן ואיזוני הפחמן שעוברים עכשיו מפניה למפעלים גם לשירות לפרטיים – הרבה ספקנים טוענים שאלו פשוט מפעלים למכירת אינדוליגנציות (ואני מנחש שזה נכון לגבי חלק ממוכרי העסקות האלו, אבל אין לי מושג ירוק בנושא ×›×™ לא התעמקתי בו), וחלקם מרחיקים לכת להאשים גם את אל גור וחברת ההשקעות ×’'נריישן במריחת הציבור. השוק מלא ספקולנטים ודעות סותרות שנשמעות מאוד מדעיות ומשכנעות, ולכן בוודאי גם רמאים שלומדים לדבר ירוק.

אבל איפשהוא יש גם פעילים חברתיים, חברות מסחריות ואנשים שעושים טוב ונכון (והנה מל"ג גם בארץ). איך להפריד באמת את המוץ מהתבן?

כרגיל אני חוזר למיון מקורות מידע וחשיבה ביקורתית – האם אתם יודעים כל מה שיש לדעת על החברה שמוכרת לכם את המוצר? מה כותבים עליהם המבקרים ברשת? האם הערך עליהם בויקיפדיה באנגלית מכיל פסקה של "בקורת נגד"?

הדברים והסימנים שכדאי לחפש ולשים אליהם לב: האם הטענות על אריזת המוצר עמומות ולא ברורת? האם המוצר יכול להיות מיוצר בארץ אבל מיובא מחו"ל? האם הוא פותר גורם לבעיה או רק מכסה את הסימפטומים? האם הוא באמת בא לפתור את הבעיה או רק להזיז אותה למקום אחר, נסתר מהעין? מה עוד מייצרת אותה החברה והאם המוצר הזה הוא שינוי מרכזי בתפיסה שלה או שזה מוצר אחד "ירוק" בין סדרת מוצרים בלתי ירוקים שמתחרים בו מבית אותו היצרן?

דוגמאות: מוצרים "ירוקים" רבים מתוצרת סנו, חוגלה וכדומה, רשתות מוצרים "ירוקים" כמו "עדן", אפילו חלק מהפעילויות של גרינפיס לוקות בגרינווש.

ומעבר לגרינווש, מעבר למכירת לוקשים, יש גם את ×¢× ×™×™× ×™ התעתוע של מי שינסה לשכנע אתכם שאין סכנה של התדרדרות אקולוגית, ואולי לשחרר רסן ולנהוג בחוסר אחריות למרות האזהרות שעל הקיר. גם בנושא ×–×” אני נותן עצות דומות לאלו שאני מחלק בהקשרים של רפואה מדעית מול אלטרנטיבית – נושא שונה ונפרד שכבר מחכים חודשים להתייחסות ממני בשתי טיוטות בבלוג. מכחישי שינוי אקלים (עד כדי כאלו שטוענים שאין ירוק שאיננו greenwash), ספקנים לא-מדעיים וסתם מקטיני ראש טוענים נגד מושג ההתחממות גלובלית (להלן GW) שמדובר במדע ספקולטיבי ×›×™ רובו מבוסס תאוריות מהסוג שלא ניתן לנסות תמיד בתנאי מעבדה או לקבל תוצאות עקביות בניסוי קבוע אחר (×›×™ הוא קורה ברמה של כוכב לכת שלם), וגם אם הרבה מהתופעות הכימיות של המיקרו מובנות לנו, אנחנו לא יכולים לדגום מספיק מידע מכל האטמוספירה כל הזמן, כדי להיות בטוחים בהסקות של סיבה ומסובב. כמובן שזו שאלה פילוסופית מעניינת, אבל בשורה התחתונה יש לנו המון מידע, ואנחנו מפיקים ממנו תאורי מצב מדויקים יותר ויותר, ולכן המודלים משתפרים, ואפשר לענות לשאלות הספקנים בהוכחות, צריך רק לדעת איפה לחפש.

דוגמא נפוצה: אנחנו יודעים שCO2 הוא גז חממה בעייתי, אבל המון מכחישים טוענים שכמות הCO2 שאנחנו משחררים היא אפסית ביחס לשאר הטבע, ולא אנחנו מטים את הכף. מי שלא ילך לחפש עובדות, עוד עלול להאמין לחצאי האמיתות האלו.

עוד מספר דוגמאות לגרינווש אביא בפוסט הבא. בספקנות אקלים אני לא בטוח שאטפל – אבל אם מישהו מוכן לכתוב על ×–×” פוסט אורח (מכנס?) אני אשמח.
כרגיל, אני לא מתיימר להקיף את כל הנושא בפוסטים אלא רק לעורר שיחה בנושא. אתם יותר ממוזמנים להרחיב ולהדגים ולפרט בתגובות (אבל אנא התרכזו בנושא הפוסט והניחו את ענין הרפואה האלטרנטיבית ליום אחר, כל פוסט ביג'י יומו)