תגית: מדע

פורסם ב

למי זה טוב, הסינגולאריטי הטכנולוגי?

ביקשו ממני לדייק. סינגולאריטי ככלל אומר לרוב האנשים "חור שחור", אבל אנחנו מדברים פה על סינגולאריטי טכנולוגי. אופק האירועים הלא ידועים, שמעבר לנקודה שבה המין האנושי (בגרסתו הביולוגית) כבר איננו האינטיליגנטי ביותר על הכוכב.

אפתח בחדשה: הוכרזה פתיחת השנה במוסד הסינגולאריטי (עדיין כואב לי בראש לקרוא לו אוניברסיטה) ועכשיו מותר לספר ששלושה מהתלמידים שהתקבלו הם ישראלים, ואחד מהם הוא חברי הטוב שי, ולכבוד הארוע עזרתי לו להקים בלוג. הבעיה שהשכל האנושי איננו מכונה עדיין, ובשל כשלים ועיכובים, הבלוג עדיין איננו דו כיווני ודו-לשוני במידה שרציתי, אבל יהיה מגניב בסוף התהליך (אני מקווה)

כאמור קורצווייל מדבר על סימביוזה עם המכונות, ובסופו של דבר העתקה של התודעה לתוך המכונה, לפני שימות הגוף. אבל העליתי לפני כשבועיים לשי את השאלה השאלתית של חשיבות הבשר להגדרת נפש האדם והוא ניסח את זה יפה וקצר בפוסט הראשון שלו: "נשאלה שאלה עד כמה אינטיליגנציה מלאכותית יכולה להיות אנושית בלי גוף אנושי, ואנשים הגיעו עם תגובות מאוד מעניינות (למשל חשיבות הרביה והמוות בעיצוב המוסר שלנו או העובדה שיש לנו סדרי גודל של מרחב וזמן הבסיסיים מאוד לחשיבה לנו ואינם רלוונטים למחשב)". זו שאלה בסיסית ומובנת וג'ף הוקינס דן בה בספרו החדש "על האינטיליגנציה", ושם הוא מסביר בבטחון מופרז למה אנחנו לא באמת רוצים מכונות עם רגשות אנושיים ושזה כאב ראש מוגזם לבנות במחשב גם סימולציות של תחושות אנושיות פרימיטיביות, דחפים ופחדים (סקס ומוות בראשם), ובעצם יוצא נגד ריי קורצווייל ורצונו בחיי נצח בסיליקון. אני לא בטוח שהוא לא נאיבי בהערכתו שזה לא יקרה ואנשים יפסיקו לשאוף לשם, אני גם לא בטוח בהערכותיו הנאיביות של קורצווייל שזה יקרה בשני העשורים הקרובים, אבל השאלות רבות ומעניינות – האם אנחנו יכולים להרשות לעצמנו, עם הDNA הנוכחי שלנו על בעיותיו, אדם ביולוגי שחי לנצח (אליבא דה אוברי דהגריי?), ולחלופין האם אנחנו רוצים להעתיק תודעה שנולדה בגוף, קיימת עכשיו בתוך מכונה, אבל מסמלצת תחושות גוף כדי לא להשתגע ולאבד את אישיותה?

הפחד שלנו ממוות קשור למבנה האבולוציוני שלנו – אם לא נפחד ממוות לא נשרוד, ואם מוות בפתח הרי שיצר ההישרדות חייב לפעול במלוא האון, כן – זה אומר גם רביה. אם מישהו חשב פעם למה מוות יכול לדכא ולחרמן כאחד, למה אנשים באיום קיומי מתחילים לחשוב על סקס, ולמה יש בייבי-בום בתקופות מלחמה, אז הנה עכשיו אתם יודעים. האדם, כמו רוב בעלי החיים, עבר אבולוציה במקומות מסוכנים, הוא למד לפחד ולהתרבות כדי שלפחות חלק מהצאצאים יוכלו לשרוד. לכן גם במקומות הכי רעבים באפריקה עדיין יש בהם יותר ילודה ממה שהגיוני לעשות וממה שאפשר להאכיל. זוהי הטרגדיה שהצגתי לפני כמה פוסטים לגבי הצורך בשיכנוע האוכלוסיה העולמית להאט את הקצב.

חישבו על זה. אם אנשים ללא אמפתיה (אולי בגלל חינוך ואולי בגלל גנטיקה) לא יפסיקו להגדיל את האוכלוסיה, הרי שיקומו יותר ויותר אנשים עם אחריות חברתית (ופגשתי כמה) ויודיעו שהם ימנעו מעצמם את הרביה, הצריכה והעושר כדי לא להעמיס על כדור הארץ. אבל זו תהיה שטות מוחלטת כי אז דווקא האנשים עם האחריות החברתית והראיה של התמונה הגדולה הם בעלי הDNA שלא יועבר בתורשה, הם יוכלו להשפיע רק דרך חינוך ולא דרך DNA, אבל הם גם סוג האנשים שממילא מסווגים כ"פסיכים שאסור להם ללמד את הילדים שלנו" ע"י רפובליקנים, דתיים מפלגים שונים, קפיטליסטים ומכחישי התחממות גלובלית (להלן – מקדמי היתממות גלובלית).

האם יש חיות שישרדו בעיה כזו, של רבית יתר עד כליה, כמו שקרה בעבר בכמה תרבויות? כן, יש מקרים קיצוניים של סביבות אקולוגיות שבהן לא היו טורפי על והסכנה הקיומית הכי גדולה היא מחסור במזון, שם החיות מפסיקות להתרבות כשהן בסכנה במקום להאיץ את ההתרבות. הבעיה היא, כמובן, שמרגע שהגיע לשם האדם המודרני, הוא כמובן ניצל את זה מיד לצרכיו וכך הרבה מהחיות בניו-זילנד למשל, לא שרדו את השוק (המפורסם שבהם היה הדודו).

אני מצרף בנקודה זו הרצאה נהדרת של דאגלס אדאמס על הקקאפו (אתם יכולים להוריד הביתה כאן), ואני ממליץ למי שעוד לא קרא את Last Chance To See, לחפש את הספר ולהנות מהרעיונות הנהדרים שלו. ההרצאה הזו (איך לא) נמצאה איפשהוא באינטרנט, אין לי מושג איך ואיפה הופצה, ואם להיות צמוד לחוקי זכויות היוצרים, אני מתאר לי שאני עובר על חוקים שונים כרגע, אבל זה חשוב, והוא מסביר את זה כל כך טוב. המסקנות מתחילות בדקה ה-14:00 וההשלכות ב-15:30, אבל אני ממליץ לכם לא לדלג…

[media id=20]

אז איך כל זה מתקשר? הוקינס אומר שסיליקון שיוכל לתת לנו זכרון הירארכי כמו הניאוקורטקס האנושי יהיה מקפצת מדרגה קיצונית, אבל כאמור, לדעתו חבל לנו על הזמל של לנסות לנתק את התודעה מהגוף, כי אז התודעה שלנו כבר לא תהיה אנושית. במקום זה הוא מציע שאותו "שבב הקורטקס" יוכל להיות מחובר לאלפי סוגי חושים וחיישנים שהמין האנושי לא יכול לחלום עליהם. אם אנחנו ממש טובים במציאת דוגמאות (patterns) בשמיעה וראיה, הוא רואה איך מוח כזה יבסס את האינטיליגנציה שלו על מציאת דוגמאות חוזרות בחיוויים של חיישנים של מזג אוויר עולמי, מכשורי מעבדה, מכונות שונות כמו מכוניות או רובוטים שישתמשו בחיישנים שהם מעבר למה שחושים אנושיים יכולים לראות ולהרגיש בלי אמצעי ביניים… ואני אומר יותר מזה – אם נפתח תודעה כללית (AGI), למה שנרצה שהיא תהיה "כלואה" בתוך הקונספט האנושי של מודעות עצמית כפרט נפרד מהאחרים הסובבים אותו? האם יש בכלל מובן ל"תודעות" שכאלו, עם אישיות שונה לכל אחת כשהן בגריד האינטרנט העולמי? כנראה שכן, כדי להפרות רעיונות ופתרונות שצומחים מתוך אישיות שונה, אבל זו עדיין תהיה "תודעה" אחת שלצרכי יעילות ביצירתיות, תפצל את עצמה למספר סוגי "אישיות", תיצור ויכוח (ותקפיד שיהיה בו פרקליט שטן), תבנה ותבחן תאוריות ואז תאחד חזרה כוחות מחשוב כדי לבצע את הפתרון – והכל במאיות שניה. הפרידה, האיחוד, זה לא משהו שאנחנו מכירים, גם לא הרעיון של לעשות האקינג על מבנה המוח של עצמך בעוד אתה יושב וחושב בו, יש כאן עולם שיהיה לנו אפילו מאוד מוזר להבין אותו, כי הגריד האינטיליגנטי הזה יגיע מהר מאוד למצב שבו הוא ממציא את עצמו מחדש כל כמה זמן ובקצב שכאמור, יהיה לנו קשה עד בלתי אפשרי לעקוב אחריו או להבין אותו, רק להשתעשע איתו וללמוד ממנו, ולהעזר בו כדי לפתור את בעיות הקיימות שלנו, ובדרך לקוות שהפתרון הוא לא להחליף אותנו 🙂 אלא אולי לעזור לנו להכניס קצת מהגנים של הקקאפו לDNA האישי שלנו, ולתקן קצת את המוח הזוחלי שלא תמיד עוזר לנו, ולקדם את המין האנושי בסימביוזה מחשבתית ואולי גם פיסית.

בנקודה הזו אני אעזוב אתכם לחשוב לאורך הסופ"ש ולהגיב, ואת ההתפלספויות הבאות בנושא אני מניח שנעשה כבר אצל שי בבלוג 🙂

פורסם ב

בני מצווה, בני חושך או בני אור?

חבורת ילדים קטנים שעוד לא הגיעו כולם לגיל מצוות, אנסו שתי ילדות בנות גילם. מי לא כתב על זה כבר השבוע? רק אצלי התור הארוך של הטיוטות והזמן המתמלא בעבודה לא איפשר לי להגיע לזה. חלי: "לא מִתַמֶמֶת. בהן צדקי שלא", ועוד הרבה בלוגים ולא מעט ראיונות ברדיו, כולל אחד מעניין של יעל דן עם דנה ברנזון, עם סיפור מעניין משלה שבדיוק כתבה עליו גם ספר. הקשבתי גם לכמה פסיכולוגים ואני חייב לציין שאני מתחיל להשתכנע שאין מנוס מצנזורה. אינטרנט או טלוויזיה, ההתקפה הבלתי פוסקת של אירוטיזציה של החיים בסדרות אחה"צ ופרסומות איננה נורמלית יותר, אבל בעיקר לא זוכה לשום כוח נגדי ומסביר מצד ההורים.

איפשהוא זה מתחבר לי לפוסט ההוא מלפני שבועיים על שנאה ואלימות, ולטיפול המוזר בסיפור צ'יקו תמיר ובנו, שמעט אנשים רואים בו את האבסורד, ועוד סיפורים שנוחתים עלינו בתקשורת או ברחוב. החברה שלנו פשוט הולכת ומתעוורת, אנשים מתעוורים לא רק לשכנים ולחברים בעבודה, גם בוסים לא רואים את העובדים שלהם והורים מתעוורים לילדים שלהם. לא רואים את המצוקות, לא מתקנים ראיית עולם מעוותת שנבנית לה בלי מפריע. אני לא אומר שהטלוויזיה והפורנו שבאינטרנט הם בהכרח דברים רעים, אבל מוח צעיר פשוט לא יודע מה לקלוט ולהבין מהם, אם אין מבוגר שיתן לו רקע וכלים להבין מה הוא רואה ואיך נכון לפרש את כל הדברים שם נכון. אין לי מושג אם אפשר להפוך את אותה חבורת אנסים קטנים לאזרחים נורמטיביים, אבל אני מוכן לשים כסף שלא ההורים שלהם ולא המדינה יודעים איך או יאפשרו להם לקבל את שינוי הכיוון שהם צריכים.

ובחוץ, אנשים אמפתיים יושבים בצד ורואים את כל זה ופשוט לא מבינים איך זה יכול לקרות, ואיך התהום מתקרבת ומעמיקה ואנחנו משותקים מלעשות משהו מכדי למנוע את האסון הבא.

חברה שלי בנתה לעצמה מעין מודל לענין, היא מתארת את זה בצורת מעגלים דמיוניים שמקיפים את הנפש. בראשם מעגל כאב ומעגל השפעה. לפי ראיית עולמה, אנשים כמו טופז הם בעלי מעגל כאב קטן מאוד – לא יכולים לראות כאב של אחרים מחוץ לעצמם – ובעלי מעגל השפעה גדול מאוד כשהם במקום הנכון (נקרא לזה כריזמה במקום אחד, שתלטנות במקום אחר). במקרה של טופז, למשל, ההלם של איבוד מעגל השליטה היה כמובן מאוד חזק, אבל כיון שמעגל הכאב שלו כל כך אישי, הוא לא ראה בעיה עם אף דרך שבה נקט, אולי מתוך נסיון להחזיר לעצמו את השליטה, אולי משהו אחר לא מוסבר. הדיסונאנס בין גדלי שני המעגלים וההבנה שמעגל ההשפעה שלו אינו לנצח ואינו תלוי רק בו, גרם לו למשבר. לעומתו, אנשים כמוני מרגישים שמעגל הכאב גדול ורחב הרבה יותר ממעגל ההשפעה, והתוצאות גם הן לא נעימות, ואני מנסה בשנים האחרונות לא לרוץ לנסות להציל את כל העולם, כי אין סיכוי לאדם בודד לעשות יותר מדי שינוי ללא שיתוף פעולה.

והנה הקדמה למה שהתכוונתי לכתוב עליו בשבועות הקרובים, איך להגיע לאיזון ושיתוף הפעולה הדרוש כדי להגיע לעולם בר קיימא. אם כמה אנשים חוברים ביחד, מעגל ההשפעה שלהם הרי גדל, יש אחריות הדדית, אנשים מעיזים פחות לנצל לרעה משאבים משותפים (וכל זה מגובה בלא מעט מאמרים בפסיכולוגיה וקוגניציה ואפילו נוירולוגיה). ובקיצור, בחודשים האחרונים הבנתי יותר מתמיד שעתיד העולם תלוי ביכולתינו לחזור לחלק מהמרכיבים חברתיים של החברה השבטית שבה גדל המין האנושי עד למאות האחרונות. לא הלוחמנות אלא שיתוף הפעולה והערבות ההדדית, עד כדי היתרונות של גידול של הילדים בקבוצה וקשר יותר הדוק איתם. מעניין אם יש אי אילו שהם מחקרים שיספרו על אחוזי אופטימיות, אמפאתיות, אחריותיות, פשיעה וכולי, שמשווים בין מבוגרים שנולדו וגדלו בקומונות, קיבוצים, עיירות קטנות או שפשוט גדלו שנים בתנועת נוער עם ערכים סוציאליים כמו הנוער העובד, או השמו"ץ. מעניין גם לבדוק את המדדים האלו פשוט בקרב אנשים שלמדו בכיתות קטנות ואלו שלמדו בגדולות, וכולי. אני מאמין שכמה מקוראותי, שעסקו (וחלקן עוסקות) בפדגוגיה ו/או קרימינולוגיה יוכלו לתת יותר פרטים ולמקד אותי לראות אם אני צודק או לא.

אני מאמין שהניתוק החברתי (כולם עסוקים, כל אחד בביתו הפרטי ואין זמן לחברים) גורר את הניתוק הרגשי ורגש האחריות הציבורית, את האדישות לצרותיהם של אחרים והגברת החרדתיות לצרות האישיות. הפיצויים הרגשיים שלנו כבר עברו למדפים בקניון כמו בארצות הברית, ואני חושד שכל זה מסביר גם את העליה ההמתמדת והבלתי ניתנת לערעור באחוזי האנשים הדכאוניים שבחברה. לא פסיכיאטר אחד ולא שניים כבר יצאו ואמרו שהמוח האנושי פשוט לא "תוכנן" אבולוציונית להתמודד עם החיים האורבניים, הבדלניים שאנחנו בוחרים לעצמינו, והרבה מהצרות של האנשים הרגילים שמוצאים את עצמם מחפשים פרוזאק או מריחואנה כדי להתמודד עם החיים פשוט לא מופיעים בחברות עם לכידות שבטית או משפחתית יותר גבוהה. בלי הרגשת שייכות למשפחה, לחמולה, לעיר, למדינה, לעם… אנשים ימשיכו לנהוג באדישות לצרות של אחרים, של הטבע, ויטפחו מעגלי כאב הולכים וקטנים, עד שלא תהיה יותר חברה אנושית ראויה להצלה 🙁 אנחנו צריכים להבין את זה ולא לוותר לעצמנו על מה שהמוח והגנטיקה שלנו דורשים – קרבה אנושית. לא רשתות פייסבוק אלא אנשים אמיתיים. אנשי הפרסום הצליחו למכור לנו סימולציות (וסימולאקרות…) של כל דחף נפשי, פיסי ורגשי, ואנחנו נכנעים לזה בלי להרגיש שמה שבאמת חסר, לא יקנה אף פעם הכסף.

פורסם ב

דילמה

קיבלתי חוזה נאה. חבר טוב נאלץ להפסיק לעבוד בשביל לקוח שלו (נקרא להם Larpolexia סתם בשביל הקטע) והפנה אותם אלי. הם מאוד מרוצים מהיכולות שלי, ואני בהחלט כשיר לספק להם את כל השירותים שהם דורשים. הבעיה: כיוון שהם מוכרים שירותי אבטחת תוכנה לכל מני ארגונים בעולם, יש להנהלת החברה, שיושבת בקליפורניה, דרישה שאחתום על ויתור סודיות כללי, ואאפשר להם למעשה לרגל אחרי בכל הכוח, אם הם רק ירצו. לקבל את כל החומרים הרפואיים לגבי מכל מי שיבקש, להטריד קרובים, מכרים ושכנים ואולי לרגל אחרי בביתי. את הריגול והחקירה הנ"ל הם אפילו לא מבצעים בעצמם אלא מעבירים את הרשאותי לחברה בג'ורג'יה שתפעיל בתורה חברה כלשהיא בישראל… בקיצור, האם הייתם חותמים על דבר שכזה?

Larpolexia complies with the federal Fair Credit Reporting Act (and applicable state laws), which provides prospective or current employees with rights regarding consumer reports and place specific obligations on employers who obtain such reports.
[…]
During the application process and at any time during the tenure of my employment or doing work on a temporary or contractual basis for Larpolexia, I hereby authorize ChoicePoint Services Inc., on behalf of Larpolexia to procure an Investigative Consumer Report which I understand may include information regarding my credit worthiness, credit standing, credit capacity, character, criminal convictions, general reputation, personal characteristics, or mode of living. This report may be compiled with information from credit bureaus, court record repositories, departments of motor vehicles, past or present employers and educational institutions, governmental occupational licensing or registration entities, business or personal references, and any other source required to verify information that I have voluntarily supplied. Information may also be obtained through personal interviews with neighbors, friends, associates, or others with whom I am acquainted. I understand that I may request a complete and accurate disclosure of the nature and scope of the background verification; to the extent such investigation includes information bearing on my character, general reputation, personal characteristics or mode of living.

אני באמת צריך את הכסף, ואפילו אין לי שלדים להסתיר בארון, אבל נראה לי שיש גבול לכמה שאפשר לדרוש מאדם לתת אמון במעסיק שלא נותן בו אמון בחזרה, ובמגוון באי כוחו העלומים, בלי הגבלה של מידע וזמן. כולה רציתי לעשות כמה ג'ובות מעבודת סיסטם…

תגידו, אני פסיכי או שאני צודק?

(עדכון) חקרתי עוד קצת מי הם הצ'וייספוינט הללו, מסתבר שהם חברת "אגרגצית אינפורמציה" ו"משמשת כשירות ביון פרטי לתעשיה ולממשלה" אחת מהזרועות הרבות של לקסיס-נקסיס (מו"ל בינלאומי וסוחרי מידע משפטי ופרטי, כולל בדיקות אשראי ושאר ירקות), שנקנו בפברואר 2008 על ידי ריד-אלסוויר. אם כל זה לא אומר לכם כלום, אתם יכולים לקרוא הלאה עליהם בויקיפדיה האנגלית: על האשמות של מכירת מידע על תושבי העולם הלא-אמריקניים לממשלת ארה"ב, על איבוד מאסיבי של מידע אישי של אנשים בגלל בעיות אבטחה, ועדיין זו החברה שנשכרה לעשות גם את בדיקות הרקע של ממשל אובמה. החברה הזו גם קנתה את מרשם המצביעים של מקסיקו (65 מליון איש) בשביל ממשלת ארה"ב וקיבלה ממנה חוזה לבצע מעקבים על כלל אזרחי אמריקה הלטינית בארה"ב. ממש החבר'ה הטובים. אה כן… הם גם הואשמו שהחקירה המוקדמת שביצעה החברה על פנקס הבוחרים של פלורידה בשנת 2000 היתה מוטה לטובת הרפובליקנים (או לפחות נגד היספנים ושחורים) עקב לחצים של המושל ג'ב בוש, ו15% מהבוחרים שהם הכריזו עליהם כפסולים לפני הבחירות עקב הרשעות ושאר סיבות היו למעשה קולות כשרים (כן, יש מדינות שם ששוללות לך את זכות ההצבעה לכמה שנים כחלק מהעונש). ויש עוד סיפורים מוזרים עליהם…

ומה עם אלו שקנו אותם לפני שנה וחצי עם פטה-בייטים של מידע על כל העולם וארה"ב בפרט? ובכן, אלסוויר הם חברה הולנדית ותיקה בת 130 שנה, המו"ל הגדול ביותר בעולם לפרסומים מדעיים ורפואיים. אלפי ספרים, אלפיים כתבי עת, פרסום של מאות אלפי מאמרים בשנה בידי מאות אלפי כותבים וכ-7000 עורכים. היושרה המצופה מהם לא אמורה לכלול החזקת מחלקה שלמה של הפקת מגזיני מדע "תחת ביקורת עמיתים" מזויפים להפליא. אפשר היה להגיד שהם מסכנים, לא מרוויחים מספיק ממכירת כתבי עת לגיטימיים עד שהם צריכים את תקציבי השיווק של יצרניות תרופות או תעשייות האנרגיה והסלולאר או הטבק, אבל גם את הז'ורנאלים הרגילים הם מוכרים במחירים מופלאים של עד $14K לשנה וספריות בוכות להם שיורידו קצת מחיר. הם גם הנשוא הראשי להאשמות וביקורת של פעילים למען מידע אקדמי חופשי. למעשה אוניברסיטאות רבות בעולם הפסיקו לעבוד איתם בשל המעבר לפרסום תכנים בצורה פתוחה.

איך הגענו למצב כזה, שהולנדים ישרים מכרו את יושרתם בפרוטות? ובכן אולי זה קשור לאיחוד ריד-אלסוויר ב-1992, לכאורה שני מו"לים גדולים, החולשים על אחוז עצום מהפרסומים הבינלאומיים בנושאי מדעים מדויקים, רפואה ומשפטים. אבל למעשה החברה-האם הזו, הבעלים של אותו המו"ל של אלפי כתבי עת של פרסומים רפואיים מצילי חיים, גם שולחת ידה לעוד תחומים מרגיזים. למשל לפני כמה שנים התגלה ארגון-בן שלה מארגן תערוכות בינלאומיות של יצרני וסוחרי נשקים. אחרי דרישות נוקבות של חוקרים רפואיים מרכזיים כי יחדלו מכל או שיחרימו את פרסומי הקונצרן, התרצו ונטשו את סחר הנשק ב-2007, אבל כאמור תוך חודשים ספורים נכנסו לתחום הסחר במידע אישי או כאמור, כמו שהם קוראים לזה, "שירות ביון פרטי".

בקיצור הם פוגעים לי בכמה וכמה ערכי אידאולוגיה, אפשר להגיד אפילו ערכים יסודיים. אם קראתם את הבלוג הזה בחודשים האחרונים אני לא צריך לפרט לכם. אני מתפתה להגיד להם שאינני מוכן לחתום על הניירת הזו ולוותר על החוזה, למרות שאני צריך כרגע הכנסה יציבה שכזו. כיוון שאני לא רוצה שההחלטה שלי תהיה לגמרי מהבטן אני מבקש שתהיו לי לשכל – אתם מוזמנים לספר ולנמק לי למה אני אדיוט עד רביעי בבוקר ואולי לשכנע אותי לחתום בכ"ז :-/

פורסם ב

Singularity University

האם זה אוקסימורון מתחכם או רצינות תהומית? Singularity University היא היוזמה החדשה שדוחף ד"ר ריי קורצוויל, העתידן והממציא, אחד מהאנשים שדחפו במרץ רב בשנים האחרונות את הנושא (ולפעמים זוכה גם לביקורות לא קטנות). מהי הסינגולאריטי? ובכן מדובר ברגע ההיסטורי שיבוא מתישהו אחרי שמערכת מחשב תעמוד בקריטריונים או אף תעקוף את המוח האנושי במבחני אינטיליגנציה כללית.

כמובן שמי שחובב מד"ב דיסטופי מיד קופץ כנשוך נחש וצווח "אמא'לה, SkyNet!", אבל זה יהיה פשטני מדי. מדענים בצד הפיסי/רפואי בונים כבר דגם מלא של גזע מוח של עכבר בסימולצית תוכנה, ובקרוב מוח שלם, משם "קצרה" הדרך ליונקים גדולים יותר ועד לאדם. מהצד השני חוקרים אנשי תוכנה איך לזייף אינטיליגנציה עד שתהיה אינטיליגנציה של ממש. לקח הרבה שנים כדי להגיע למסקנה שהיום נשמעת כמעט טרוויאלית: כנראה שאי אפשר להתחיל ממערכת מומחה כמו תוכנות השחמט הטובות בעולם, ולהסיק מהן משהו על תבונה מלאכותית כללית (AGI = Artificial General Intelligence). הרי "כחול עמוק" או "מחשבה עמוקה" או איך ש־IBM קראה לו (וקספרוב לא רוצה לשמוע עליו יותר) מנצח את כל העולם בשח אבל הוא שחקן שש-בש גרוע ביותר, וגם לעשות קפה אינו יודע. בסיפוריו של אסימוב היו המוחות מגיעים עם מסד נתונים כברירת מחדל מהמפעל, אבל משהו שונה ומקורי היה בסיפור אחד, שבו "מוח פוזיטרוני" אחד התחיל במצב "ריק כמו תינוק" ולמד מסביבתו, כולל חוקי מוסר בסיסיים. היום אנחנו יודעים שכדי להגיע ל־AGI שכזה, מאוד יכול להיות שלהעמיס ניתוח סמנטי של כל הבריטניקה לא יספיק, והמערכת צריכה להיות באינטראקציה עם העולם – ללמוד מאיך שפעולותיה משפיעות על סביבתה ואיך הסביבה מגיבה חזרה. יש חוקרים שכבר היום מתחילים לבחון מערכות לומדות שכאלו ע"י חיבור הקשר שלהן לעולם הסובב ולראות איך הן לומדות לא רק מהתכתבות טקסטואלית, ע"י זה שהם "שותלים" את הישות שלה בצורת כלבלב או תינוק בתוך סקונד לייף, ונותנים ל"מקומיים" להיות איתה באינטראקציה.

אז איך יראה עתיד שכזה, שבו האדם אינו הייצור האינטיליגנטי ביותר על הכוכב? הנקודה שבה נבנה מכונה מספיק אינטיליגנטית כדי לתכנן את הדור הבא של עצמה כמעט בלעדינו? האם אינטיליגנציה כזו תבין רגשות? האם היא תמצא לנו פתרונות למשבר המשאבים שיצליחו להתמודד גם עם כל הקשיים התרבותיים והדתיים? ופתרון מאזן האימה הגרעיני? האם היא תעלה על שיטות מתמטיות לפצח את כל סוגי הקריפטוגרפיה המקובלים בשוק או שמא להפך, תוכיח מי מהם החזקים והראויים לשימוש, או שתמציא חזקים וטובים מהם?

האם היא תתפתח למצב שנפתרות לנו חידות מדעיות בקצב יותר מהיר משנוכל להבין את הפתרונות? קורצוייל גורס שכן, וביום שזה יקרה – כשפיתוחים מדעיים מיושמים בקצבים העוקפים את יכולתנו להבין אותם, זו היא נקודת הסינגולריטי, כשהמין האנושי יתקדם בקצב יותר מהיר ממה שהוא מסוגל להבין אפילו. לפחות לא בלי הרבה עזרה מלאכותית של הרחבה או החלפה של הגוף והמוח הביולוגיים.

ואני לא נכנס אפילו לקטעים המוסריים של מכונה עם מודעות עצמית, האם מגיעה לה אזרחות וזכויות עצמאיות, או מה אם היא תבחר באמונות אנושיות כדרך עדיפה, או אולי תתכנן עקונות דת שיעזרו לנווט את המין האנושי למקום חדש. מה תהיה המשמעות הרוחנית שיעניקו לתוכנה/תבונה הזו אנשי רוח היום שיקבלו תובנות מעניינות מרעיונות רוחניים שיהגה מוח אלקטרוני? האם יפסלו אותה ואת עצותיה אנשי דת כחסרת נשמה או שמא יחזרו בשאלה או אולי יאשימו אותה בדיבוק?

קורצווייל גם מעריך כי לפני שנגיע לשלב הזה יהיו נאנובוטים שיעשירו את יכולותינו הטבעיות – פיסיות וקוגניטיביות – במצב כזה יצורי כלאיים קיברנטיים כמו "הבורג" של STTNG כבר יראו ישנים ומגוכחים, כי הקיברנטיקה תזרום לנו במחזור הדם, אבל גם חלקי חילוף גדולים יעברו מהפכה תפיסתית (ובתחום המאוד רחב הזה, הציצו על הרצאותיהם של קורצווייל עצמו ושל מאלינס המקסימה). נאנובוטים בדם שמעשירים אותנו יכולים גם לפגוע בנו אם איננו יודעים מה מקורם – אז האם אלו סמים טובים או רעים? יש עוד המון שאלות פתוחות.

השאלה הנוספת היא כמובן מתי זה עלול לקרות, והעוסקים בתחום מעריכים שהנקודה הזו תקרה תוך 10-20 שנה. זה לא הרבה זמן להתכונן למהפכה שדבר כזה עלול לגרום, ולכן קורצווייל לא מסתפק יותר בועידה שנתית, אלא פתח "אוניברסיטה" בשטח בסיס נאסא בעמק הסיליקון והכריז עליה לפני חצי שנה. במקום אפשר יהיה ללמוד מטובי הרעיונאים והחוקרים בתחום קורס קצר או תכנית שלמה, על כל האספקטים של מדעים מדויקים, סוציולוגיה, פסיכולוגיה, וכל מה שבינהם, כולל לדון באפשרות (הנראית פחות ופחות אפשרית) שהסינגולאריטי לא יגיע לעולם. בקרוב הסרט.

האנשים החכמים נפגשים לועידה שנתית שאפשר לראות או לפחות לשמוע ברשת (2006, 2007, 2008 ועוד פודקאסטים ב־ITC), אבל האוניברסיטה מיועדת לרכז ולהרחיב את המאמצים. בעיטת הפתיחה היא תוכנית קיץ מיוחדת (ואני מקווה שלא חד פעמית) – 9 שבועות קייטנה רב-תחומית לטובי החוקרים שהגישו בקשות מכל העולם. 40 איש ואישה מכל העולם שיקבלו מלגה מלאה להגיע לעמק הסיליקון וללמוד, לדון ולהפיק אולי גם ניירות עם טובי המוחות מתחומי המדע השונים. 40 מוחות מצוינים ומגוונים שנבחרו מבין עשרות ואולי מאות אלפים של מועמדויות שהוגשו, והשבוע נדע מי התקבל…

Across cultures, classes, and aeons, people have yearned to transcend death.

Bear that history in mind as you consider the creed of the singularitarians. Many of them fervently believe that in the next several decades we’ll have computers into which you’ll be able to upload your consciousness—the mysterious thing that makes you you. Then, with your consciousness able to go from mechanical body to mechanical body, or virtual paradise to virtual paradise, you’ll never need to face death, illness, bad food, or poor cellphone reception.

Now you know why the singularity has also been called the rapture of the geeks.

— Glenn Zorpette , Waiting for the Rapture

פורסם ב

קיימות 4: כמה זה באמת דחוף?

חוב קטן: בפוסט הראשון בסדרה הזו על קיימות נתתי דוגמא לעלות ההקמה והתחזוקה של גשר המיתרים בירושלים. דוגמא גרועה כי לא טרחתי לחפש את המספרים האמיתיים (למרות שהם במרחק שיחת טלפון ממני, במשרד מהנדס העיר ירושלים). אחרי שביררתי את המספרים, הבנתי שאין פה מה לדבר, לא משתלם לפרק באמת את הדשר בעשורים הקרובים (גם אם עלות התחזוקה השנתית שלו עולה פי 4 מגשר פשוט)

לגבי שאלות שנשאלתי על "כמה זה דחוף" עניתי בבלוג התנועה הירוקה:

העולם שלנו סופי ואילו קצב צמיחת האוכלוסיה עדיין חיובי. כמה סופי? יש הערכות מספרים, אני אגיע לזה בהמשך. אבל ברור לכם שאפשר לקחת כנתון שיום אחד נהיה חייבים להגיע למצב שקצב גידול האוכלוסיה יהיה בהכרח 0% (אם ע"י הסכמה חברתית-תרבותית או פיקוח צמוד על ילודה מטעם המדינה, או שמלחמות, רעב ומגפות יפתרו את זה בשבילנו).

ובכן, לפי מה שאומרים לנו כל המדענים, ה"צ'קים הדחויים" האנרגטיים-סביבתיים שאנחנו "כותבים" ידועים כבר היום כחסרי כיסוי. אנחנו מדללים ומזהמים יותר מדי את משאבי הטבע העתידיים ומצחיחים יותר מדי את האדמה מכדי שהיא תוכל להחזיק בצורה בת קיימא את קצב הניצול שלה, וזה לפני שאני מדבר מילה על אסונות הטבע שגורם מזג האוויר הלא יציב של ההתחממות הגלובלית. למעשה ברור מהנתונים שתוך 15-40 שנה רעב וצמא יהיו מנת חלקנו כולנו על פני כל הכוכב.
אז מה הוא המספר ה"נכון" של גודל אוכלוסיה לשאוף אליה, ושם לעצור את הגידול, כדי לא לדלל את המשאבים מהר מקצב החידוש שלהם? ובכן לפני כמה ימים הקשבתי לראיון מרתק עם מדען שציין סדרי גודל של מספרים המוסכמים בין החוקרים בתחום. הכל עניין של רמת חיים אליה אתה רוצה לשאוף. אם אתה רוצה שאוכלוסית כל כדוה"א תחיה באחוזות מפוארות בסגנון בברלי הילס, חצי מליארד איש יחיו בנוחות. אם אתה מוכן למצב שלכל אדם יש את המינימום ההכרחי של שטח לחיות, 1500 קלוריות מזון לצרוך, כמות מיים נקיים מינימלית לשתות ולא שום דבר אחר בערך, אנחנו מדברים על בערך 12 מליארד (חשבו נגיד על המחוזות העניים בהודו וסין). "עכשיו נשאר לבחור איפה על הסקאלה הזו אנחנו רוצים להיות". בנקודה זו המנחה שואלת אותו איפה הוא אישית היה רוצה לראות את העולם, והוא מציין שמספר טוב הוא שני מליארד. עם שני מליארד איש תהייה האפשרות לחיות בעיר הגדולה באיכות חיים של מעמד ביניים עם כל פינוקי התרבות של תאטרון ומוזיאונים וישארו גם מספיק מרחבים פתוחים למי שירצה לגור בכפר או בבקתת הרים.


מתוך הסרט "מכורים לצמיחה – מסענו התועה אל השגשוג" שנמצא עכשיו בשלבי הפקה וזקוק לעזרת הציבור

רק להזכירכם -> האנושות כרגע מתקרבת לשבעה מליארד

אז לאיזו רמת חיים אתם רוצים לשאוף? מה ניתן לעשות כדי להגיע לשם? האם ניתן למנוע סבל לפני שנגיע לשם? האם אתם תהיו מוכנים לקבל שזה לא יקרה בימי חיינו ועדיין לפעול למען זה? האם נגיע לשם עם כוכב לכת כל כך חבול שיקח למערכת האקולוגית חצי מאה לנקות את עצמה? או מאה שלמה? או אולי חמש מאות, ואז כדי להגיע לרמת החיים הנאותה נצטרך להצטמצם לרבע מהמומלץ כדי לעזור לכדור להחלים… כמה דורות זה יקח והאם הדורות שיבואו ישמרו על הכדור אחרי שיתנקה?

בנקודה זו, אם אתם רואים בי נביא זעם, פנו לעצמכם כ-80 דקות לשיעור מאלף (ומעלף) בחשבון בסיסי ואז חזרו לכאן ונפתח דיון. אחד הפוסטים הבאים יפתח את הדיון על הדרך כדי להגיע אל ה- steady-state של קיימות.

מה שכן, על דבר אחד אני מקווה שאין ויכוח. אחרי סיפור הויקיפדיה שלי, והנה עוד דוגמא שגיא פרסם השבוע לגמרי במקרה בלי קשר, אני חושב שצריך להבהיר שוב ושוב לאנשים – ידע זה כוח, ובשביל לצבור ידע חייבים שהמידע יהיה חופשי, וכדי שתהיה מודעות, חשוב הידע, ובשבילו המידע.
כדי שמשהו מכל העתיד הזה יצליח להתקרב אפילו במעט לאוטופיה שחייבת להיות פה כדי שהעולם השברירי שלנו לא יגמור מקובצ'ץ' בפח עקב שימוש יתר, חייבים להפיץ מידע לאנשים, וחייבים לעשות את זה בלי מגבלות. בשביל זה צריך מערכת חינוך טובה (ולא כזו שמקוצצת עד עפר ע"י ביבי), אבל גם הסברה במדיה.

אם יש לכם רעיונות איך להביא את כל החומר הזה לקהל רחב, אתם מוזמנים לחלוק איתנו.