תגית: בינה מלאכותית

גוגל מתחילה לסטות מהמסלול

גוגל מקלים לנו מאוד על החיים, אבל כשאנחנו מתמכרים למנשק משתמש שאין לו תחרות, לשירות שאין לו גיבוי בנפילה (והיו נפילות, לכן אנחנו יודעים), לאפליקצית ענן שלא מאפשרת לנו לגבות כראוי את המידע שלנו. אני גם לא רואה אותם אף פעם עונים בפורומים של התמיכה של עצמם, לפעמים הפורומים האלו מוצפים בספאם, והסיבה היא שמשתמשי ג'מיל, דוקס ורידר הם לא הלקוחות שלהם. אנחנו אוכלי החינם והלקוחות הם אלו שקונים את שטחי הפרסום.

בטיוטא הפוסט הזה התחיל בתור "גוגל מתחילה לאבד אחיזה", אבל מה שכתבתי נראה יותר ויותר כמו אחיזה מאוד מוצקה. בחיים שלנו, זאת אומרת, אבל לא באידאולוגיה המפורסמת שלהם של "Don't be evil", שם חלק מהעולם כבר מתחיל להסתכל עליהם אחרת.

נתקלתי בסט תשובות שנתן ריי אוזי לקהל במסגרת הוורלד-תור שעושה לו מיקרוסופט, אולי בניסיון ליצוק אותו בתור הפרצוף החדש של מיקרוסופט, עכשיו שבילג עזב את משרת הגיק הראשי (את המופע הישראלי פיספסתי אבל מי שהגיע אמר לי שלא הפסדתי הרבה). אני חייב לציין שאני מסכים איתו על חלק מהדברים, ובראשם שגוגל ווייב מורכב ומהונדס מדי. אני אוהב גאדג'טים, באמת שכן, אבל אני לא חושב שהייתי רוצה מפלץ כזה בתור תחליף למייל, מספיק שכבר עכשיו אני מכור לארגון הנהדר של ג'מיל בתוויות, אבל אני רוצה את המנשק הזה מחוץ לענן, אצלי בבית, מגובה כראוי (עם המטא-דאטה החשוב כל-כך, שלא מצורף כשמורידים POP3), בשליטתי… עצוב אותי לראות ילדים שגוגל מצליחה לסנוור.

אבל הכותרות נערמות די גבוה בחודשים האחרונים: שערוריית תכנון המס של גוגל, בינה מלאכותית להערכת בריחתיות של מוחות (האם היא לוקחת בחשבון את האפקטים של הפאראנויה שהיא-עצמה גורמת?), נפילות ארוכות של ג'ימייל ושל האפפ-אנג'ין, ההרחבה המטרידה של ה"ריגול" אחרי הגולשים דרך האדסנס, ולפני חודשיים נסיון שחלק מפרשים כהולך בכיוון של "לגנוב" את עולם המייל הפשוט והגמיש לעולם של גלים שיגרמו למסנג'רים וטוויטרים להראות כתחביב שפוי ולא מזיק למוח, סריקה של מידע ברשות הציבור ואז הגבלת השימוש בו, הגבלות מוזרות על השימוש באדסנס, זיופים אפשריים במספר ההקלקות של אדסנס ושורת התלונות עוד ארוכה.

היום הזכרתי את הדפדפן עם הסכם המשתמשים הבעייתי. למרות שהבעיה נפתרה היא טופלה בצורה לא משכנעת. אחריו באה הרי מערכת הפעלה שעושה (על הנייר) עוד פחות מאנדרואיד. קרנל שמריץ דפדפן, פחות או יותר, וכל האפליקציות רצות בתוכו, כלומר כל המידע האישי שלכם בענן. בינתיים רק סטולמן, אני ועוד כמה אנשים מודאגים, זה לא האינטרנט החופשי והאישי שהתרגלנו אליו, זה ממשיך להיות מרכז כוח שמעמיק ומתרחב. זה כבר לא אוניברסיטה פה ועיריה שם שנמשכים לחינם כמו זבובים לניאון נאצי, זה כבר כולל מאגרי המידע הציבורי של כמה ממדינות ארה"ב ואולי יום אחד את ארכיוני מדינתינו חסרי התקציב. זה מדאיג… אבל זה לא עובר בשתיקה. משרד המשפטים האמריקני התחיל לחקור את גוגל כמו את מיקרוסופט בשעתה, והנושא הראשון הוא הדיל המסריח (ועכשיו אולי גם לא כשר) שהשיגו עו"דיה על גוגל ספרים.

הדבר האחרון ששבר אותי זה כשראיתי אותם מתחילים עם שקרים לבנים ולהאמין לשקרים של עצמם. אלו שיטות שלקוחות ישירות מרדמונד. אני מדבר על החור החדש שקרעו להם כלבי השמירה של הצרכנים, כשלקחו את מצגת "אנחנו לא מונופול" שלהם והוסיפו תיקונים על כל השקפים, חלקם מתלהמים אבל רובם בצדק. התגובה הרשמית לא אחרה לבוא, והיתה קצרה, לאקונית, והתעלמה לחלוטין מכל סעיפי הביקורת. בעע…

אני חייב לציין שמוזר לי אבל אני מרגיש מעין הקלה מוזרה כשאני קורא שגרסת הווב של מיקרוסופט אופיס 2010 תפתח חינם. זה טוב לתחרות, לפחות יהיה עוד אופיס ענני שיתמוך בעברית. יהיה נחמד לראות את מיקרוסופט עושים מאמץ להיות האנדרדוג המתחנף שמזנב באפל וגוגל, יהיה אפילו יותר נחמד אם עולם התוכנה החופשית יצליח להתברג לשלישיה הפותחת עם פיתוחים משם עצמו. אני למשל אשמח מאוד להתקין לי על השרת גרסה וובית של אופן-אופיס ושלום על ישראל. אני אפילו יותר אשמח אם יהיה איזה כלי וובי לדואל עם טעם עיצובי בכיוון ראונדקיוב שיממש קונספטים של ג'ימייל כמו Sup ויתמוך ביוניקוד וכתיבה משמאל לימין.

כאמור ההתמכרות למנשק המשתמש הגאוני משמעותה שאנחנו לא יכולים לעזוב אותם בלי לוותר על משהו, וזה נקרא Vendor lock-in, אחד הדברים שתוכנה חופשית היתה אמורה למנוע, ונשאלת השאלה כמה אתה מוכן לוותר עכשיו. מה הוא הקו האדום שבו אומר די? אינני יודע בבירור בעצמי, אני כבר מרגיש מזמן כצפרדע בסיר מתחמם, רק שכידוע, צפרדע אמיתית קופצת מהסיר ולא נשארת להתבשל בו. לכם יש קו אדום?

ונסיים עם חיוך, "שיר הגוגל" של אלתרמן:

Singularity University

האם זה אוקסימורון מתחכם או רצינות תהומית? Singularity University היא היוזמה החדשה שדוחף ד"ר ריי קורצוויל, העתידן והממציא, אחד מהאנשים שדחפו במרץ רב בשנים האחרונות את הנושא (ולפעמים זוכה גם לביקורות לא קטנות). מהי הסינגולאריטי? ובכן מדובר ברגע ההיסטורי שיבוא מתישהו אחרי שמערכת מחשב תעמוד בקריטריונים או אף תעקוף את המוח האנושי במבחני אינטיליגנציה כללית.

כמובן שמי שחובב מד"ב דיסטופי מיד קופץ כנשוך נחש וצווח "אמא'לה, SkyNet!", אבל זה יהיה פשטני מדי. מדענים בצד הפיסי/רפואי בונים כבר דגם מלא של גזע מוח של עכבר בסימולצית תוכנה, ובקרוב מוח שלם, משם "קצרה" הדרך ליונקים גדולים יותר ועד לאדם. מהצד השני חוקרים אנשי תוכנה איך לזייף אינטיליגנציה עד שתהיה אינטיליגנציה של ממש. לקח הרבה שנים כדי להגיע למסקנה שהיום נשמעת כמעט טרוויאלית: כנראה שאי אפשר להתחיל ממערכת מומחה כמו תוכנות השחמט הטובות בעולם, ולהסיק מהן משהו על תבונה מלאכותית כללית (AGI = Artificial General Intelligence). הרי "כחול עמוק" או "מחשבה עמוקה" או איך ש־IBM קראה לו (וקספרוב לא רוצה לשמוע עליו יותר) מנצח את כל העולם בשח אבל הוא שחקן שש-בש גרוע ביותר, וגם לעשות קפה אינו יודע. בסיפוריו של אסימוב היו המוחות מגיעים עם מסד נתונים כברירת מחדל מהמפעל, אבל משהו שונה ומקורי היה בסיפור אחד, שבו "מוח פוזיטרוני" אחד התחיל במצב "ריק כמו תינוק" ולמד מסביבתו, כולל חוקי מוסר בסיסיים. היום אנחנו יודעים שכדי להגיע ל־AGI שכזה, מאוד יכול להיות שלהעמיס ניתוח סמנטי של כל הבריטניקה לא יספיק, והמערכת צריכה להיות באינטראקציה עם העולם – ללמוד מאיך שפעולותיה משפיעות על סביבתה ואיך הסביבה מגיבה חזרה. יש חוקרים שכבר היום מתחילים לבחון מערכות לומדות שכאלו ע"י חיבור הקשר שלהן לעולם הסובב ולראות איך הן לומדות לא רק מהתכתבות טקסטואלית, ע"י זה שהם "שותלים" את הישות שלה בצורת כלבלב או תינוק בתוך סקונד לייף, ונותנים ל"מקומיים" להיות איתה באינטראקציה.

אז איך יראה עתיד שכזה, שבו האדם אינו הייצור האינטיליגנטי ביותר על הכוכב? הנקודה שבה נבנה מכונה מספיק אינטיליגנטית כדי לתכנן את הדור הבא של עצמה כמעט בלעדינו? האם אינטיליגנציה כזו תבין רגשות? האם היא תמצא לנו פתרונות למשבר המשאבים שיצליחו להתמודד גם עם כל הקשיים התרבותיים והדתיים? ופתרון מאזן האימה הגרעיני? האם היא תעלה על שיטות מתמטיות לפצח את כל סוגי הקריפטוגרפיה המקובלים בשוק או שמא להפך, תוכיח מי מהם החזקים והראויים לשימוש, או שתמציא חזקים וטובים מהם?

האם היא תתפתח למצב שנפתרות לנו חידות מדעיות בקצב יותר מהיר משנוכל להבין את הפתרונות? קורצוייל גורס שכן, וביום שזה יקרה – כשפיתוחים מדעיים מיושמים בקצבים העוקפים את יכולתנו להבין אותם, זו היא נקודת הסינגולריטי, כשהמין האנושי יתקדם בקצב יותר מהיר ממה שהוא מסוגל להבין אפילו. לפחות לא בלי הרבה עזרה מלאכותית של הרחבה או החלפה של הגוף והמוח הביולוגיים.

ואני לא נכנס אפילו לקטעים המוסריים של מכונה עם מודעות עצמית, האם מגיעה לה אזרחות וזכויות עצמאיות, או מה אם היא תבחר באמונות אנושיות כדרך עדיפה, או אולי תתכנן עקונות דת שיעזרו לנווט את המין האנושי למקום חדש. מה תהיה המשמעות הרוחנית שיעניקו לתוכנה/תבונה הזו אנשי רוח היום שיקבלו תובנות מעניינות מרעיונות רוחניים שיהגה מוח אלקטרוני? האם יפסלו אותה ואת עצותיה אנשי דת כחסרת נשמה או שמא יחזרו בשאלה או אולי יאשימו אותה בדיבוק?

קורצווייל גם מעריך כי לפני שנגיע לשלב הזה יהיו נאנובוטים שיעשירו את יכולותינו הטבעיות – פיסיות וקוגניטיביות – במצב כזה יצורי כלאיים קיברנטיים כמו "הבורג" של STTNG כבר יראו ישנים ומגוכחים, כי הקיברנטיקה תזרום לנו במחזור הדם, אבל גם חלקי חילוף גדולים יעברו מהפכה תפיסתית (ובתחום המאוד רחב הזה, הציצו על הרצאותיהם של קורצווייל עצמו ושל מאלינס המקסימה). נאנובוטים בדם שמעשירים אותנו יכולים גם לפגוע בנו אם איננו יודעים מה מקורם – אז האם אלו סמים טובים או רעים? יש עוד המון שאלות פתוחות.

השאלה הנוספת היא כמובן מתי זה עלול לקרות, והעוסקים בתחום מעריכים שהנקודה הזו תקרה תוך 10-20 שנה. זה לא הרבה זמן להתכונן למהפכה שדבר כזה עלול לגרום, ולכן קורצווייל לא מסתפק יותר בועידה שנתית, אלא פתח "אוניברסיטה" בשטח בסיס נאסא בעמק הסיליקון והכריז עליה לפני חצי שנה. במקום אפשר יהיה ללמוד מטובי הרעיונאים והחוקרים בתחום קורס קצר או תכנית שלמה, על כל האספקטים של מדעים מדויקים, סוציולוגיה, פסיכולוגיה, וכל מה שבינהם, כולל לדון באפשרות (הנראית פחות ופחות אפשרית) שהסינגולאריטי לא יגיע לעולם. בקרוב הסרט.

האנשים החכמים נפגשים לועידה שנתית שאפשר לראות או לפחות לשמוע ברשת (2006, 2007, 2008 ועוד פודקאסטים ב־ITC), אבל האוניברסיטה מיועדת לרכז ולהרחיב את המאמצים. בעיטת הפתיחה היא תוכנית קיץ מיוחדת (ואני מקווה שלא חד פעמית) – 9 שבועות קייטנה רב-תחומית לטובי החוקרים שהגישו בקשות מכל העולם. 40 איש ואישה מכל העולם שיקבלו מלגה מלאה להגיע לעמק הסיליקון וללמוד, לדון ולהפיק אולי גם ניירות עם טובי המוחות מתחומי המדע השונים. 40 מוחות מצוינים ומגוונים שנבחרו מבין עשרות ואולי מאות אלפים של מועמדויות שהוגשו, והשבוע נדע מי התקבל…

Across cultures, classes, and aeons, people have yearned to transcend death.

Bear that history in mind as you consider the creed of the singularitarians. Many of them fervently believe that in the next several decades we’ll have computers into which you’ll be able to upload your consciousness—the mysterious thing that makes you you. Then, with your consciousness able to go from mechanical body to mechanical body, or virtual paradise to virtual paradise, you’ll never need to face death, illness, bad food, or poor cellphone reception.

Now you know why the singularity has also been called the rapture of the geeks.

— Glenn Zorpette , Waiting for the Rapture