על הזכות לזהות עמומה

לקוראי הותיקים אין פה כל חדש. אני רק מרכז לפוסט אחד את סיפור תמונת רשיון הנהיגה שלי בעקבות הפוסט של עידוק מהיום, כשגיליתי שקצת קשה למצוא את הפוסט המקורי עם הסרטון.

כולנו עושים טעויות מחוסר ידיעה. אני מודה שבפעם האחרונה שהארכתי את הויזה לארה"ב (שנת 2000 אני חושב), למרות היסוס מעוצבן, נתתי לבסוף את טביעות אצבעותי (לא זוכר אם 4, 5 או כל 10 האצבעות) לשגרירות ארה"ב בתל אביב. הן נוספו למאגר שכבר רצות שמועות שבחלקו דלף כיוון שמשתפים אותו עם עשרות גורמי ממשלה אחרים (לא רק פדרליים), ומי יודע – אולי נוצל לרעה. זה היה לפני 15 שנה. אי שם לפני כ7 שנים, התחיל להופיע על המכ"ם שלי הנושא של זיהוי ביומטרי והצורך להתנגד לחקיקה שקודמה כקטר דיזל ע"י ח"כ שטרית. לפני 5 שנים עשיתי תרגילים מקוריים אחרים כדי להתחמק מהמאגר הביומטרי של משרד התחבורה, על כך הפוסט הזה. היום אני משתדל להיות אפילו יותר זהיר, ב"עידן פוסט סנואודן", כמו שמכנים אותו בתקשורת.

מזה כמעט 20 שנה התמונות של הרשיונות אינן תמונות מחנות צילום שקונים ומביאים בכיס, כידוע לכם, אלא רשימת מקומות מורשים של משרד הרישוי, חלקם בחניות צילום או אופטיקה, הפועלים תחת רשיון ופיקוח מופרט של חברות כגון מרמנת, אחד הספקים המעושרים. אם יש שירות מופרט, הקבלן הזה (ועוד כמה דומים לו) יעמדו מתחת לחלון המשרד הממשלתי עם כפפת בייסבול ויתפסו אותו. כך הם מפעילים היום את הקורסים לנהיגה מונעת, את עמדות הצילום לרשיון, עמדות הנפקת רשיונות ההנפקה הבינלאומיים (למשל בסניפים של איסתא) ואף את מערך בחינות התיאוריה, וזה רק במשרד התחבורה. למעשה אני לא יודע אם יש שירות של משרד התחבורה מול האזרח שמרמנת לא מעורבת בו היום או תחליף אותו בקרוב.

במסגרת ריכוז המידע של הפעילים נגד מאגר משרד הפנים גילינו שלא מעט ידיים ממששות את מאגר התמונות של משרד הרישוי. למשל, תמונת הרשיון קופצת מול עיני הפקיד במשרד הפנים כשתמסרו לו/לה את מספר הת"ז אם היא חדשה יותר מהתמונה של משרד הפנים. למעשה המאגר מוזכר מספר פעמים בניירת בלמ"סית של משרד ראש הממשלה בגאווה כדוגמא ראויה של איסוף מידע ביומטרי, לקראת ההקמה העתידית של מאגר לכלל האוכלוסיה. לא, משרד התחבורה מתעקש לציין שאין ולא היה שימוש ביומטרי בתמונות, למעשה הם נשבעים ביקר להם שהמאגר לא ביומטרי בעליל, למרות שבמסמכים מצוין שהתמונות באיכות ביומטרית. להדיוטות: תמונה באיכות ביומטרית משמעו שהצילום באיכות טובה לדגימה ביומטרית להשוואה עתידית. הפנים מוארים בצורה אחידה ולא בצל, המבט קדימה ולא בזווית, העיניים גלויות, והרזולוציה כמובן גבוהה. לא ברור אם יש הוראות מיוחדות לגבי לבוש או היעדרו. כל זה מאפשר למשל למרמנת לזהות שאתם אלו שהתייצבתם לשיעורי נהיגה מונעת ולמבחן שבסוף הקורס ולא מישהו בשמכם. כל מי שעבר כזה בשנים האחרונות אולי שם לב שמצלמים את פניו בכניסה לכיתות הלימוד של הקורס, אתם מוזמנים לעשות אחד ועוד אחד. משרד הפנים לא מפעיל פונקציות ביומטריות על המאגר אבל אולי מרמנת כן. המאגר אם כך בידי משרד התחבורה, אבל גם משרד הפנים וגם מרמנת וגם לך-תדע-מי, ולכן למשרד התחבורה אין באמת שליטה אם אחד הגורמים האחרים שקיבלו לידם עותק מפעילים עליו אלגוריתמים שכאלו. ליתר בטחון הם מפגינים פרצופים נפגעים מאוד כשרומזים להם על זה.

מעשה שהיה ב-2009. בעודנו נלחמים בחקיקה המחטפית של המאגר הביומטרי של משרד הפנים בכנסת, התקרב קץ תוקף רשיון הנהיגה שלי. כיוון שמראה משתנה (קרי, המידע הביומטרי מאבד את איכותו אם לא נדגם כל כמה שנים) נקראתי להצטלם מחדש. אם לא אצטלם – כך משרד הרישוי – אאבד את הרשיון ואת הזכות לחדש אותו. למעשה, אצטרך להוציא רשיון חדש כולל כל לימודי ומבחני הנהיגה שאמור לעבור תלמיד תיכון. את הבעיה החלטתי לתקוף בשני מסלולים. הראשון היה לשלוח בקשת חופש המידע לגבי טיבו של מאגר התמונות, השימוש בהם ולמי מותרת הגישה, תהליך שלקח יותר משנה וחצי ופורט בהרחבה פה בבלוג. השני היה להתנזר מגילוח, משל הייתי שמשון הגיבור, במשך מספר חודשים עד יום הצילום, כדי לטשטש מה שיותר פרטים בצילום או סתם לא להיות דומה לעצמי עד כמה שאפשר. ברור היה לי שאקט כזה לא באמת ימנע מהפקת פרמטרים ביומטריים מהתמונה אבל רציתי מחאה. התוצאה – עם מסגרת משקפיים אקראית אצל האופטיקאי (כולל תגי המחיר) שתסתיר את הגבות, פרצוף עקום במיוחד, פזילה בעיניים, לסת משוכה לשמאל וכל הא-סימטריות שהצלחתי לגייס בלי להכאיב לעצמי. קינחתי עם מחאת אורוול קטנה על המצח, הנה התוצאה:

רישיון בפיש-איי

אנשים חשבו ששאבתי השראה מהפסטפארי האוסטרי הזה, אבל האמת היא שאת הסיפור שלו הכרתי רק מאוחר יותר. מי שאולי קצת השפיעו היו הצמד חמד האלו. ניתן גם "לדפוק" את האלגוריתמים של זיהוי הפנים בשיטות של איפור משונה, אבל החלטתי לעצור בזה. למי שעוד לא ראה את התיעוד, שיהיה לכן בהנאה:

עוד על פרטיות בעידן המודרני, הציצו על ההרצאה הזו של עידוק, ויוטיוב כמובן מלא בעוד תופינים, גם מוזיקליים.

העיקר, כל עוד המאגר הניסיוני הזה אינו חובה (כרגע לפחות עד אפריל 2016 כמדומני) מומלץ לא להתנדב לתיעוד ביומטרי. התעקשו על תעודות מהסוג הישן. אנחנו מאוד בעד קדמה ותעודות חכמות, אבל המאגר הוא מסוכן, ועד שאפשר יהיה לקבל תעודות חכמות ללא מאגר, אל תסכימו ללחצים של משרד הפנים!

האם להאמין לאפל?

בשבועות האחרונים היו לאפל שוב שתי פאשלות אדירות בנוגע לפרטיות. האחת שהיתה יותר מפורסמת אבל פחות מעניינת היא שמאות מליוני לקוחות של iThings גילו פתאום אלבום של U2 במאגר המוזיקה שלהם ולא יכלו להסיר אותו (אלא בעזרת אתר מיוחד שלבסוף נפתח לענין). השניה והיותר מפחידה היתה כשאפל התחילה לסגור ללא רחמים חשבונות אחסון ענן (ולהבנתי גם סנכרון אנשי קשר וגישה לחנות היישומונים?) שהעלו את תמונות העירום הגנובות של קייט אפטון, ג'ניפר לורנס ושאר הסלבריטאיות – שמראש נגנבו מחשבונות iCloud פרוצים בעצמן. שיטות פעולה דרקוניות מילא, אבל זה אומר שכל קובץ שאתם מכניסים לתא שלכם נסרק ונבדק, לא רק שמו וגודלו אלא תוכנו המדויק.

כדי לפזר סוכר על הגללים (סליחה, זה לא אני המצאתי, זה ביטוי אמריקני) הכריזה אפל על כך שמהיום בעצם הם שמים את הפרטיות מעל הכל. מיסד EFF ג'ון גילמור מפרט למה לא להאמין להם (מצאתי דרך בוינגבוינג), ואני מתרגם:

> > > לאפל אין דרך לפתוח את ההצפנה של המידע ב־iMessage ו־FaceTime בזמן השידור ברשת בין מכשירים. בניגוד ליישומי העברת הודעות של חברות אחרות אפל איננה סורקת את התקשורת שלכם, ולא נוכל לספק שירותי האזנה לרשויות הבטחון גם אם נקבל צו שכזה. (מתוך הצהרת הפרטיות החדשה)

ולמה אנחנו מאמינים להם?

  • כי אנחנו יכולים לקרוא את קוד התוכנה ותיאורי הפרוטוקולים בעצמינו, ולאבחן כמה הם בטוחים?
  • כי Apple חברה גדולה וחברות גדולות לא משקרות?
  • כי הם ממשו את זה בתוכנה בינארית קניינית והצפנה קניינית היא תמיד חזקה יותר ממה שהחברה טוענת שהיא?
  • כי הם לא יכולים לעדכן בעתיד בסוד את התוכנה במכשיר שלך בצורה שתבטל את כל ההבטחות שנתנו לך, באופן אישי רק לטלפון מטרה מסוים או לקבוצה שלמה?
  • כי לעולם לא תסכים לעדכן את התוכנה מרצונך, לעולם, לא משנה כמה ינדנדו לך שיש עדכונים?
  • כי הגרסא הראשונה הזו של תוכנת ההצפנה שלהם לגמרי נקיה מבאגים כך שלעולם לא תצטרך לשדרג אותה כדי לשמור על הפרטיות?
  • כי אם עדכונים עתידיים דווקא יכניסו באגים באבטחה והפרטיות, נוכל בקלות להבדיל בינם לבין כאלו שיפתרו בעיות מסוגים אלו?
  • כי אם הם ישנו את דעתם ויחליטו לדלל את מדיניות הפרטיות שלהם בשביל נוחיותם או בגלל לחץ ממשלתי סודי, הם בוודאי יודיעו לנו?
  • כי הם עבדו קשה כל השנים למנוע ממך לשדרג את התוכנה שרצה על המכשירים שלהם כדי שאתה תוכל לבחור ולשלוט במכשיר במקומם?
  • כי בירוקרטיית הייצוא של ארה"ב לעולם לא תנסה למנוע מאפל מכירה של הצפנה קניינית לשוק הפתוח שמעבר לגבולות המדינה?
  • כי מדינות שלא נתנו לבלאקברי למכור טלפונים במתקשרים בצורה מאובטחת לשרתים הארגוניים שלך, בוודאי יתנו לאפל למכור כל מכשיר בעל אבטחה גבוהה שבא לה?
  • כי אנחנו מעריצים שרופים של החברה והם לעולם לא יכולים לטעות?
  • כי הם רוצים לעזור לטרוריסטים לנצח?
  • כי ה־NSA עצבנו אותם פעם אחת ולכן הם לצד הקהל הרחב נגד ה־NSA?
  • כי תמיד עדיף לשים האזנות לאנשים אחרי ששכנעת אותם שהם מאובטחים לגמרי, כדי שישפכו את הסודות הכי כמוסים שלהם?

יש עוד איזו סיבה, אני לא מצליח לחשוב עליה כרגע…
ג'ון.

למען השלמות, אני אוסיף שגם אנדרואיד כפי שהוא מגיע מסוגר מיצרנים כמו סאמסונג ואל-ג'י, חולים באותה המחלה. כדי להיות בשליטה אמיתית ומלאה על המכשיר שלכם, צריך לעשות ניתוחי כריתת תוכנה כואבים ולהשתמש בהם באופן זהיר. אין מה לעשות.

שלום כיתה א'

אין לי בדיוק ילד לשלוח היום משלי, אבל יש לי בת זוג מופלאה עם ילדה חלומית, ואותה שלחנו היום ברגשות מעורבים. האם המערכת הזו תטפל או תקלקל? תפריח או תזניח? תטפח או תקפח? אנחנו נהיה פה בסוף היום לעשות השלמות ותיקונים, אבל מניסיוני, הכל תלוי באישיות של המורה, ולגננת ממנה נפרדנו היו נעליים ענקיות למלא… בקיצור, אם אלו הפרפרים שלי יש בבטן, אני לא מקנא בשרוני.

הטקס היה חמוד אבל ארוך ובשמש, אבל לצערי נאום המנהלת כלל יותר אזכורי נופלים ב"צוק איתן" (הי"ד!) ושיווק של "צבענו, סידרנו, שיפצנו" מאשר מילות עידוד לקטנים. בכיתה מתנוססות תמונות הרצל ליד ביבי, רובי וגנץ, ליד ארץ ישראל שלמה למדי, כולל עזה. אני מנחם את עצמי שבמערכות החינוך האחרות בארץ האינדוקטרינציה יותר חזקה, אבל אז המנהלת מפרטת את סדר היום. "אחרי שנפרדתם מהילדים בכיתות, הלכנו לראות איתם את המקלטים, ובהמשך היום נתרגל איתם ירידה למקלטים מאמצע שיעור, ואח"כ נתרגל גם איסוף למקלטים בזמן הפסקה". בין הכיתה לבין הטקס עוד הושיבו כל כיתה א' בחצי גורן כדי לתת להורים הזדמנות צילום, חלק מהילדים לקחו מההורים את הסמארטפונים כדי לצלם חזרה את ההורים המתרגשים, ההורה שני שולף את הסמארטפון ומצלם את הילדה שמצלמת אותו ואת אמא, ובסוף הילדה גם עושה סלפי. ברוכים הבאים לשנה"ל התשע"ה.

Have you written to the FCC today?

Just posted this on Dear FCC:

Dear FCC,

I'm Ira Abramov and I live in Ramat Gan, Israel.
Net neutrality, the principle that Internet service providers (ISPs) treat all data that travels over their networks equally, is important to me because without it My freedoms of expression, usage and being informed are hurt.
A pay-­to-play Internet worries me because new, innovative services that can’t afford expensive fees for better service will be less likely to succeed.
My entire professional and activist life is based on the ability to learn through the net, communicate with and activate people through it. It's the real land of equal opportunities that can't be matched today by political and pricey educational systems. It's like taxing pedestrians for walking certain streets, reading the signs and walking to stores. It is an unfair and unjust tampering with an important public resource.

Sincerely,
Ira Abramov

Feel free to post your own plea!

טלפון מהבנק

התקשרו אלי מהבנק, אומרים לי שהם רואים שאני עובד אצל (כך וכך) כי משם נכנסת כל חודש משכורת, ושואלים אותי מה תפקידי שם.

למה? כי הם "מעדכנים נתונים במחשב".

אבל מה אכפת לכם מה אני עושה שם, אני שואל שוב. נעניתי שבנק ישראל הוריד הוראה לאסוף את הנתונים האלו, אחרת בראשון לאוגוסט מקפיאים תנועות בחשבון. אז מה תפקידי בחברה?

אמרתי שלא עניינם אם אני מהנדס או מנקה רצפה, שזו חוצפה מצד בנק ישראל לדרוש דברים כאלו, שאני מכניס משכורת נאה ולא נכנס למינוס ומעבר לזה זה לא צריך להיות להם אכפת, ואני מבקש שלא יעדכנו את הרישומים שלהם, כי אני מת לראות מה יקרה לחשבון שלי בראשון לאוגוסט. בשלב זה הפקידה נכנסה ממני ללחץ, טענה שאני תוקף אותה (חבל שזה לא מוקלט) והודיעה לי שהיא תעדכן "עובד חברה" וזהו. ביקשתי ממנה שנית שלא תכתוב שם כלום כי אני מרותק לראות מה יקרה בראשון לאוגוסט, אבל היא נדרשה ע"י מנהלת הסניף לנתק ולהפסיק לבזבז זמן על הנודניק.

מה דעתכן?

מדע ומוסר

יותר מדי פעמים אני נתקל ברחבי הרשת במגיב או בלוגר שמבלבל בין מחקר מדעי ויישום הנדסי. מחקר מדעי הוא אכן פרויקט (שאמור להיות) פתוח ושיתופי. אידאלית ללא סודות מקצועיים, גאווה ודעה קדומה, אבל עוסקים בו אנשים, לטוב ולרע, עם אגו ואינטרסים. מדען טוב בעיני הוא אדם ששם בצד את האגו והדעות הקדומות, מנסה ללכת אחרי האמת שמצטרפת מהראיות, לומד על הכשלים הקוגניטיביים של חשיבה אנושית ומנסה לפתח שיטות להעלים את השפעתם מתהליך המחקר. הבעיות המוסריות בתהליך הזה הן בעיקר איך לחקור דברים בלי להרוס עותקים ייחודיים של הנחקר – למשל יש לנו רק כדור ארץ אחד לחקור בו אקולוגיה והתחממות גלובלית, בניגוד למחקר על תפקוד מוחות של בעלי חיים נחותים שאפשר להשיג במאות (אני מקווה שעכברים ולא קופים, עד כמה שאפשר). במחקר על בני אדם, יש גם בעיות מוסריות רציניות בכל הנוגע לניתוח בגוף חי או הדבקתו במחלות ומשחקים בגנטיקה שלו. לכן מנסים לחקור מודלים (מבוססים בצורה מוצדקת בהתאם למה שחוקרים) על חזירים ועכברים ושאר חיות מעבדה, בהתאם לנושא הנחקר. אני לא חושב שזה אומר שחוקרים בטעות את הדימוי במקום את הנושא עצמו ומשליכים – את זה אולי עושים בסיינטיפיק טמקא בלי להבין את המחקר המקורי (אבל נכון שלפעמים יש גם מחקרים גרועים, ולכן חייבים תהליך מבוקר של בדיקת עמיתים).

לכן, אחד הכיוונים להגדיר את תהליך החקירה המדעית, או השיטה המדעית זה „איך לא לעבוד על עצמינו” או „איך להוציא את עצמינו מהמשוואה”. אנחנו לא מייתרים את תופעת החיים כפקטור, אלא מנסים לבטל את השגיאות הקוגניטיביות שלנו כחוקרים כדי להגיע למידע ומסקנות אובייקטיביים על הנחקר, ללא דעות קדומות והנחות מוטעות. יש תחומים שלמים של מחקר לגבי איך נכון לתכנן ניסויים בכל תחום, במיוחד במקומות שבהם המחקר עלול להזדהם – אם רעיונית, או ע״י חיידקים או כל גורם חיצוני אחר שיפריע להגיע למסקנות.

אחרי שיש לך מסקנות ביד ואתה יודע להעריך "מה יקרה אם אעשה כך וכך", אתה יכול לקחת את הידע הזה וליישם אותו בהנדסה, לפתח אתו טכנולוגיה, חומר וכולי. במילים אחרות המדען יגלה איך לשחרר אנרגיה מפיצול האטום, המהנדס יקבל את ההוראה (מאינטרסים כלכליים, פוליטיים או אחרים) להשתמש בידע הזה לבניית כור אטומי להפקת חשמל נקי או לייצור פצצה שתרצח מליונים. החלטות מוסריות קיימות בתהליך המחקר בכל שהוא נוגע לצרכים של התערבות בחיי אורגניזמים אולי, אבל האחריות הכבדה יותר נופלת על היזם והדוחף שמעסיק את המהנדס, להוציא לשוק מוצר טכנולוגי שעלול להזיק לאנשים או לחברה האנושית במעגל קטן או גדול של משתמשים וכולי.

כמו שמדען צריך לאמן את עצמו בחשיבה לוגית „קרה” ולהשקיט את דעותיו הקדומות והאגו, כך גם נבחר ציבור ומנכ״ל או בעל עמדת החלטה צריך אי אילו מנגנונים שיפקחו עליו שיעשה את הדבר האחראי. לכן יש חוקים, רגולציות ושאר מנגנונים, וזה אף פעם לא מושלם אם זה מגיע רק מבחוץ. כאן יש שאלות מוסריות – האם להתערב בחינוך ולעורר אחריותיות מגיל צעיר, או ללכת לכיוון הליברטני ולהשאיר את החינוך להורים, ולסמוך על כל האנשים לפתח לבד חוש מוסר והבדלה בין טוב ורע. לא חסרות דוגמאות של ציניות שלווה של מוכרי מוצרי נפט, סיגריות, אוכל שמן ושאר דברים מסוכנים לחברה, הפוליטיקאים מתווכחים אם ראוי לעצור את זה ברגולציה, אף אחד לא מדבר על חינוך לאחריותיות. בנקודה הזו, כרציונליסט שרוצה לעשות את הבירור הערכי שלו, אני רוצה לקבל מידע – האם חינוך כזה קיים? האם הוא עובד? האם הוא מיושם בצורה כלשהי בעולם ומה ההשפעות? האם יש תרבויות שבהן זה יותר חזק ואיך אפשר לשנות את התרבות שבה אני חי להיות דומה יותר לתרבויות האלו? אלו שאלות שמדע יכול לחקור ולענות לי עליהן, בשיתוף עם שקיפות שלטונית וניהולית של גופים פרטיים וציבוריים. לכן כרציונליסט אני נלחם גם למען חופש מחקר, גם לחופש מידע מדעי וגם לחופש מידע ציבורי (=שלטוני). אין לי איך לדרוש מהנבחרים שלי אחריות לעשות את הדבר הנכון כשגם לי וגם להם אין גישה למידע שייתן לנו לשפוט.

אז עכשיו לשאלה הבאה: האם יש למדע מה להגיד לנו בנושא מוסר? האם יש בכלל מוסר אבסולוטי לחקור אותו? יש ענף שלם למחקר מתודולוגי ואקדמי של מוסר והוא נקרא „אתיקה”. אפשר לראות איך אנשים מגיעים להחלטות, איך הם מתמודדים עם סתירות ובונים ראיית עולם קונסיסטנטית, ויש מתמחים בתחום של ביו אתיקה, או אתיקה של חינוך וכולי עוד הרבה תחומים שראויים להיחקר. אם תשאל אותי, גם ספרות ספקולטיבית (ובמיוחד מדע בדיוני) הם מעין כלי מחקר כאלו בצורה מעניינת – אנחנו יכולים לחשוב „מה היה אם” ולהגיע לכל מני מסקנות, ולראות אם זה תואם את ראיית העולם שלנו. תרגילי מחשבה זה דבר מאוד חזק, ועד כמה שידוע לנו, אנחנו החיה שעושה את זה הכי טוב מכל יצור חי אחר על פני הכוכב, אבל זה מנגנון לא מושלם, וצריך לפתח גם כאן מתודולוגיות, איך לא לדמיין עתיד תוך הטיה של המסקנות שנובעות מדעות קדומות… 🙂

אז האם המדע מכתיב מוסר? לדעת סאם האריס כן (אתם מוזמנים לחפש הרצאות שלו ברשת, לא צריך לרוץ לקנות את הספר), אבל לדעתי לא בדיוק. לדעתי אתה צריך להחליט על כמה אקסיומות והמדע יעזור לך לבחור את תורת המוסר שלך. למשל אני בוחר כאקסיומה, אקראית לגמרי וסובייקטיבית לחלוטין, שטוב שהמין האנושי ישרוד וישגשג. אני יכול לשאול עכשיו אם אני רוצה קידמה טכנולוגית או לא, אם החלטתי שכן אני יכול עכשיו לשאול האם ראוי להאריך את חיי האדם הממוצע, למרות שהמדע אומר לי שיהיה פיצוץ אוכלוסין. אני יכול אז לשאול מה הן השיטות האפקטיביות לשמור על אוכלוסיית האדם בגודל קבוע, בצורה שלא תפגע בזכויות הפרט ותראה איך במשפט וחצי כבר הגעתי לדיסוננס קוגניטיבי. אני רוצה שלאנשים יהיה את החופש להביא עשרה ילדים למשפחה, אבל אני גם יודע שזה יעיק על המשאבים ויגרום לסבל לדורות הבאים. המדע יכול לעזור לי לדמיין מה יהיה במורד כל מסלול שאבחר, אבל הוא לא יכול להחליט לי מה יותר נכון. החלטות מוסר הן בסוף עניין מאוד "אורגני" ואנושי שלא יכול להיות רק קר ויוטיליטארי, זה לא עניין מדעי נטו, אבל חייבים ידע ומודעות כדי לבחור נכון. בחירות ללא ידע ומודעות לרוב גורמות לחזור על טעויות העבר, אני בטוח שמישהו כבר אמר את זה באיזה נוסח…

אז זו התשובה שלי לפעם הבאה שמישהו יגיד לי שהמדע יכול להכתיב מוסר בדיוק כמו ציווי אלוהי/דתי: אמממממ… לא. אנשים בוחרים סובייקטיבית לאילו עובדות מדעיות בא להם להקשיב ויכולים למצוא לעצמם ציטוטים מדעיים חלקיים כדי לגבות את הרצונות האישיים שלהם, אבל את זה עושה גם כל דת ביחס לדברי מקימיה וכתביה, כולל אפילו דתות חדשות כמו מורמוניזם או דנדשות מהאריזה כמו סיינטולוגיה.