סינגולריות |

דת חדשה במסווה מדעי

כשבוחנים לעומק את חזון הסינגולריות, מתברר שהוא מושתת על 
יסודות מדעיים רעועים למדי. זה לא אומר שלא גלומה בו סכנה לאנושות

כרמל וייסמן
כרמל וייסמן
שתפו כתבה במיילשתפו כתבה במייל
שתפו כתבה במיילשתפו כתבה במייל
כרמל וייסמן
כרמל וייסמן

האמנם אנו חברה על סף אירוע הסינגולריות הטכנולוגי, או שכל הסיפור הזה אינו אלא תעתוע, פאטה מורגנה וירטואלית במדבר של הממשי? מודעות, תודעה וחשיבה, יצירה ויצירתיות, אהבה ורגשות אחרים שהם המהות, המרקם והטעם לחיינו, הם נסים ונפלאות שאנו רחוקים מאוד מפענוחם. אם כך, מה גורם לנו לחשוב שאנחנו מסוגלים לייצר אותם במעבדה או לפחות לשכפלם בהצלחה? לשם מה באמת ראוי להתאמץ לעשות זאת, ובאיזה מחיר?

בשנות ה־90 נחשפה חוקרת ספרות המדע הבדיוני פרופ' קתרין היילס לספר "ילדי מוחנו" מאת האנס מוראבק. זהו הספר המדעי הראשון שבו נשקלה האפשרות של העתקת מוח אנושי והעלאתו למחשב כתיאוריה מדעית, והיילס סירבה להאמין שמדען מכובד מתייחס ברצינות לרעיון שמקורו ומקומו במדע הבדיוני. היילס יצאה למסע של עשור בעקבות הגבול המיטשטש בין המדע הבדיוני למדע, במטרה לקעקע את הקשקוש הזה אחת ולתמיד.

לא צריך להיות פרופסור כדי להבין מדוע דור שלם של מדענים שגדל על "סטאר־טרק" מנסה לכופף כל תיאוריה אפשרית כדי לבנות מכונת זמן או לפחות משגר שיפקסס אותנו לירח. אבל היילס עשתה יותר מזה: היא חקרה את ההיסטוריה של הקיברנטיקה, תיאוריית המערכות שעל עקרונותיה מתבססות כל תקוותינו לעתידים טכנולוגיים, והראתה שהסינגולריות ודומותיה יושבות על ענף רעוע של פסבדו מדע.

בנדיקט קמברבאץ' ב"משחק החיקוי". מה מגישי הפרסים יעשו עם שמו?צילום: אי־פי

הקיברנטיקה, שהתפתחה בשנות ה־50, היתה התיאוריה הראשונה שניסתה להיות "תיאוריה של הכל", שביכולתה לזהות ולהגדיר עקרונות משותפים לכל סוג של מערכת – חיה או דוממת, אורגנית או טכנולוגית, ברמת הגוף הבודד או היקום כולו. זו היתה בעיקר תיאוריה מתמטית של תקשורת שעבדה יפה על רשת הטלפוניה של אותם ימים, אך לא היה בסיס מדעי שניתן היה להישען עליו כדי להשליך מכך על מערכות חיות אחרות. למעשה, בשדה האקולוגיה כבר הצליחו להפריך את עקרונותיה של תורה זו. עם זאת, בכל מה שקשור לבני אדם, הרעיונות הקיברנטיים היכו שורשים, מעבר לכל היגיון, עד כדי כך שאפילו היילס כבר נואשה מלהיאבק בהם ומתייחסת אליהם כיום כאל אמונה דתית.

העיקרון המרכזי שקעקעה היילס הוא הרעיון שזהותנו היא סוג של "מידע" שניתן לתפוש, להעתיק, לשגר ולהפריד משאר גופנו, על בסיס האנלוגיה בין מוח האדם למעבד מחשב. והנה, בעוד שהבסיס המדעי לרעיון זה נשמט, הרעיון עצמו גרף פופולריות עצומה וכיום מהווה כמעט אקסיומה במדע הבדיוני ובשיח הציבורי.

אני מזהה כשל לוגי נוסף שמלבה את אש האשליה הזו. במערכת קיברנטית לא צריך להבין מהותית כל חלקיק אלא רק את הפונקציה שלו, ולכן אפשר לנסות להחליף רכיב במשהו אחר – השתלת איבר טכנולוגי או כזה שלקוח ממערכת חיה אחרת, גם אם היא אינה אנושית – כל עוד יש תפקוד סביר והמערכת שורדת ומסתגלת. הקיברנטיקאי גרגורי בייטסון היה אנתרופולוג בהכשרתו, אבל עסק בכל דבר מפסיכיאטריה עד זואולוגיה, כי הכל "עובד על אותו העיקרון", ולכן לדידו, לא צריך באמת להבין כלום מעבר לקשר בין חלקים במערכות. אין להכחיש שתיאוריה זו גרמה לתעוזה שקידמה את המדע, אך כמה פעמים נצליח להכניס את האצבע לשקע בלי להתחשמל? ומה אם ננסה ללכת רחוק יותר ולהרכיב מכונה מאפס, אדם ביוני? באיזה מובן זה יהיה בכלל דומה לחיים אם לא טרחנו כלל להבין מהם חיים, והסתפקנו בלוודא שזה "עובד"?

פרופ' ריצ'ארד דוקינס. ממבקריה הבולטים ביותר של הסינגולריותצילום: VIA BLOOMBERG NEWS

אלן טיורינג, פילוסוף הבינה המלאכותית הראשון, שנחשב לאבי המחשוב ולחוקר במסורת הקיברנטית, הודה שאין באפשרותו להבין מהי חשיבה או בינה, אך טען שמכונה תיחשב לבעלת תבונה אם יצור תבוני אחר יהיה משוכנע בתבונתה. לשיטתו של טיורינג, חיקוי מעולה של תבונה = תבונה, פשוט כי אין שום דרך להבדיל ביניהם במבט מבחוץ. זהו לב העניין – זוהי התבוננות חיצונית, שמכחישה סובייקטיביות ומשטחת מודעות פנימית. כשמכונה העשויה אלגוריתמים־לומדים אומרת שכואב לה, איך נדע שלא התפתחה בה היכולת לכאוב באמת? מובן שלא נדע, וכל תשובה שתנסו למלמל לשאלה הזו תזרוק אתכם לתחום הרוחני, המופשט והבלתי מדיד.

בבסיסה של הקיברנטיקה עומדת מתמטיקה טהורה, ואילו העובדה שמתמטיקה, כמו שפה, היא מערכת ייצוג בלבד – נשכחת. פרויקטים מדעיים רבים השנויים במחלוקת כיום, כמו פרויקט המוח הכחול, מדברים על שכפול המוח האנושי, אף שהלכה למעשה אין זו אלא סימולציה, ייצוג מתמטי של פעולות המוח. המתמטיקה היא וירטואלית בלבד אך בעקבות הקיברנטיקה התחלנו לתפוס אותה כאונטולוגיה, כממשות. חיקוי מוצלח מאוד של חיים לא יהיה מספיק שונה מחיים כדי שיהיה אכפת לנו מזה. כשזה נראה כמו ברווז, נשמע כמו ברווז והולך כמו ברווז, לא נוכל לטעון שזה שונה מברווז אלא אם יש לנו תשובה מקיפה ומפורטת לשאלה "מהו ברווז?". על אותו משקל, מכיוון שאין לנו תשובה סופית לשאלות מהו אדם, מה זה "אנושי" ומהם בדיוק חיים, סביר להניח שנייצר משהו שייחשב לבינה מלאכותית מנקודת מבטנו, אך מנקודת המבט של היקום והאבולוציה יהיה לא יותר מצעצוע משעשע.

עיקרון נוסף שבייטסון האמין בו הוא שרוח היא תכונה נוצרת של החומר, ולכן בכל מערכת המצייתת לחוקי האבולוציה תתפתח בסופו של דבר תודעה, כמו שקרה לאדם. רעיון זה משמש כבסיס המדעי למסורת של רובוטיקאים, היוצרים מכונות בעלות אלגוריתמים הלומדים על פי עקרונות אבולוציוניים. זאת, מציפייה שמודעות המכונה "תגיח" מאליה. אז אולי בעוד מיליוני שנים, שואב האבק הרובוטי שלכם המצויד באלגוריתם מתמטי המחקה את הנוסחה האבולוציונית, יהפוך מודע לעצמו ויתמרד נגדכם? נראה לי שאתם מתחילים להבין היכן יש משמעות להבדל בין ייצוג מתמטי של חיים לחיים של ממש, ומדוע אין בסיס מדעי תקף לחשש ממרד הרובוטים הקרב ובא.

תיאוריית האבולוציה מגויסת אף היא למערך ההסברה של הסינגולריות, כדי לספר לנו שייתכן שהאדם אינו פסגת היצירה האבולוציונית ושהיקום ממשיך להתפתח דרכנו אל הפסגה הבאה שלו – הרובוט או הסייבורג שאולי יהיו היצורים הנעלים מאיתנו שירשו את כדור הארץ. מומחי אבולוציה כגון ריצ'ארד דוקינס וסטיבן פינקר הם ממבקריה הבולטים ביותר של הסינגולריות, שכן המהלך האבולוציוני שהיא משרטטת אינו מתרחש מאליו, אלא בהתערבות בוטה ומכוונת של האדם. ואכן, מבשר הסינגולריות ריי קורצוויל אינו אומר "יום יבוא", אלא במו ידיו מביא את היום: בשנים האחרונות הוא מכהן כסמנכ"ל בגוגל ואחראי למהלכיה המהפכניים הכוללים את רכישת חברות הרובוטיקה המתקדמות בעולם. אז אם נדייק, הסינגולריות אינה תופעה מדעית ההולכת וקרבה, אלא חלום מגלומני שנדחף לנו בדלת הקדמית על ידי אנשים ספציפיים שיש להם את המשאבים להגשימו.

למעשה, כל המהלך האבולוציוני שקורצווייל משרטט בספרו "הסינגולריות מתקרבת" הוא פלגיאט מדויק של הכומר הישועי והמדען תייאר דה שארדן, שחיפש דרך לפשר בין הנצרות לאבולוציה. שארדן הגה פילוסופיה אלגנטית שמצדיקה את המשך הרלוונטיות של הדת בעידן המדעי, וזה בדיוק מה שהסינגולריות מספקת לנו בעידן הזה: תחליף לדת, חזון של התעלות, אפשרות של חיי נצח, מיתוס בריאה וקורטוב של פולחן אישיות, שאדם חילוני אינטליגנטי יכול להאמין בו, כי הוא עטוף באצטלה מדעית. האדם מחפש משמעות והנה הוא מצא: להתעלות על עצמנו, להיות לאל ולברוא חיים בצלמנו ובדמותנו.

"אז מה?" תשאלו, "איש באמונתו יחיה. שינסו. לכל היותר ייכשלו וייווכחו שהאדם הוא מסתורין וינוחו קצת עד לתיאוריה הבאה". אכן, מאז ומעולם המדע התבסס על אנלוגיות עד שהופרכו, וזו מהות השיטה המדעית. אלא שלניסיון ההובלה של תרבות שלמה בעקבות חזון שגוי ולא ראוי יש מחיר, והפעם, כשמדובר בסוגיות של מהות האדם, האנושיות והחיים עצמם, המחיר עלול להיות הכחדה.

למרבה האירוניה, טיורינג למד את המחיר הזה על בשרו. לפני שהאנלוגיה לגוף האדם היתה מחשב, היה זה מנוע הקיטור – נותרו לכך שיירים בשפה שלנו, כמו "להוציא קיטור" ו"לשחרר לחץ". אנלוגיה זו תרמה להבנת רבדים מסוימים בתפקודנו אך היא היתה מוגבלת. גופנו אינו זהה למכונת קיטור ולכן בשנות ה־50 בבריטניה, כשניסו לרפא את טיורינג מנטיותיו ההומוסקסואליות באמצעות מתן הורמונים נשיים לשם "השוואת לחצים" במערכת המינית – הנחת העבודה היתה מופרכת מהיסוד. בספרו "אתה לא גאדג'ט", מפנה ירון לניר את תשומת לבנו לעובדה כי באותם ימים שבהם הגה טיורינג את רעיון הבינה המלאכותית, הוא גם התמודד עם השלכותיהם של טיפולים אלו, וסבל ממשבר זהות עמוק שבעקבותיו גם התאבד. טיורינג שילם את מחירה של תיאוריה מדעית מופרכת המבוססת על אנלוגיה, והותיר לנו אנלוגיה חדשה – המחשב. אנלוגיה זו עוזרת לנו לחשוף עוד טפח מהמסתורין שהוא אנחנו, אבל כמו קודמתה, היא רק אנלוגיה, והיא מוגבלת. אם נתפתה לשכוח זאת, הפעם כולנו נשלם את המחיר.

ד"ר כרמל וייסמן היא חוקרת תרבות וטכנולוגיה במכון כהן להיסטוריה ופילוסופיה של המדעים באוניברסיטת תל אביב

תגובות

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר TheMarker

כתבות שאולי פספסתם

לס נייט הכחדה אנושית מרצון

"נחיה חיים ארוכים ואז ניכחד": האיש שרוצה שלא יהיו יותר אנשים בעולם

FILE PHOTO: Twitter logo and a photo of Elon Musk are displayed through magnifier in this illustration taken October 27, 2022. REUTERS/Dado Ruvic/Illustration/File Photo

כיכר העיר המטורפת של אילון מאסק עוד עלולה להרוג אותנו