האסון הנורמלי של צ'רנוביל

הלקח של צ'רנוביל רלוונטי מתמיד: אם אתה בונה מערכת שנועדה לשרוד בתוך אקוסיסטם טבעי בעל תכונות של ארגון עצמי - כמו למשל השוק החופשי, או מערכת הנדסית מורכבת הנמצאת באינטרקציה עם העולם ותלויה בבני אדם לתפקודה התקין - אתה חייב לקחת בחשבון משבר קיצוני

שתפו כתבה במיילשתפו כתבה במייל
מעבר לטוקבקים
צילום: צילום: HBO / באדיבות

בליל ה-26 באפריל 1986 כאשר שרשרת אירועים עומללים גרמה לפיצוץ אדיר בליבת כור מספר 4 בתחנת הכח הגרעינית צ'רנוביל, לספר "אסונות נורמליים" מאת הסוציולוג האמריקאי צ'ארלס פירו כבר מלאו שנתיים. הספר למעשה היה "הכתובת על הקיר" שחזתה את האסון, גם אם הקיר היה מצידו הלא נכון של מסך הברזל.

בבהלה המאופקת שפקדה את צמרת המפלגה הקומוניסטית והפעלתנות הקדחתנית של דרגי הביניים שנאלצו להקריב את חייהם וחיי פקודיהם במאמץ למזער במידת האפשר את מימדי האסון לא היה פנאי לחשבון נפש אמיתי, וכשהגיע הזמן לגזור מסקנות, המפלגה עסקה בעיקר בחיפוש השעירים לעזעזל. הסדרה החדשה של HBO מעבירה היטב את הבנאליות הנוראה של האסון מצד אחד ואת המורכבות הלא רגילה של נסיבות האסון.

באופן אירוני, לו הכירו בבריה"מ את הטענות של פירו גם היתה בהן נחמה מסוימת לאחראים לאסון - שהרי הוא ככל הנראה היה בלתי נמנע, וגם אפשר היה לנבא כי גורלה של ברית המועצות עצמה יהיה כשל הכור העומלל. לימים יכתוב מיכאיל גורבוצ'וב, מי שהיה מזכיר המפלגה הקומוניסטית בעת האסון ובפועל עמד בראש הפירמידה הסובייטית, כי אסון צ'רנוביל הוא ככל הנראה הסיבה האמיתית להתפרקות ברית המועצות.

צ'ארלס פירו בנה את הקריירה שלו סביב חקר מערכות מורכבות מעשה ידי אדם, מכונות תעשייתיות עצומות מימדים, חברות מסחריות בנות אלפי עובדים ומערכי לוגיסטיקה צבאית חובקי עולם. עבודתו הובילה אותו אל המסקנה העגומה כי מעבר לנקודת מורכבות מסויימת כל מערכת מסועפת נידונה לסבול באופן בלתי נמנע מכשלים לא צפויים.

פירו הוכיח כי מערכות הנדסיות ולוגיסטיות מודרניות נוטות למידת מורכבות כזו שהפך להיות בלתי אפשרי לחזות כל תרחיש עתידי ולתכנן מענה ראוי. בנוסף הגורם האנושי תמיד נמצא בפיגור אחר ההתפתחויות הטכנולוגיות בין אם בגלל הצורך להכשיר כל העת את המפעילים בטכנולוגיות החדשות ובין אם בגלל ביזור אחריות בין צוותים שונים. כך או כך זוהי ודאות מתמטית כי בשלב כלשהו טעות קטנה ו"נורמלית" אחת תצטרף לכשל זעיר ו"נורמלי" אחר באופן שאף אחד לא יכל לחזות מראש, וצירוף נסיבות ייחודי אך נורמלי זה יביא לכשל קריטי במערכת.

אז מה עושים? עצתו של פירו היתה לא מתוחכמת. אם אתה לא יכול להכיל את תרחיש הכשל הגרוע ביותר של המערכת הימנע מבנייתה, או מצא דרך לבנות מערכת פשוטה יותר.

גורבצ'וב יושב לשולחן עם ערימה של עותקים של ספרו האוטוביוגרפי, באירוע חתימת ספרים במוסקבה, ב-2012
גורבצ'וב באירוע חתימת ספרים במוסקבה, 2012צילום: בלומברג

ממכונות לשווקים וברבורים שחורים

כעבור שנים ניסח הכלכלן והמשקיע הלבנוני ניסים ניקולאס טאלב רעיון דומה אם כי הפעם במונחי שוק. טאלב דיבר על הופעתו הבלתי נמנעת של "הברבור השחור", אירוע משבש אשר נדמה לנו אינטואיטיבית כנדיר ביותר אך בפועל בגלל טיבען החמקמק של מערכות ארגון עצמי אנושיות הוא למעשה בלתי נמנע. כאלו למשל היו המשבר של סוף שנות ה-80, התפוצצות בועת הדוט.קום בראשית שנות ה-2000 ומגה המשבר משכנתאות סאב פריים ב-2008, שאת גלי ההדף שלו אנחנו מרגישים עד היום.

אלא שבזכות טאלב אנחנו גם יודעים כיצד להתגונן מכשלים מובנים אלו. נאמן להשקפתו בדבר הופעתו הבלתי נמנעת של הברבור השחור - משבר קיצוני המטלטל את המערכת כולה - טאלב הימר נגד השוק לקראת כל אחד משלושת המשברים הנ"ל וצבר הון עצום בזכות כך. הפילוסופיה של טאלב פשוטה, אם אתה בונה מערכת שנועדה לשרוד בתוך אקוסיסטם טבעי בעל תכונות של ארגון עצמי - כמו למשל השוק החופשי, או מערכת הנדסית מורכבת הנמצאת באינטרקציה עם העולם ותלויה בבני אדם לתפקודה התקין - אתה חייב לקחת בחשבון משבר קיצוני. והדרך הטובה ביותר להתכונן למשבר קיצוני היא לתכנן מערכת שיוצאת מחוזקת ממשברים קיצוניים.

לתכונת ההישרדות הזו קורה טאלב "אנטי שבירות", אנטי שבירות היא לא רק יכולת עמידה בפני משברים קיצוניים אלא אף יכולת הצמיחה מתוכם. למעשה כזו היא הביוגרפיה האישית של טאלב. ילדותו עברה עליו במלחמת האזרחים הקשה בלבנון, ומשפחתו שנמנתה על אצולת ביירות נאלצה לגלות בחוסר כל לארה"ב. אולם הוא למד להפוך את הסבל והטראומה למקור של חוסן וצמיחה.

סטארט-אפים נורמליים

מידת המורכבות של העולם ושל המערכות הפיננסיות והטכנולוגיות הסובבות אותנו רק הלכה וגדלה מאז ספרו של פארוו ודבריו של טאלב. כמעט לכל פיסת טכנולוגיה צרכנית שותפים היום מאות רבות של יצרנים שונים. וכלכלת הידע המודרנית נשענת ברובה על כמויות עצומות של דאטה מסובך ופתלתל, מעין שובל פרורי לחם שכל אחד ואחת מאתנו מותירים מאחוריהם בפעולות יום יומיות טריוויאליות. 

כל מי שעוסק במערכות טכנולוגיות עדכניות מודע לבעיית השכבות ההיסטוריות ואין סוף התלויות בירושות קודמות. יסלח לי מאיר אריאל, אבל בסוף כל קוד שאתם כותבים בג'אווה יושב מודול עתיק מימיו של אלן טיורינג עם נרגילה גרעינית.

ב-2019 מספר "החלקים הנעים" שצריכים להיות מתוזמרים זה עם זה, אפילו במערכות הבסיסיות ביותר הוא עצום. ממשקי API מגוונים, ספריות קוד פתוח מתוחזקות למחצה, ליבות טכנולוגיות לא מעודכנות או רכיבי חומרה עלומים מן המזרח. כל אלה רק מחריפים את בעיית הכשל המובנה של פירו, ועוד לא דיברנו על הפוטנציאל ההרסני של מתקפות מכוונות על נקודות תורפה כאלו.

הדרך החידה לבנות פרויקטים ברי קיימא בתוך אקו סיסטם כאוטי ומועד לפורענות שכזה היא בחירה מודעת ב"אנטי שבירות". איטרציות קצרות ככל הניתן, כדי לשמור על קשר הדוק עם השטח ולאסוף פידבק מפורט. בניית המוצר לאחור - מן ה"כאב" של המשתמשים אל הפתרון הטכנולוגי ולא להיפך. בניית תוכנית עיסקית העומדת על כמה רגליים בלתי תלויות, או לכל הפחות כזו שלא נסמכת על הנחות לא בדוקות ובעלת שולי סיכון רחבים.

קל לראות את הסיבה להצלחתם של מודלים כמו lean start-up, agile ו-design thinking, על רקע הצורך החריף לבנות מוצרים אורגניים עמידים בפני ברבורים שחורים למיניהם. בפעם הבאה שאתם ניגשים לפרויקט תבדקו היטב מי יושב עם נרגילה בסוף הגאנט, שלא יצא לכם צ'רנוביל.

אלכס שילמן

אלכס שילמן | אלכס שילמן

אלכס שילמן הוא מומחה לכלכלה התנהגותית יישומית. בעבודתו אלכס מייעץ לחברות וצוותים כיצד להתמודד עם אתגרים התנהגותיים ולבנות מוצרים ושירותים המותאמים למשתמש הלא רציונלי. אלכס מרבה להרצות ולהנחות בארץ ובעולם על התפר שבין פסיכולוגיה, עיצוב וטכנולוגיה. בעברו אלכס עסק בעיצוב ואפיון והיה מנהל מוצר וחדשנות. כיום הוא שותף מייסד ו-Chief Behavioral Officer בחברת הייעוץ The Human Factor. בעל תואר ראשון בפסיכולוגיה וכלכלה ותואר שני בפסיכולוגיה חברתית בהתמחות בקבלת החלטות מהבינתחומי בהרצליה. לאתר של אלכס

הזינו שם שיוצג באתר
משלוח תגובה מהווה הסכמה לתנאי השימוש של אתר TheMarker