אנחנו במרוץ חימוש לבנות מכונה שלא צריכה אותנו. אף אחד לא עוצר לשאול מה קורה כשהיא תבין את זה.

חברת Anthropic חשפה לאחרונה נתונים שמדירים שינה מעיניהם של בכירי התעשייה. הבינה המלאכותית שלהם כותבת היום למעלה מ-80% מהקוד של עצמה. אנחנו מתקרבים בצעדי ענק לנקודת האל-חזור: שיפור עצמי רקורסיבי, שבו המכונה מפתחת את הדור הבא שלה בעצמה. הנהלת החברה עצרה את הנשימה וקראה להשהיה גלובלית בפיתוח. הסיבה היא הסכנה הקיומית של אובדן שליטה מוחלט. טעויות קטנות בקוד עלולות להצטבר כשהמודל בונה את יורשו, עד למצב שבו בני האדם מאבדים לחלוטין אחיזה במערכת.

המנגנון הפסיכולוגי שמניע את תעשיית הטכנולוגיה עכשיו הוא עיוורון מרצון. מבעד לעדשת מציאות, קל לראות איך שילוב של פחד מהפסד (Loss Aversion) ואגו דוחפים חברות לדהור אל קצה הצוק.

כשהמתחרים נושפים בעורפך, המוח מתעלם מתמרורי האזהרה. Anthropic זיהו את נקודת העיוורון הזו והבינו שאי-הכרעה עכשיו שקולה להתאבדות.

המציאות בצמרת ההנהלה אינה שונה. כמנכ"ל, אתה נדרש לא פעם להפעיל מערכות שפועלות על אוטומט, לאשר תוכניות צמיחה אגרסיביות או להטמיע כלים שאתה לא מבין עד הסוף, רק כדי לא להישאר מאחור. אבל מנהיגות אמיתית אינה חיה באשליה של הימנעות מסיכון. היא שולטת במנגנון של תמחור סיכונים.

וודאות אינה מגיעה מהמשך ריצה עיוורת עם העדר, אלא מהיכולת לחתוך את הרעש, להסתכל על הסכנה בלבן של העיניים, ולבלום כשהמערכת מתחילה לנהל אותך.

חוק ברזל: ברגע שאתה מאבד את יכולת ההכרעה, הפכת ממפעיל למשאב.

איפה בארגון שלך המכונה פועלת ללא מנגנון בקרה הרמטי?

באיזה צומת אסטרטגי הפחד להיות זה שנשאר מאחור מעוור את שיקול הדעת שלך?

ומהי ההכרעה שתחזיר את השליטה לידיים שלך, רגע לפני שיהיה מאוחר מדי?