למה הסרט Upgrade הוא סרט כל כך חשוב

02/04/2025

הסרט Upgrade שיצא בשנת 2018 הוא לא אחד הסרטים האהובים עליי. גם לא הייתי רוצה שיהיה. הוא דיסטופי ודי קודר, ואני לא חושב שהוא מעורר השראה למשהו חיובי. לא תמצאו אותו ברשימת חמשת הסרטים האהובים עליי. כנראה שגם לא ברשימת עשרת הסרטים האהובים עליי. אבל הוא אחד הסרטים הכי חשובים שיצא לי לראות. לצערי, החברה המודרנית זקוקה לעוד סרטים כמו Upgrade, אבל בהינתן שאין כאלה, היא לפחות זקוקה לסרט Upgrade עצמו.

הסרט מספר על גריי, בחור שסולד מטכנולוגיה, שהופך משותק בעקבות תאונת דרכים. בגזע המוח שלו מושתל שבב חדשני שמחזיר לו את יכולת התנועה. אך לשבב חיים ורצון משלו והתאונה שהפכה את גריי לנכה היא לא בדיוק מה שהיא נראית. כמובן, הסרט מומלץ לצפייה והאמת היא שהסוף שלו כל כך מוצלח עד שאני ממליץ פשוט לעצור את הקריאה כאן אם טרם צפיתם. רוצו לצפות וחזרו לקרוא. אם כי, אני לא מתכוון לדבר על סוף הסרט. אני כן מתכוון לדבר על סצנה אחת ספציפית, ועל קו עלילה שלם.

גריי לא אוהב טכנולוגיה. לכן, אני אוהב את גריי. אבל אשתו של גריי אוהבת טכנולוגיה. כאשר הם נוסעים ברכב האוטונומי שלהם לילה אחד, הם מגיעים לשכונה בעייתית, שם מחכה להם כנופייה שהורגת את אשתו של גריי והופכת אותו למשותק בארבע גפיים. במהלך הנסיעה השגרתית הביתה, הרכב האוטונומי של גריי ושל אשתו נפרץ מרחוק, סטה מהמסלול המתוכנן אל השכונה המסוכנת, הגביר מהירות והתרסק, התהפך, והפך את הזוג הלכוד בפנים לטרף נוח עבור חברי הכנופייה שחיכו לו.

מאוד שמחתי לראות את הסצנה הזו, כמו ששמח כל אדם שאומר "אמרתי לך".

למחשבים אפשר לפרוץ מרחוק, כפי שיודע כל אדם. כל מערכת יכולה להיפרץ, כפי שיודע כל איש אבטחה או האקר. זה רק עניין של זמן. וכפי שאני טוען כבר מספר שנים בפורומים שונים, זה רק עניין של זמן עד שהסצנה הזו בדיוק, שלא הכרתי כשהתחלתי להשמיע את הטענה שלי, תתממש במציאות. כאשר נגיע לשלב שבו הרכב שלו נשלט על ידי מחשב, וכאשר המחשב הזה ייפרץ, וכאשר יתאפשר לפורץ לשלוט ברכב מרחוק, זה בדיוק מה שיקרה. הנה, לא רק אני חשבתי על זה. גם במאי הסרט חשב. וגם האקרים שמחכים לרגע הזה חשבו.

לו מישהו היה פורץ למחשב שאני כותב עליו עכשיו, זה היה לי מאוד לא נעים. זה כמעט ולא היה מסוכן. הדבר הכי גרוע שיכול לקרות הוא התחברות לחשבון הבנק שלי, אולי, ואז אני יכול ליצור קשר עם הבנק ולבטל העברות שבוצעו בשמי. אולי יוכלו גם לצלם אותי באמצעות המצלמה ואחר כך לסחוט אותי באמצעות התמונות האלה. אלה באמת הדברים הכי גרועים שיכולים לקרות. לא לי, כמובן, כי הגנתי על המחשב שלי מבעוד מועד. אבל נניח, רק לצורך העניין. במקרה כזה, הנזק לגופי או לרכושי יהיה מינימלי עד לא קיים. אני בעיקר אסבול מנזק כספי ואולי מבושה או רגשות לא נעימים. לכן אין לי בעיה להשתמש במחשב. הסיכון כאן הוא לא כל כך גבוה, וזה בסדר.

לו הייתי נוסע ברכב אוטונומי שנשלט לחלוטין על ידי מחשב, ומישהו היה משתלט עליו מרחוק, הייתי למעשה נעול בתוך קופסת מוות על גלגלים. יש אנשים שיכנו כך מכוניות גם אם הן לא יהיו אוטונומיות. כולנו מבינים שברגע שאנחנו בתוך רכב, אנחנו יכולים להימצא בסכנת חיים ממגוון סיבות. כעת תארו לכם שהרכב נשלט על ידי מישהו אחר, שמעוניין שנימצא בסכנת חיים מסיבותיו שלו. זה מתחבר למה שכבר כתבתי בעבר אודות בינה מלאכותית: הטכנולוגיה שאנחנו משתמשים בה כיום היא לא אותה טכנולוגיה כמו הטלפון הקווי של פעם, או טלוויזיה, או שלט של מזגן. המוצרים שיש בידינו היום מחוברים לאנשהו, לתאגיד כלשהו, לשרת כלשהו, כך שתמיד יתכן שלמישהו אחר תהיה השליטה בהם. בדרך כלל אני מאשים את התאגידים, אבל היום נניח להם. הם ייצאו מהמאמר הזה בזול.

מי שלא ייצא ממנו בזול, ובצדק, הוא האקרים. בסצנה המופיעה בסרט, גריי ואשתו עסוקים זה עם זו ולא שמים לב לנסיעה. עד שגריי שם לב, כנראה שכבר מאוחר מדי. הם מנסים שוב ושוב לבקש מהרכב לחזור לכביש הראשי, להאט, לעצור, והרכב פשוט מודיע על תקלה. למעשה, המחשב של הרכב נפרץ על ידי האקר שהשתלט עליו מרחוק. בעזרת המחשב הזה הוא יכול להחליט לאן הרכב יפנה ובאיזו מהירות הוא ייסע. הזוג נותר חסר אונים ומבולבל עד ההתרסקות.

תארו לכם שהם היו מקבלים הודעה לסמארטפון, בזו הלשון: "שלום, כאן ההאקר שפרץ למכונית שלכם. אנא העבירו את כל חסכונותיכם לחשבון בנק מספר כך וכך, או שהרכב שלכם יתרסק." בסרט, הכנופייה דווקא מחכה לגריי ולאשתו. את אשתו הם רוצחים, אבל באותה מידה יכלו גם לאנוס אותה. את גריי הם הופכים למשותק.

הסיכון בהשתלטות מרחוק על מחשב הוא נסבל. הסיכון בהשתלטות מרחוק על רכב, שבתוכו יושבים אנשים והם לא מסוגלים לצאת או לעשות שום דבר, הוא סיכון שלא שווה לקחת. הערך בסצנה הזו, חוץ מכך שהיא אפשרה לי להגיד "אמרתי לך!" בפעם הראשונה שראיתי אותה, הוא שהיא מציגה את הסיכון. יחשוב כל אדם לפני שהוא נוהג במכונית אוטונומית שנשלטת על ידי מחשב ומחוברת לאינטרנט, האם הוא מעוניין בסיכון הזה. נכון, רוב הנסיעות יסתיימו בסדר גמור. אבל אלה שלא, לא. האם מישהו סיפר לנו על האפשרות הזו לפני שהתחילו למכור לנו רכבים אוטונומיים? לא. אז הנה, אמרתי לכם. וגם הסרט Upgrade אמר לכם.

עכשיו אני רוצה לדבר על העלילה שמתגלה במהלך הסרט. כמו שהבטחתי, לא אהרוס לכם את הסוף, אבל כן אגלה דברים שמתרחשים בסרט. למשל, שלשבב של גריי יש חיים משלו. הוא למעשה בינה מלאכותית. בשפה המקצועית, הוא AGI – Artificial General Intelligence. הבינה המלאכותית שקיימת בעולמנו היום מתמחה בביצוע משימות מסוימות, אבל AGI תהיה שינוי רב משמעות. היא תהיה בינה מלאכותית שיודעת לעשות הכול, ממש כמו בני אדם שמסוגלים ללמוד ולעשות גם וגם וגם וגם. זה השבב שהושתל בגופו של גריי.

לשבב הזה יש תוכניות משלו. בהתחלה גריי נהנה מאוד, עד כמה שאדם יכול ליהנות אחרי שרצחו את אשתו לנגד עיניו והוא נותר משותק. אך יכולת התנועה שלו חוזרת והוא לכאורה בריא לחלוטין. הוא רק שומע את קולו של השבב בראשו, מדבר איתו. השבב משכנע את גריי לתת לו עוד ועוד שליטה על מנת להביא לצדק את הפושעים שפגעו בו. אבל האם מדובר בשבב אלטרואיסטי שכל רצונו להיטיב עם גריי? ממש לא. לשבב יש תוכנית, ולאט לאט, למרבה האימה, מגלה גריי שהוא שבוי שלו. ללא שיתוף פעולה מצד השבב, שהוא ישות תבונית, הוא יחזור להיות משותק. מעבר לכך, הוא עלול לחזור להיות משותק במצבים מסוכנים שהשבב עירב אותו בהם. כך השבב מתמרן את גריי לתוך מצבים שונים, שבהם גריי יזדקק לו במיוחד.

מחקרים חדשים מראים כבר היום כיצד אלגוריתמים משנים את ההתנהגות שלנו. לא "ההתנהגות שלנו משתנה בגלל טכנולוגיה", אלא אלגוריתמים מתמרנים אותנו כדי שנשנה את ההתנהגות שלנו. וזה הבדל חשוב. האלגוריתמים האלה חסרי בינה, הם "משרתים" את היוצרים אותם, שהם אנשי התאגידים. טוב, אמרתי שלא אציק להם היום, אבל נראה שטעיתי. אותם תאגידים גדולים שכולנו מכירים מעסיקים אנשים, שתפקידם לתכנן אלגוריתמים שיוצרים התמכרות ומשנים את ההתנהגות שלנו, כדי שהיא תתאים יותר לרצונותיהם של המפתחים.

טוב ויפה, עם זה אנחנו יכולים לחיות. האנשים המפתחים את הטכנולוגיה הם אנשים כמונו, פחות או יותר. אבל מה כאשר מוסיפים לטכנולוגיה בינה מלאכותית? לא רק AGI, אפילו בינה מלאכותית ספציפית שמתמחה בתחום מסוים, כבר יכולה לגרום לנו נזק. למשל, בינה מלאכותית שמתמחה בזיהוי עניין יכולה להבין מה מעניין אותנו ולהעלות לנו תוכן מתאים לפיד, מה שנשמע לכולם כמו גן עדן, אבל פירושו שיהיה קל יותר לתמרן אותנו, להוציא מאיתנו כסף, לגרום לנו להרגיש רגשות מסוימים, וכיוצא באלה. מה נעשה כאשר הטכנולוגיה תושתל בגוף האנושי, כמו ב-Upgrade? הלא כבר היום מתכננים להשתיל שבבים כאלה בבני אדם, והניסויים הראשונים כבר יצאו לפועל על ידי חברת ניוראלינק של אילון מאסק.

נכון, Upgrade מציג את התרחיש הפחות סביר. אבל זה יקרה למישהו, או לקבוצה של אנשים. האם אנחנו כחברה מעוניינים בזה? האם כל אחד ואחד מאיתנו מוכן לקחת את הסיכון, ו"ליפול בסטטיסטיקה" של האנשים שזה קרה להם? אני לא מתכוון לעזוב את הבית ולעבור לגור ביער, אבל העוול שנעשה כאן לאנשים הלא טכנולוגיים, וזו מרבית האוכלוסייה, הוא מסוכן בעיניי. את התרחישים הפחות סימפטיים האלה יש להציג לאוכלוסייה, ולהסביר מה עלול לקרות כתוצאה מההסתמכות ההולכת וגוברת שלנו, שלא לומר כניעה, לטכנולוגיה. וזה בדיוק מה ש-Upgrade עושה. זהו סיפור אזהרה חשוב מאין כמוהו, וגם סרט מעניין ומוצלח, שפשוט שווה לרוץ לראות.

לעמוד השער
לעמוד הבית