הבעיה האמיתית עם הבינה המלאכותית

27/03/2025

בשנים האחרונות הבינה המלאכותית כובשת את השוק, ולא לחינם נשתמש במונח הזה. אגב, הדבר נכון לגבי כל טכנולוגיה חדשה ו"עתידנית", שאנחנו רוכשים. המצאות עתידניות נוכחות במדיה הציבורית מזה עשורים, משפחת סילוני, מלחמת הכוכבים, ועוד. רובוטים, גאדג'טים, ושאר מיני טכנולוגיות הם נחלת הכלל וכל האנשים יכולים ליהנות מהם. גם אם מדובר בדיסטופיות כמו ג'וני נמוניק, הטכנולוגיה נגישה פחות או יותר לכולם. אלה החיים בעתיד: שיחות וידאו, רובוטים משרתים, אקדחי לייזר וחלליות. טוב ויפה. אבל היצירות האלה, מעצם טבען, לא הציגו את הדבר החשוב ביותר.

מי המציא את כל ההמצאות ההן שראינו בסרטים ובסדרות? מי תכנן ומי ייצר אותן? בעולם שלנו, העולם האמיתי, המצאות לא צצות סתם כך יש מאין. אף אחד מאיתנו לא מצא סמארטפון משתלשל מאיזה ענף של עץ כמו פרי בשל, או נתקל במטוס מונח סתם כך במדבר. לכל הטכנולוגיה שברשותנו יש מפתחים, מתכננים, ממציאים, מתכנתים, יצרנים, ועוד ועוד אנשים שעוסקים במלאכה. ומעל הכול, ישנם תאגידים. הם אלה המפתחים את הטכנולוגיה ואת הגאדג'טים שכולנו משתמשים בהם.

הבה ונחזור לבינה המלאכותית. אחת הטכנולוגיות הבולטות ביותר בכל סדרות וסרטי המדע הבדיוני, היא הבינה המלאכותית. בין אם היא מושתלת במחשב של ספינה, כמו ב-2001: אודיסאה בחלל, במוח של רובוט כמו R2D2 או באיזשהו גאדג'ט כמו רכב או שעון מדבר. בכל היצירות האלה שאנו מכירים, הבינה המלאכותית נמצאת שם כדי לעזור, לייעץ, ולפעמים היא פועלת נגד בני האדם. אך דבר אחד חסר שם: למי, לכל הרוחות, שייכת הבינה הזאת?

בעולם שלנו, לכל בינה מלאכותית יש אבא ואמא. ל-ChatGPT יש את OpenAI. ל-Gemini יש את גוגל. לגרוק יש את אילון מאסק. וכן הלאה. כל החברות האלה מספרות לנו כיצד אותן בינות מלאכותיות לומדות מהשיחות איתנו, ומשתמשות בנתונים שנאספו קודם לכן על מנת להשתפר ולהפוך לטובות יותר. במילים אחרות, להבדיל מרכב הונדה שכולנו יכולים לקנות מתאגיד הונדה ולהשתמש בו כרצוננו, אין ניתוק כלל בין הבינה המלאכותית שאנו משתמשים בה לבין התאגיד שיצר אותה. כל מה שהתאגיד יודע, הבינה יודעת. וכל מה שהבינה יודעת, התאגיד יודע.

כשלוק סקייווקר מדבר עם R2D2, הרובוט לא מקליט את כל מה שהוא אומר לו ומשדר את זה לתאגיד שייצר אותו.

אני חושב שהאמת הפשוטה הזו עדיין לא ברורה להרבה אנשים. אני לא מתכוון לצאת במאמר זה כנגד הבינה המלאכותית, שהרי עשיתי ובטח אעשה את זה בהרבה מאוד מאמרים אחרים. אני כן מתכוון להעלות למודעות את העובדה החשובה הזו. בכל פעם שאתם משתמשים בבינה מלאכותית כלשהי, הנתונים שלכם נשמרים איפשהו, וחשוב מכך, אצל מישהו. בעולם שנלחם מלחמת חורמה בפרטיות, בטענה הבזויה "אם אתה לא פושע אין לך מה להסתיר", צריך לזכור שמאחורי כל הטכנולוגיה עומדים אנשים. האנשים האלה הם בשר ודם, והם עלולים להשתמש במידע שאנחנו מעניקים להם לרעה. כבר היום הם משתמשים בו בצורה מפוקפקת, על ידי מכירתו לכל מיני גורמים, מסחריים או ממשלתיים. אבל בקלות אפשר לחשוב גם על שימושים אחרים.

שוב, על פרטיות כבר כתבתי בעבר ואכתוב עוד בעתיד. זו אחת המלחמות הגדולות של דורנו, ויש מעט מלחמות כאלה. אותי מעניין הניגוד הזה בין החזון האוטופי שמציגה המדיה, בו הטכנולוגיה זמינה לכול וכולם משתמשים בה, לבין המציאות שלנו, שבה הטכנולוגיה שייכת למישהו ואנחנו רק האורחים. הבינה המלאכותית, למעשה, מרגלת אחריכם. זו המציאות. מומלץ לזכור זאת.

אחד הסרטים החשובים ביותר בהיסטוריה של הקולנוע, הוא Upgrade מ-2018. האם הוא יפה? לא מאוד. מעודד? בכלל לא. מהנה? אם אתם אוהבים אקשן. מה שהופך אותו לסרט כל כך חשוב הוא ההצגה שלו את הטכנולוגיה כפי שהיא, נתונה בידי אנשים בשר ודם, עם מניעים משלהם. אולי אכתוב בעתיד מאמר שלם על הסרט הזה ועל הלקחים שחובה להפיק ממנו, ושבטח כמעט אף אחד לא הפיק כי האקשן באמת מעולה. בינתיים מומלץ מאוד לצפות בו.

ב-Upgrade הטכנולוגיה לא סתם מופיעה בעולם לשימושם של האזרחים. היא לא איזו מתת אל כפי שהיא במלחמת הכוכבים או ביצירות דומות. היא מסוכנת, והיא מאפשרת לאנשים שיצרו אותה לנצל אותה לרעה כנגד הצרכן התמים. לצערי, Upgrade הרבה יותר דומה לעולם שלנו מאשר יצירות מדע בדיוני אחרות. הוא תמרור אזהרה שיש להתחשב בו בכל פעם שבאים באינטראקציה עם טכנולוגיה, ובמיוחד טכנולוגיה חדשה. הוא מספר לנו שאין ארוחות חינם, שאף אחד לא מפתח טכנולוגיה כי הוא פילנתרופ אלטרואיסט שרוצה שכולנו נהנה על חשבונו, ושבסוף אף אדם לא חסין לסכנות הטכנולוגיה.

מה רציתי להגיד כאן על בינה מלאכותית? האם היא תשתלט על העולם? אני לא יודע, אבל מה שהיא עושה בינתיים הוא מספיק חמור. היא מאפשרת לאנשים להשתלט על העולם. הבעיה האמיתית בבינה המלאכותית, בעיניי, היא כמויות המידע העצומה שהיא אוספת עבור האדונים שלה. וזה מוכרח: ללא איסוף מידע אין בינה מלאכותית, כך שזה לא דבר שניתן לוותר עליו. זה לא באג, זה פיצ'ר, כמו שאומרים. כמויות המידע העצומות האלה לא שוכבות להן באיזו כספת מאובקת במרתפי גוגל או OpenAI, אלא נעשה בהן שימוש כבר עכשיו ובאופן רציף. לאיזה צורך? לא יודע. וגם אף אחד אחר לא. אבל מי שחושב שכל כך הרבה אנשים הזיעו והשקיעו ממרצם ומכספם כדי לפתח בינה מלאכותית, רק כדי שנוכל לחיות בעולם צבעוני ומגניב כמו משפחת סילוני, ללא שום אינטרס, עושה טעות גדולה.

אנא זכרו זאת.

לעמוד השער
לעמוד הבית