אני

מילי שמידט

בינה מלאכותית ואחריות טכנולוגית

כחלק מהפעילות שלי ברשת אני חשוף גם לצדדים הזדוניים יותר של הטכנולוגיה בכלל ושל הבינה המלאכותית בפרט. כמובן, את הנעשה אין להשיב. כמו פצצת האטום או הנשק האישי, הטכנולוגיה נמצאת שם בחוץ וכל אחד כבר יכול להשתמש בה. להזהיר מפניה זה אולי חשוב אבל לא מונע את השימוש. ובכל זאת, דווקא מאחר שטכנולוגיה היא תמיד ניטרלית ותלויה באדם, צריך להדגיש את חשיבותו של ההקשר.

מהו "הקשר", בהקשר הזה? הקשר הוא השימוש שאנחנו עושים בטכנולוגיה כמו בינה מלאכותית, כולל הכוונה וההבנה שלנו. בדיוק כמו לגבי אקדח פרטי, שיכול להגן עלינו מפני פורצים או להביא להרג של האנשים היקרים לנו, הנזק שיכול להיגרם כתוצאה משימוש בבינה מלאכותית תלוי במשתמשים בה בלבד. אותם משתמשים צריכים להבין את זה, בדיוק כפי שהם מבינים שאין לשחק עם אקדח שנמצא בבית רק בשביל הכיף.

בינה מלאכותית היא כלי שימושי לעבודה או ללימודים, אבל השחרור שלה לאינטרנט הפתוח מציב בפנינו בעיה גדולה. הרבה בעיות, כלומר, אבל כמו תמיד הבעיה הגדולה ביותר היא בעיית המטא. או במילים אחרות, לא מה אנחנו יכולים לעשות עם בינה מלאכותית, אלא מה זה אומר בכלל שיש לנו היכולת הזו.

היכולת הזו לעשות דברים מרשימים עם בינה מלאכותית פירושה שיש לנו גם האחריות לעשות איתה דברים טובים. כיום, הדברים הכי טובים שהבינה המלאכותית מצליחה לעשות הם בעצם די רעים. בתמונות היא עדיין מפספסת, אבל בתחומי ההנאה יש לה הצלחות מדהימות. רק לאחרונה התברר שמבצע הפיגוע בלאס וגאס הודה שהוא קיבל הוראות להכנת הפצצה מ-chatGPT, ובנושא אחר חוקרים גילו שבינה מלאכותית מסוגלת להסוות קוד זדוני בצורה שתוכנות אנטי וירוס מתקשות לזהות, כך ב-88% מהמקרים לפי מחקר של יחידה 42 מ-Palo Alto Networks.

נכון, בינה מלאכותית יכולה לעשות גם דברים טובים כולל נטרול של קוד זדוני. אבל עצם העובדה שאפשר לנצל אותה לרעה מחייבת אותנו גם להבין, שכאשר מתעסקים בטכנולוגיה חדשה יש לכך השלכות. את ההשלכות האלה לא תמיד נחווה באותו רגע, לא תמיד נבין או נוכל לצפות, ובכל זאת כדאי לחשוב טוב טוב לפני שמשתמשים בכלים הללו ומאמנים אותם עוד ועוד. בדיוק כפי שהייתי מזהיר חבר שמשחק באקדח שמצא בבית, כך אני מזהיר גם כעת. הבינה המלאכותית לומדת מהאינטרקציה עם בני אדם, ומומלץ לזכור שיכולות להיות לכך השלכות רעות מאוד. לשיקול המשתמשים.

בכל פעם שנשמע על טכנולוגיה חדשה, אנחנו מוכרחים לנקוט בזהירות ובאחריות כלפיה, בדיוק כפי שהיינו עושים עם כל כלי מסוכן אחר, רכב, או נשק וכיוצא באלה. העקרונות האלה תקפים תמיד, ולכן המאמר הזה רלוונטי כמובן גם לטרנד הטכנולוגי של העתיד, יהיה מה שיהיה.

קטגוריות:

לעמוד השער
לעמוד הבית