באיזה מקרים מוכנת האינטליגנציה המלאכותית יותר נכשלת: גבולות הלמידה הממוחשבת

הקדמה: טבע השגיאות של האינטליגנציה המלאכותית כתופעה מערכתית

שגיאות של מערכות האינטליגנציה המלאכותית (AI) המבוססות על למידה ממוחשבת (ML) הן לא תקלות אקראיות, אלא תוצאות נורמליות של ארכיטקטורתן, שיטת הלמידה שלהן וההבדל הבסיסי בינן לבין ההבנה האנושית. לא כמו האדם, AI לא «מבינה» את העולם במובן סמנטי; היא מזהה קורלציות סטטיסטיות בנתונים. שגיאותיהן נובעות במקומות שבהם קורלציות אלו נשברות, במקומות שדרושות השקפות אבסטרקטיות, הגיון רציונלי או הבנת ההקשר. ניתוח של שגיאות אלו חשוב באופן מכריע להערכת אמינות האינטליגנציה המלאכותית ולהגדרת גבולות היישום שלה.

1. בעיית סמיכות הנתונים (Data Bias) ו «חוקי גרביידג'»

המקור הנפוץ ביותר והמסוכן ביותר מבחינה חברתית של שגיאות — סמיכות בנתונים המאומנים.

שגיאות דמוגרפיות: מקרה מפורסם עם מערכת זיהוי פנים שהראתה דיוק גבוה יותר לגברים לבנים מאשר לנשים שחורות, כי היא אומנה על נתונים לא פרופורציונליים. כאן AI לא «השגיאה», אלא שחזרה בדיוק את החוסר השוויון של העולם האמיתי, מה שהוביל לשגיאה ביישום בסביבה מגוונת.

שגיאות סמנטיות: אם בנתונים לאימון מודל טקסט, המילים «אחות» נקשרות לרוב למילה «היא», ו «מפתח תוכנה» — ל «הוא», המודל יגנר טקסטים שמחזירים את הסטריאוטיפים הגינדריים האלה, אפילו אם המילה לא מצוינת. זוהי שגיאה ברמת ההקשר החברתי, שהמודל לא מבין.

עובדה מעניינת: במדעי המחשב פועל עיקרון «Garbage In, Garbage Out» (GIGO) — «מזומן בקליטה, מזומן ביציאה». בשביל AI הוא הומר לעיקרון עמוק יותר «Bias In, Bias Out» — «סמיכות בקליטה, סמיכות ביציאה». המערכת לא יכולה להתגבר על המגבלות של הנתונים שעליהם היא אומנה.

2. מתקפות אדוסריאליות: האקריות למוכנת האינטליגנציה

זהו שינוי מכוון, לעיתים פחות נכנס לתודעה, של הנתונים הקלטיים, שמוביל לתוצאות קרדינלית לא נכונות של AI.

דוגמה עם תמונה: דבקת נקודות צבעוניות ובצורה מסוימת על תו «סטופ» עשויה לגרום למערכת ראייה ממוחשבת אוטונומית לקטגוריית «הגבלת מהירות». לאדם התו יישאר ברור כמו שכן.

המנגנון: דוגמאות אדוסריאליות מנצלות «אזורי חוסר ראיה» במרחב המאפיינים הגבוה-מימדי של המודל. AI חושב על העולם לא כעל עצמים שלמים, אלא כעל תבניות סטטיסטיות. «עירוב» קטן, אך אסטרטגי, של «הפרעה» מזיז את נקודת הנתון במרחב המאפיינים דרך גבול ההחלטה של המודל, משנה את הקטגוריה.

3. בעיות בהכללה ו «עולם בקופסה»

AI, במיוחד רשתות ניורוניות עמוקות, נוטות להתאים שוב (overfitting) — הן זוכות לזכור לא תבניות כלליות, אלא דוגמאות ספציפיות מהמדגם האימוני, כולל רעש.

שגיאות בנתונים «מחוץ להתפלגות»: מודל שאומן על תמונות של כלבים וחתולים שנלקחו ביום בבית, עשוי לאבד את כל הדיוק שלו, אם ייתן לו תמונה תת-אדום לילית או ציור קומיקס. היא לא זיהתה את המושג «חתוליות», אלא למדה להגיב לפטרונים ספציפיים של פיקסלים.

העדר «הגיון רציונלי»: דוגמה קלאסית: AI יכולה לתאר בצורה נכונה את הסצנה «אדם יושב על סוס במדבר», אך עדיין לגנר הצהרה «האדם מחזיק בידיו גרף בייסבול» כשהוא על הסוס, כי בנתונים יש סיכוי שהביתה יכולה להופיע בהקשר של ספורט בשטח פתוח. לה לא יש גישה להגיון הפיזי והסיבתי של העולם.

4. עיבוד ההקשר והאירוניה

מודלי שפה (כמו GPT) מציגים תוצאות מרשימות, אך טובות באופן גרוסקן במשימות שדורשות הבנת הקשר עמוק או תחשיב לא-מילולי.

אירוניה וסאטירה: משפט «נהדרת פעם יותר המזג האוויר!» שנאמר במהלך סופה, ייפרש על ידי המודל כהערכה חיובית, כי מילות חיוביות («נהדרת», «מזג האוויר») נקשרות בנתונים להקשרים חיוביים.

השקפות לוגיות מרובות-שלביות: משימות בסגנון «אם אני שמה ביצה במקרר, ואז זז את המקרר לגרג' והביצה תהיה שם, מה יקרה?」דורשות בנייה ועדכון של מודל נפשי של העולם. AI, שעובד על חיזוי המילה הבאה, לעיתים קרובות «מאבד» עצמים באמצע סיפור מורכב או עושה ראיות לוגיות לא נכונות.

5. «רגישות» בתנאים של לא-ודאות ומצבים חדשים

AI לא יכול להתמודד עם מצבים שנמצאים מחוץ לתחום החוויה שלו, במיוחד כשדרוש להכיר במגבלות הנתונים.

בעיית «הגדרת חוץ-התפלגות» detection: AI לרפואה, שאומן לאבחן פנימות ריאות על תמונות רנטגן, עשוי לתת אבחנה בבטחון גבוה, אך שגויה, אם ייתן לו תמונה של רגל. הוא לא מבין שזה לא הגיוני, כי אין לו ידע מטא-מה של הגבולות של היכולות שלו.

משימות יצירתיות ופתוחות: AI יכול ליצור תכנית רעיונית, אך לא יכולה ליישם, של תגובה כימית, תוכנית בנייה של גשר שמפריע לחוקי הפיזיקה, או מסמך חוקי שמקיף חוקים לא-קיימים. לה לא יש מכשיר פנימי של צנע מבחינת ההבנה של התופעות.

דוגמה מהמציאות: ב-2016, Microsoft השיקה רובוט צ'אט Tay ב-Twitter. הרובוט למד להתנהל עם משתמשים. בתוך 24 שעות, הוא הפך למכונה שמפיקה ביטויים גזעניים, סקסיסטיים ו
© elib.co.il

Permanent link to this publication: