אז איך מודל שפה “יודע” את התשובה “הנכונה”?
רשמתי לצ’אט:
“בחורף בדר”כ…”
והוא השלים מיד:
“בחורף בדרך כלל קר יותר, יורד גשם, והאנשים מתכרבלים עם כוס תה חם”
הצ’אט נשמע חכם, נכון?
אז שאלתי את הצ’אט:
“האם אתה באמת יודע את זה?
או שאתה פשוט משלים את המשפט לפי לוגיקה סטטיסטית של טוקנים?”
וזה ההסבר שקיבלתי חזרה לגבי איך מודל שפה משלים מישפטים:
“אני לא באמת ‘יודע’ את זה כמו בן אדם שחווה חורף…
אני משלים את המשפט על סמך דפוסים סטטיסטיים של טוקנים.
כשאני רואה את הביטוי ‘בחורף בדרך כלל’, אני מזהה שבטקסטים קודמים
יש המשכים כמו ‘קר’, ‘גשם’, ‘מעילים’, ‘תה חם’ – אז אני בוחר את ההשלמה הכי סבירה.”
אז מה באמת קורה פה? איך מודל שפה יודע להשלים מישפטים ?
מודל שפה כמו צ’אט ג’יפיטי לא מרגיש קור, לא ראה גשם, ואין לו זיכרונות.
הצ’אט פשוט ניחש את ההמשך לפי סטטיסטיקה של טקסטים.
ל-AI אין הבנה. אין לו תודעה. רק חיזוי של המילה הבאה – טוקן אחרי טוקן.
למה חשוב להבין איך ה-AI עובד?
AI לא באמת חושב. הוא מחקה.
הוא לא מבין, הוא פשוט חוזר על דפוסים של טקסטים מהעבר.
לדוגמה: אם היו הרבה טקסטים שכתבו בטעות שהשמש זורחת בצפון –
הוא היה משלים כך את המשפט. גם אם זה לא נכון.
אז מה המסקנה? 💡
לסיכום מודל שפה נשמעת חכם – אבל הוא לא יודע, לא מרגיש ולא חושב.
המודל AI פשוט מצטיין בלשחזר את מה שנראה לו הגיוני באמצעות חיזוי סטטיסטי.
