100. הטעות שאתם עושים עם AI בלי לדעת
עודכן: מאת צוות פודקאסט·ישראל
האזינו לפרק המלא
אנחנו עוזרים למצוא את הפרק, ההאזנה המלאה נמצאת אצל היוצרים, בפלטפורמה שלהם.
/ הפרק במספרים
| פורסם | 31 באוגוסט 2026 |
|---|---|
| אורך | 16 דק׳ (קצר ב-34% מהממוצע בתוכנית) |
| הנושא המרכזי | הבדלים בין מתן ציונים לבין השוואה במודלי שפה |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק?
מודלי שפה טובים בהשוואה בין אפשרויות אך גרועים במתן ציונים מוחלטים.
מודלי שפה לא מסוגלים לתת ציונים מוחלטים כי אין להם סרגל חיצוני או נקודת ייחוס אמיתית. הם מאומנים על השוואות בין תשובות ולא על מדידה כמותית, ולכן ציונים שהם נותנים הם ניחושים. כדי לקבל תוצאות מדויקות יותר, כדאי לבקש מהם להשוות בין אפשרויות ולא לדרוש ציון מספרי. בנוסף, מומלץ להוסיף דוגמאות טובות וגרועות בפרומפט ולבנות רובריקות בינאריות במקום ציונים מספריים.
הבסיס לאימון מודלי השפה הוא השוואה בין תשובות ולא מתן ציון, ולכן כל ציון שמודל נותן הוא תוצר של השוואה פנימית ולא מדידה אמיתית.
/ תובנות מרכזיות
- מודלי שפה מאומנים על ניבוי מילים ועל השוואת תשובות, לא על מתן ציונים מוחלטים.
- השימוש בציונים מוחלטים מטעה כי אין למודל סרגל חיצוני אמיתי למדידה.
- העדיפות היא לתת למודל להשוות בין שתי אפשרויות ולא לדרוש ממנו מספר בודד.
- הוספת דוגמאות טובות וגרועות בפרומפט משפרת את יכולת השיפוט של המודל.
- רובריקות בינאריות (כן/לא) עדיפות על ציונים מספריים כי הן מעוגנות בספירה אמיתית.
איך ניתן להבטיח שמודל שפה ייתן הערכה אמינה כאשר אין לו סרגל חיצוני למדידה?
- 1להוסיף בפרומפט דוגמאות ברורות לטקסט טוב ולגרוע כדי לעגן את השיפוט.
- 2לבנות רובריקות בינאריות עם שאלות כן/לא במקום לבקש ציונים מספריים.
- 3לתכנן לולאות שיפור עצמי על בסיס השוואה בין גרסאות ולא על ציונים מוחלטים.
- 4לבקש מהמודל להשוות בין שתי אפשרויות ולבחור את הטובה יותר עם הסבר.
- 5לבדוק מראש כל סף אוטומטי של ציון מול דוגמאות אמיתיות ולא לסמוך על התחושה שהמספר נראה הגיוני.
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
שאל את הפרק (Chat with Episode)
קבל תשובות מיידיות מתוך תמלול וניתוח ה-AI
שאלות מומלצות בלחיצה אחת:
/ שאלות נפוצות על הפרק
- מדוע מודלי שפה לא מתאימים לתת ציונים מוחלטים על טקסטים או תשובות?
- מודלי שפה לא למדו לתת ציונים מוחלטים כי במהלך האימון הם מתמקדים בהשוואה בין תשובות ולא בהערכת ערך מספרית. הם משתמשים בסולם פנימי שנוצר מהשוואות בין אפשרויות ולא בסרגל חיצוני ברור, ולכן מספרים שהם מייצרים כציונים הם ניחושים ולא מדדים אמיתיים.
- כיצד מתבצע שלב האימון השלישי במודלי שפה ומה תפקיד מודל התגמול?
- בשלב האימון השלישי מייצרים מספר תשובות לפרומפט אחד, ובני אדם מדרגים אותן בהשוואה - איזו תשובה טובה יותר. מודל התגמול מאומן על דירוגים אלו כדי לנבא איזו תשובה בני אדם יעדיפו, וכך המודל הראשי לומד לייצר תשובות שהמודל הזה 'אוהב'.
- מה ההבדל בין בקשה למודל שפה לתת ציון לבין בקשה להשוות בין שתי אפשרויות?
- בקשה לתת ציון דורשת סולם מדידה מוחלט שאינו קיים למודל, ולכן התוצאה היא ניחוש. לעומת זאת, בקשה להשוות בין שתי אפשרויות מאפשרת למודל להסתמך על נקודת ייחוס ברורה שמצויה בהשוואה עצמה, מה שמוביל לתשובה אמינה ומדויקת יותר.
- אילו שיטות פרקטיות מומלצות לשימוש במודלי שפה במקום לבקש מהם לתת ציון מספרי?
- מומלץ להשתמש בעוגנים בתוך הפרומפט עם דוגמאות טובות ורעות, להחליף ציונים ברובריקה בינארית של שאלות כן/לא, ולבנות לולאות שיפור עצמי שבהן המודל משווה בין גרסאות ולא נותן ציון מספרי. כך המודל יכול להעריך בצורה אמינה יותר ולהימנע מבעיות של חוסר נקודת ייחוס.
- מה הסכנה בשימוש בציונים מספריים שמודל שפה מייצר ללא נקודת ייחוס חיצונית?
- הסכנה היא שהמספרים הללו הם המצאות של המודל ללא בסיס אמיתי, מה שעלול להוביל לקבלת החלטות שגויות, יצירת דשבורדים עם נתונים מוטים, והסתמכות על מידע שאינו מהימן, מבלי שהמשתמשים יוכלו לזהות זאת.
מתיאור הפרק
ביקשתם מ-AI לתת ציון למשהו? לדרג מ-1 עד 100? טעות! הנה מה שכדאי לכם לעשות במקום (משפר משמעותית את התשובות) ────────────────────────── רוצים לבנות "סוכנים" שיעבדו במקומכם? לטירונות סוכנים רוצים להתייעץ עם בוגרי הטירונות? לבוגרי הטירונות ────────────────────────── אתם מתחילים שרוצים ללמוד AI בצורה מסודרת? 📚 קורס ׳לומדים AI׳ ────────────────────────── רוצים 7 ימים של טיפים סודיים ל-AI? היכנסו לקישור ושלחו את המילה "הצלחה" 🎯 ────────────────────────── להכניס AI לשגרה 👇🏼 🥇 הכשרות AI לארגונים 📚 קורס ׳לומדים AI׳ 📌 ׳אימפרוב פלוס׳ - מנוי בתשלום ────────────────────────── בסושיאל שלנו אפשר ללמוד עוד המו
/ נושאים קשורים
איך נוצר העמוד הזה
102 פרקים של AI לומדים = 102 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.