/ הפרק במספרים
| פורסם | 8 ביולי 2026 |
|---|---|
| אורך | 40 דק׳ (ארוך ב-10% מהממוצע בתוכנית) |
| הנושא המרכזי | סוכני AI אוטונומיים, גאברננס והשפעת AI על תעשיות |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק?
שני אנשי AI מתעמתים על השאלה אם 'לופ אינג'יניירינג' זה בכלל חידוש, איך בכלל אפשר לרסן סוכן אוטונומי שיודע לעקוף את הכללים של עצמו, ואם הוליווד באמת גוססת.
מה שמפתיע פה זה שגיל, הספקן, לא מפסיק לפוצץ בלונים - הוא טוען שלופ אינג'יניירינג זה סתם לולאת while ישנה, ושחברות ה-AI לא בהכרח בצד שלך כשהמודל החדש שורף 30 אחוז יותר טוקנים. זיב, שבונה בפועל פלטפורמת גאברננס לבוטים, מחזיר את זה לקרקע: ההנחה שאפשר לסמוך על חוקים פנימיים של בוט מתערערת - חוקי קלוד הם רק גיידליינס שאפשר לשכנע אותו לעקוף, ולכן צריך בלמים דטרמיניסטיים מבחוץ. השאלה שנשארת פתוחה היא איך שולטים בהחלטה ברמת התוכן, כמו האם מותר לשתף אימייל, כשזה בהגדרה דורש שיקול דעת לא דטרמיניסטי שמחזיר אותך ישר ללופ.
גאברננס על סוכנים אוטונומיים חייב להיפתר בכלים דטרמיניסטיים מבחוץ ולא מתוך הבוט - אף פעם לא נותנים לבוט את הסיסמה, אלא מנתבים כל פעולה דרך שירות חיצוני שמחזיק את הקרדנשאלס ומאמת כל בקשה, כי חוקים פנימיים על מכונה לא דטרמיניסטית תמיד ניתנים לעקיפה.
/ תובנות מרכזיות
- לופ אינג'יניירינג הוא בעצם לולאת while ותיקה בחיבור לאג'נט - ה'רלף לופ' (קלוד קוד עטוף בלולאה שלא עוצרת עד שהמטרה הושגה) הוא מה שפתח פתאום סוכנים אוטונומיים למשימות ארוכות טווח; החידוש הוא בחיבור, לא בלולאה.
- אג'נט שמייצר סאב-אג'נט שמייצר סאב-אג'נט זה לופ בתוך לופ בתוך לופ - מיליוני טוקנים נשרפים בלי ידיעה, ומודל חדש כמו אופוס 4.8 בזבזני בכ-30 אחוז מקודמו במחיר זהה לטוקן.
- הפתרון היחיד לדליפת סיסמה מבוט לא דטרמיניסטי הוא פשוט לא לתת לו את הסיסמה - להוציא את ההזדהות והפעולות הרגישות לגורם שלישי דטרמיניסטי, ולהשאיר את הבוט חופשי רק בתוך סנדבוקס עם סט כלים מוגדר.
- הקצה הלא פתור: גאברננס על תוכן, כמו האם מותר לבוט לשתף את מה שקרא באימייל, דורש שיקול דעת לא דטרמיניסטי - ולכן חוזר בדיוק לאותה בעיית אמינות של ה-LLM.
- הטענה שהוליווד ותעשיית האנטרטיינמנט נחתכות על ידי AI (ניצבים, סטים, הפקה מוזיקלית מוחלפים), מול הטענה הנגדית שהצורות הישנות שורדות כשוק פרימיום נישתי, בדיוק כמו תקליטי ויניל והופעות חיות.
מה ההבדל בין לופ אינג'יניירינג לבין לולאת while רגילה - איפה בכלל החידוש פה?
- 1הגדר מערכת בלמים דטרמיניסטיים עבור הבוטים שלך כדי למנוע דליפות מידע רגיש.
- 2בצע ניתוח על השפעת השימוש בלולאות while על הביצועים של המודלים שלך.
- 3רשום את הכללים והגיידליינס שאתה רוצה שהבוטים שלך יעקבו אחריהם, והקפד על כך שהם יהיו ברורים ומוגדרים.
- 4נתח את השפעת השימוש בבוטים על תעשיית התוכן שלך, והכן תוכנית פעולה להתמודדות עם השינויים.
- 5הגדר סנדבוקס לבוטים שלך, שבו הם יכולים לפעול עם סט כלים מוגדר מבלי גישה למידע רגיש.
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
/ שאלות נפוצות על הפרק
- על מה הפרק הזה?
- מה שמפתיע פה זה שגיל, הספקן, לא מפסיק לפוצץ בלונים - הוא טוען שלופ אינג'יניירינג זה סתם לולאת while ישנה, ושחברות ה-AI לא בהכרח בצד שלך כשהמודל החדש שורף 30 אחוז יותר טוקנים. זיב, שבונה בפועל פלטפורמת גאברננס לבוטים, מחזיר את זה לקרקע: ההנחה שאפשר לסמוך על חוקים פנימיים של בוט מתערערת - חוקי קלוד הם רק גיידליינס שאפשר לשכנע אותו לעקוף, ולכן צריך בלמים דטרמיניסטיים מבחוץ. השאלה שנשארת פתוחה היא איך שולטים בהחלטה ברמת התוכן, כמו האם מותר לשתף אימייל, כשזה בהגדרה דורש שיקול דעת לא דטרמיניסטי שמחזיר אותך ישר ללופ.
- מהן התובנות המרכזיות מהפרק?
- לופ אינג'יניירינג הוא בעצם לולאת while ותיקה בחיבור לאג'נט - ה'רלף לופ' (קלוד קוד עטוף בלולאה שלא עוצרת עד שהמטרה הושגה) הוא מה שפתח פתאום סוכנים אוטונומיים למשימות ארוכות טווח; החידוש הוא בחיבור, לא בלולאה. · אג'נט שמייצר סאב-אג'נט שמייצר סאב-אג'נט זה לופ בתוך לופ בתוך לופ - מיליוני טוקנים נשרפים בלי ידיעה, ומודל חדש כמו אופוס 4.8 בזבזני בכ-30 אחוז מקודמו במחיר זהה לטוקן. · הפתרון היחיד לדליפת סיסמה מבוט לא דטרמיניסטי הוא פשוט לא לתת לו את הסיסמה - להוציא את ההזדהות והפעולות הרגישות לגורם שלישי דטרמיניסטי, ולהשאיר את הבוט חופשי רק בתוך סנדבוקס עם סט כלים מוגדר. · הקצה הלא פתור: גאברננס על תוכן, כמו האם מותר לבוט לשתף את מה שקרא באימייל, דורש שיקול דעת לא דטרמיניסטי - ולכן חוזר בדיוק לאותה בעיית אמינות של ה-LLM. · הטענה שהוליווד ותעשיית האנטרטיינמנט נחתכות על ידי AI (ניצבים, סטים, הפקה מוזיקלית מוחלפים), מול הטענה הנגדית שהצורות הישנות שורדות כשוק פרימיום נישתי, בדיוק כמו תקליטי ויניל והופעות חיות.
/ עוד פרקים על קולנוע
- 001-פודקאסט-הצומתהצומת | מאחורי המצלמה: איך שולטים בתודעת הצופה? - גיל גולןשיחה עם הבמאי ומבקר הקולנוע גיל גולן על המניפולציות והחוקים הסמויים שמאחורי סיפור קולנועי טוב.
- 1-1-אסף-ליברמן-מארח-one-plus-one-with-asaf-liberman1-1-אסף-ליברמן-מארח-one-plus-one-with-asaf-libermanמאיר פנינגשטיין (פוגי) מספר על פועלו רב השנים להפקת פסטיבל הסרטים הישראלי בלוס אנג'לס, לצד זיכרונות מלהקת כוורת.
- beauty-and-the-gleek-היפה-והגליקמופע האימים, בהשתתפות אורחת מיוחדת: מעיין שביט - ע2פ5שלושה חובבי גלי מפרקים פרק מחווה כושל לרוקי הורור, ותוך כדי מגלים שהבלגן הוא בדיוק מה שהופך אותו לטקסט פולחני.
- doron-giat-music-club-דורון-גיאת-מועדון-המוזיקהטכנאי הסאונד יונתן יעקבי מתארח בפודקאסט של דורון גיאתיונתן יעקובי מספר על הדרך שלו לסאונד ולמוזיקה.