יהודי פולין בין מלחמות העולם [מה שנשאר לספר]

לפני שבונים אייג'נטים ופלטפורמות — צריך אג'וקיישן וידע תיאורטי על LLM, כי כל בעיית האייג'נטים בסוף היא בעיה אחת: מה נכנס לחלון הקונטקסט.

פרק של 'עושים תוכנה' בהנחיית עמית בן דור, המארח את שר כרמל, דירקטור AI Enablement במיקסטיילס ופאונדר קהילת Squid Club. השיחה עוסקת בהטמעת AI ואייג'נטים בארגונים — איך מתחילים, איפה הכאבים, ואיך מביאים אייג'נטים לפרודקשן. שר טוען שהטעות הנפוצה היא לקפוץ ישר לבניית מוצרים, בעוד שהמנוף האמיתי הוא חינוך (education) וידע תיאורטי על איך מודלים עובדים. הפרק מתאים למהנדסים, מובילי טכנולוגיה ואנשי ארגון שרוצים להבין לעומק את היסודות מתחת לרעש של הכלים החדשים, ולא רק לרכב על הטרנד.

תובנות מרכזיות

• הצעד הראשון בכל סדנה אינו בניית אייג'נטים אלא חינוך: ללמד מה זה knowledge cut-off, מה זה context window ולמה הוא בכלל קיים — זה הקטליזטור לכל שאר התהליכים.
• כל בעיית האייג'נטים בסוף מתנקזת לשאלה אחת — מה נכנס לחלון הקונטקסט. ב-30-40 אלף הטוקנים הראשונים המודל מרגיש כמו 'סיירת מטכ"ל', אבל ככל שמתמלא (170 אלף ומעלה) האיכות יורדת.
• חלון קונטקסט גדול יותר לא יפתור את הבעיה — בדיוק כמו ש-RAM ודיסק אינם אינסופיים, גם הקונטקסט מוגבל; אפילו עם מיליון טוקנים לא הגיוני 'לזרוק' חצי מיליון טוקנים לא רלוונטיים ולצפות לתוצאה טובה.
• ה-LLM נוטה לחזור להרגלים מתוך ה-training data: גם אם תבקש 'uv' במקום 'pip', לרוב יציע pip install, כי כמות הקוד הישן בדאטה גדולה פי מאות.
• שר מצדד בעבודה 'וניל' עם הכלים (כמו בוריס צ'רני מ-Claude Code) ולא בערימות super-powers ופלאגינים — מי שבאמת מבין את היסודות עושה את העבודה היטב בלי שכבות מסביב.
• מבחן לקמוס לרמת הידע שלך: כשיוצא פיצ'ר חדש (Plan Mode, סקילים, סאב-אג'נטים) — אם בנית כבר משהו דומה או חיכית לו בדיוק, אתה ברמה טובה; אם לא הבנת מה הוא פותר, כנראה אינך זקוק לו.