האזינו לפרק המלא
אנחנו עוזרים למצוא את הפרק, ההאזנה המלאה נמצאת אצל היוצרים, בפלטפורמה שלהם.
/ הפרק במספרים
| פורסם | 17 באוגוסט 2026 |
|---|---|
| אורך | 39 דק׳ (קצר ב-10% מהממוצע בתוכנית) |
| הנושא המרכזי | תשתיות לסוכני בינה מלאכותית בקנה מידה גדול |
| אורחים | דור כהן |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק עם דור כהן?
הרצת סוכני בינה מלאכותית בקנה מידה גדול דורשת שער מרכזי לשליטה בעלויות ובתעבורה, בדיקות איכות רציפות וחלופות מודלים שנבדקו מראש.
לולאה במוצר ניסיוני במאנדיי צברה הוצאה של 50 אלף דולר ביום אחד והמחישה את הצורך במדידת שימוש ובהגבלת עלויות ברמת הפיצ׳ר והלקוח. שער הבינה המלאכותית מרכז ניתוב למודלים, מגבלות שימוש ושכבות הגנה, בעוד בדיקות לפני הייצור ובדיקות על סשנים אמיתיים מאפשרות לעקוב אחר איכות ולהחליף מודלים בהדרגה. סידור נכון של פרומפטים לצורך מטמון, צמצום פלט והפרדת תכנון מביצוע הם דרכים להפחית עלויות. צוותי המוצר נשארים אחראים לזיהוי לולאות, להתאמת הפרומפטים למודלים ולבדיקת התנהגות הסוכנים.
חותמת זמן בתחילת פרומפט עלולה לשבור את המטמון כבר מהתו הראשון המשתנה, כך שפרט טכני קטן מבטל את החיסכון מהוראות קבועות שמופיעות אחריו.
/ תובנות מרכזיות
- בדיקות לא מקוונות בוחנות שינויים בקוד ובפרומפטים מול מאגר תרחישים נבחר, ואילו בדיקות מקוונות מודדות את איכות הסשנים האמיתיים של הלקוחות לאורך זמן.
- בדיקות דטרמיניסטיות, כמו מבנה תשובה או שימוש בכלי מסוים, מתאימות לקוד; הערכת טון ושקילות משמעות בין ניסוחים מתאימה לשיפוט באמצעות מודל שפה.
- מעבר למודל חדש דורש בדיקה מוקדמת ולאחריה חשיפה הדרגתית לקבוצות משתמשים, תוך מדידת איכות ועלות.
- אפשר להשתמש במודל חזק לתכנון ובמודל רזה לביצוע, ולהפעיל מודל חזק במיוחד רק בשלבים מורכבים כמו יצירת כלי תוך כדי עבודת הסוכן.
- בחירת מודל כפופה גם להעדפות הלקוח בנוגע לספקים, למיקום המידע ולשמירתו, ולא רק לאיכות התשובה ולמחיר.
איך יודעים ששינוי במודל או ביכולות הסוכן אינו פוגע באיכות אצל עשרות אלפי סוכנים שהלקוחות מגדירים בעצמם?
- 1הגדירו מדידת שימוש, מגבלות עלות והתראות לכל פיצ׳ר ולכל לקוח דרך שער מרכזי.
- 2בנו מאגר תרחישי בדיקה מייצגים והריצו בדיקות איכות על שינויים בקוד ובפרומפטים, לצד מעקב אחר סשנים בייצור.
- 3הציבו הוראות ותוכן קבוע בתחילת הפרומפט והרחיקו משם חותמות זמן ותוכן משתנה כדי לשמר את המטמון.
- 4הגדירו מבנה פלט קצר ומדויק כדי לצמצם טוקנים שאינם משרתים את המשימה.
- 5בדקו מראש מודל חלופי, לרבות חלופה מספק אחר, ונהלו גרסאות של הפרומפטים בהתאם למודלים.
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
הפרק הזה מצוטט במגזין: סוכני AI בארגון: מה ישראלים שבונים אותם אומרים על תשתית, אבטחה, רכש והטמעה
שאל את הפרק (Chat with Episode)
קבל תשובות מיידיות מתוך תמלול וניתוח ה-AI
שאלות מומלצות בלחיצה אחת:
מתיאור הפרק
הפרק השני שלנו עשה חשק לעוד? זה הזמן ללחוץ על עוקב. הפרק השאיר משהו לחשוב עליו? אפשר להגיב בתגובות או או ב בלינקדין שלנו לעדכונים על מיטאפים של monday AI engineering - כאן אפשר לעקוב אחרינו ב Meetup מה קורה כש־loop אחד שורף $50,000 ביום - על משהו שאפילו לא בפרודקשן? זה הרגע שבו מבינים למה AI Infra היא כבר לא nice to have. בפרק הזה של AI אנג׳נירינג , נתנאל אברג'ל ועידו קרלן מארחים את דור כהן, Director of Engineering ומוביל ה־AI Infra ב־monday.com , לשיחה על התשתית שמאפשרת להריץ AI בסקייל. מ־AI Gateway וניתוב בין מודלים, דרך evals, אבטחה ועלויות ועד vendor lock-in - ולמה prompts הם code .
/ עוד פרקים על בינה מלאכותית
- מנועי הכסףגיל שויד: מההשוואה לבועת הדוט.קום, דרך החיים כיו״ר ועד השינוי שהכרחי לילדינוגיל שויד, ממייסדי צ'ק פוינט, רואה ב-AI מהפכה שהשקעות הענק בה עוד לא הוכיחו החזר, אך מעריך שהיא תכפיל את כוחם של עובדים ושל ישראל, בתנאי שמערכת החינוך תתעדכן ושלא יוטל על התוכנה עול רגולציה כבד.
- מנהלי שיווק מצייצים - אבי זיתןפרק 427: אושרת כהן, סמנכ״לית חטיבת לקוחות קבוצת זאפסוכני AI הופכים לטראפיק החדש של האתרים, ועסקים שלא יבנו חוויה שמתאימה להם ייעלמו מעיני הצרכנים.
- הייטק, חרדים ומה שביניהםמהנדסי AI, כדאי שתכירו: זיכרון, מהירות ועלותמהנדס AI שמבין זיכרון, תקשורת בין מעבדים גרפיים וקוונטיזציה יכול להחליט מראש על הארכיטקטורה הנכונה, במקום לגלות בדיעבד שבזבז עשרות אלפי דולרים על אימון או אירוח.
- אנשים ומחשביםS1E445: ראיון עם ניסים בראל, ממייסדי תעשיית האבטחה בישראל, יזם חברתי ומחבר הספר ערך מוסףניסים בראל, שעלה ממרוקו בגיל עשר לצריף במעברה והקים את קומסק, מכר את החזקותיו ב-2014 כדי להעביר הלאה את ההזדמנויות שקיבל, דרך יזמות לנשים, לסטודנטים בפריפריה ולתלמידים מצטיינים.
/ נושאים קשורים
איך נוצר העמוד הזה
6 פרקים של AI אנג׳נירינג = 6 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.