עושים תוכנה Osim Tochnaפודקאסט של רשת עושים היסטוריה
194 פרקים
על התוכנית
עמית בן דור, ראש תחום בינה מלאכותית ולמידת מכונה בAura מגיש פודקאסט למפתחים ומפתחות, ולכל מי שרוצה להבין ממה עשוי העולם המפוקסל שנבלע בבטן האלגוריתם. בכל פרק הוא מוביל שיחות עומק עם אנשי ונשות מקצוע מהתעשייה על קוד, ארכיטקטורה, תהליכי פיתוח ואתגרי היום יום בצוותים, ומשלב סיפורים אישיים ותובנות קריירה. לפודקאסטים נוספים בקרו ב״רשת עושים היסטוריה״ 🚀 הפודקאסט נערך ע״י - ינאי צוריה
האזינו לפרק המלא
אנחנו עוזרים למצוא את הפרק, ההאזנה המלאה נמצאת אצל היוצרים, בפלטפורמה שלהם. הכפתור הראשון מוביל לפרק האחרון.
מה זה עושים תוכנה Osim Tochna?
עושים תוכנה Osim Tochna הוא פודקאסט ישראלי בקטגוריית הייטק וסטארטאפים מאת רשת עושים היסטוריה. ניתוח טכני מעמיק של האתגרים, התשתיות והפרקטיקה הנדרשת להטמעת פתרונות AI וסוכנים חכמים בסביבות ייצור מורכבות. בארכיון 194 פרקים, פרק חדש בערך פעם בשבועיים, אורך פרק ממוצע כ-45 דקות.
| קטגוריה | הייטק וסטארטאפים |
|---|---|
| פרקים בארכיון | 194 |
| תדירות (מהפרקים האחרונים) | פרק חדש בערך פעם בשבועיים |
| אורך פרק ממוצע (בפרקים האחרונים) | כ-45 דקות |
| הפרק האחרון | 19 באוקטובר 2026 |
| פרקים עם ניתוח עומק | 4 |
עודכן:
"אל תתחילו מבניית אייג'נטים - מתחילים מ-education"
עמית בן דור מארח את שר כרמל, וזו העצה שחותכת את ההייפ: לפני שבונים פלטפורמת AI בארגון, מלמדים אנשים. סדנאות קצרות הן הקטליזטור לכל מה שבא אחר כך. עושים תוכנה לא נעצר בדמו המרשים - הוא נכנס למה שקורה בפרודקשן.
הפרקים יורדים לעומק הנדסי אמיתי: למה אי אפשר להקצות את כל זיכרון ה-GPU למודל בלבד, ולמה שיטות הבדיקה המסורתיות נכשלות עם סוכני AI. כדברי אחד האורחים, השאלה היא לא איך למנוע שגיאות אלא איך להפסיק להיות מופתעים מהן.
מפתח שרוצה להבין את הטכנולוגיה לפני שהוא מיישם אותה יקבל כאן עומק ולא סיסמאות.
ניתוח טכני מעמיק של האתגרים, התשתיות והפרקטיקה הנדרשת להטמעת פתרונות AI וסוכנים חכמים בסביבות ייצור מורכבות.
המנחה
עמית בן דור מנחה את הפודקאסט מנקודת מבט הנדסית ופרקטית, תוך שהוא מארח מומחים טכנולוגיים מובילים בתחום הבינה המלאכותית. הוא מפגין סקרנות עמוקה לגבי המורכבות התפעולית של הטמעת AI בארגונים ושואף להנגיש ידע מקצועי מעמיק מעבר לרמת הדמוים.
הסגנון
התוכנית מאופיינת בטון מקצועי, ענייני וטכני, המעמיק בפרטי הפיתוח והתפעול של מערכות מורכבות. קצב השיחה הוא יסודי וממוקד, ומבנה הפרקים נוטה לניתוח מקרה או נושא ספציפי תוך הדגשת האתגרים הריאליים בשטח.
תובנות הזהב מהארכיון
- הבנה תיאורטית של מודלי שפה היא תנאי הכרחי לאבחון כשלים במקום הסתמכות על ניסוי וטעייה.
- המעבר מדמוים מרשימים ליישום עסקי כולל קשיים הנדסיים בלתי צפויים, עלויות תפעול גבוהות ובעיות מדידה.
- חינוך והכשרת עובדים בתחום ה-AI הם שלב מקדים וקריטי להצלחה, לעיתים יותר מהטמעת הכלים עצמם.
- שיטות בדיקה מסורתיות לרוב אינן מספקות עבור סוכני AI, ויש צורך בניתוח דאטה עמוק כדי לזהות דפוסי שגיאה.
- משאבי מחשוב וקונטקסט תמיד יהיו מוגבלים, ולכן אופטימיזציה וקומפקטיזציה הם חלק אינטגרלי מהפיתוח.
התוכנית מיועדת למהנדסי תוכנה, מומחי למידת מכונה ומובילי טכנולוגיה המעוניינים להעמיק באתגרים האמיתיים של עבודה עם AI בקנה מידה ארגוני.
השאלות הבולטות בארכיון
כיצד האינטגרציה של אג'נטים חכמים עם כלים חיצוניים תשנה את חוויית השימוש והיעילות בארגונים בשנה הקרובה?
איך בונים תהליך אדיוקיישן אפקטיבי בעולם AI שמשתנה במהירות ומלא באי-ודאות טכנולוגית?
איך מחלקים ומנהלים בצורה אופטימלית את המודלים הגדולים ביותר בין GPUs ומכונות שונות כדי לשמור על ביצועים ולמזער עלויות?
איך ניתן לאזן בין יכולות ה-LLM המתקדמות לבין הצורך באבטחה, דיוק ועמידה ברגולציה בפרודקשן?
4 פרקים = 4 מאמרים אפשריים. כל פרק בארכיון יכול להפוך למאמר עברי SEO/GEO שמדורג בגוגל ומצוטט במנועי AI.
נושאים שהתוכנית עוסקת בהם
פרקים עם ניתוח מלא
עמית בן דור מארח מהנדסים לשיחות עומק על מה שבאמת קורה כשמודלי AI ענקיים פוגשים פרודקשן - מ-GPU שלא מספיקים ועד אייג'נטים שנכשלים בלי להסביר למה.
- בפרק על LLMs: מודל בקנה מידה של טריליוני פרמטרים דורש חומרה של מאות אלפי דולרים בחודש, ולא נכנס ל-GPU בודד או אפילו למכונה אחת
- שורה שמסכמת פרק שלם על אייג'נטים: "השאלה היא לא איך למנוע שגיאות, אלא איך להפסיק להיות מופתעים מהן"
- בפרק מסייברארק: מודל מולטימודל עלול להזות ולפרש שגוי גם קלט פשוט כמו פיקסל שחור, ויש מתח קבוע בין דיוק המודל לעלותו
"השאלה היא לא איך למנוע שגיאות, אלא איך להפסיק להיות מופתעים מהן." המשפט הזה, מאחד הפרקים על אייג'נטים, מתמצת את מה ש'עושים תוכנה' עושה טוב - לוקח את הפער בין ההדגמות המרשימות לבין מה שקורה כשהקוד פוגש משתמשים אמיתיים.
עמית בן דור מארח אנשי מקצוע מהתעשייה, והשיחות צוללות לפרטים שבדרך כלל לא נכנסים למצגת מכר.
בפרק על הרצת מודלי שפה גדולים, למשל, מתברר עד כמה זה יקר ומורכב: מודל בקנה מידה של טריליוני פרמטרים דורש חומרה של מאות אלפי דולרים בחודש, ולא תמיד נכנס אפילו למכונה אחת. מכאן כל האתגר ההנדסי של פיזור המודל בין מכונות.
ובפרק עם מהנדס מסייברארק עולה צד אחר של אותו עולם: מודל מולטימודל שמנתח קלט ויזואלי עלול להזות ולפרש שגוי גם פיקסל שחור פשוט, וכל זה תחת מתח קבוע בין דיוק לעלות.
זה פודקאסט מבית רשת עושים היסטוריה, למפתחים שרוצים לשמוע איך נראית ההנדסה האמיתית - גם לסקרנים שרק רוצים להבין מה באמת קורה מאחורי ה-AI.
נכתב בעזרת AI על בסיס תיאור הפודקאסט. איך זה נעשה
Loop Engineering | תמיר דרשר [עושים תוכנה]
פרקים אחרונים
Loop Engineering | תמיר דרשר [עושים תוכנה]
19 באוקטובר 202647 דק׳פרק ספיישל: ג'וניורים, תעסוקה ואפוקליפסות ה-AI [עושים תוכנה]
8 באוקטובר 202646 דק׳צבא של Assistants - הסיפור של NanoClawֿֿ | גבריאל כהן [עושים תוכנה]
22 בספטמבר 202645 דק׳לוקאלי בדפדפן | גיל פינק [עושים תוכנה] AI
17 באוגוסט 202637 דק׳Second Brain ו- LLM wiki | דנה ממן [עושים תוכנה]
3 באוגוסט 202655 דק׳אורחים:מור חננוביץ׳האם זה מותו של ה-UI? | מור חננוביץ׳ [עושים תוכנה]
20 ביולי 202642 דק׳[עושים תוכנה] AI, פיטורים וקריירה בעולם משתנה
29 ביוני 202645 דק׳הגיע הזמן ל־Skill [עושים תוכנה]
16 ביוני 202639 דק׳קרסר - המדריך השלם [עושים תוכנה]
24 בנובמבר 202538 דק׳האם המתמטיקה נפלה לידי ה-Ai? | ד"ר מייק ארליכסון [עושים תוכנה[
31 באוגוסט 202642 דק׳בינה מלאכותית בפרודקשן: מציאות מול דמיון [עושים תוכנה]
23 בפברואר 202641 דק׳לניתוח המלא של הפרק ←אמ;לקסיכום הפרק
רן תיאר את הקשיים בפיתוח מערכת AI בסקייל גבוה המבוססת על מודלים גדולים ומולטי מודל, כולל בעיות של הזיות, עלויות גבוהות, מדידת דיוק לא ודטרמיניסטית, ואתגרי אבטחה כמו פרומט אינג'קשן והתקפות שונות. הוא הסביר את המורכבות שבבחירת מודלים, שילוב מטה-מידע, ואתגרי רגולציה וקומפליינס, במיוחד עם לקוחות אירופאים. בנוסף, הוזכרו כלים כמו קלודבוט ומערכות לניהול prompts ו-LLM as judge לשיפור הדיוק והבקרה.
קראו עוד ▾הציגו פחות ▴- הזיות של המודל (hallucinations) הן אתגר מרכזי בפיתוח מערכות מבוססות תמונות ו-LLM.
- עלויות השימוש במודלים חזקים גבוהות מאוד ודורשות פתרונות פיננסיים וארכיטקטוניים כמו פינופס.
- הערכת דיוק במודלים לא דטרמיניסטיים היא מורכבת ודורשת מערכות judge מבוססות LLM.
- אבטחה במערכות AI כוללת הגנות מפני פרומט אינג'קשן והתקפות אחרות, והגארדרל הוא כלי מפתח להגנה.
- רגולציה וקומפליינס, במיוחד באירופה, מוסיפים שכבת מורכבות משמעותית בניהול נתונים ושימוש במודלים חיצוניים.
ש&תשאלות ותשובות מהפרק▾מה האתגרים המרכזיים שרן נתקל בהם בפיתוח מערכת מבוססת LLM לפרודקשן בסייבר ארק?
רן מתאר את הקושי להתמודד עם הזיות של המודל שמחזיר תוצאות מקריות, את הצורך בבניית דאטה סט מותאם, את העלויות הגבוהות של מודלים חזקים, ואת האתגרים במדידה ואבטחה במערכת שמתחברת למכונות רגישות דרך RDP ללא התקנת סוכנים.
▾כיצד השימוש במולטי מודל עם תמונות מסך השפיע על דיוק המערכת ומה היו הפתרונות שניסו לשפר אותו?
רן הסביר שהשימוש בתמונות מסך במולטי מודל גרם לבעיות כמו פרשנות שגויה והזיות, וניסו לשפר את הדיוק על ידי שימוש במודלים חזקים יותר, בניית דאטה סט מותאם, הוספת מטה מידע כמו לחיצות עכבר, ואף הדבקת אצבע על המסך שהעלתה את הדיוק באופן דרמטי.
▾מהן הסכנות והאתגרים בתחום האבטחה שצפו בפיתוח מערכות AI עם LLM ומולטי מודל?
רן מציין סכנות כמו פרומט אינג'קשן שמאפשר למשתמשים להכניס פקודות מזיקות, התקפות שונות שמערערות את היעילות, הצורך בגארדרל (firewall) ל-LLM שמבוסס על מודלים זולים, והמורכבות בניהול לוגים ושמירת פרטיות המידע במערכות ענן שונות.
▾כיצד משפיע המורכבות והעלויות של מודלים חזקים על השימוש העסקי במערכות AI בפרודקשן?
רן מדגיש שהמודלים החזקים אמנם משפרים את הדיוק, אך העלויות הגבוהות שלהם, כולל עלויות אינגרס ב-AWS, מגבילות את השימוש העסקי, מה שמצריך בחירה בין מודלים זולים יותר עם דיוק נמוך לבין מודלים יקרים שלא תמיד אפשריים מבחינה כלכלית.
▾איזה מסר רן נותן למפתחים צעירים בהתמודדות עם עולם ה-AI המשתנה במהירות?
רן ממליץ לקחת אוויר, לא לרוץ אחרי כל טרנד מיד, אלא לבדוק אחרי כמה זמן אם הטרנד עדיין רלוונטי, ולהבין שה-POC קל להרים אך הפרודקשן מלא באתגרים, ולכן חשוב לשמור על איזון וללמוד בהדרגה בלי לחץ מיותר.
הAI לא טועה אתם פשוט משתמשים בו לא נכון [עושים תוכנה]
1 ביוני 20261 שע׳ 6 דק׳לניתוח המלא של הפרק ←אמ;לקסיכום הפרק
התחלת העבודה עם AI בארגון חייבת להיעשות דרך התנסות מעשית ולמידה תאורטית על מודלים, קונטקסט ווינדואו וגבולותיהם. חשוב להתחיל עם הדרכות לאנשי הצוות, בעיקר לטכניים, שמאפשרות הבנה טובה יותר לפני בניית אג'נטים ופתרונות מורכבים. בניית אג'נטים מוצלחים תלויה בהבנת תהליכי העבודה הארגוניים, בחיבור נכון לטולים, ובשיתוף פעולה עם בעלי התפקידים שעתידים להחליף. בנוסף, יש להקפיד על פרומטינג גיידליינס וליצור מערכות פידבק לופ לשיפור מתמיד.
קראו עוד ▾הציגו פחות ▴- רוב המפתחים עדיין נמצאים בשלב השימוש הבסיסי ב-LLM בלי שימוש מתקדם בסקילים וסאב-אג'נטים, כשכ-5% בלבד שולטים בכלים מתקדמים.
- קונטקסט ווינדואו הוא מגבלה מרכזית במודלים, ופתרונות כמו קומפקטיזציה וניהול זיכרון הם קריטיים להצלחה.
- הטמעת AI בארגון דורשת קודם כל חינוך והכשרה, בעיקר של הטכניים, שמהווים אנבלרים חשובים עבור הלא טכניים.
- פיתוח אג'נטים מוצלח מתחיל בהבנת תהליכי העבודה של המשתמשים, חיבור לטולים מתאימים, ויצירת פידבק לופ עם המשתמשים לשיפור מתמיד.
- פרומטינג גיידליינס והתאמת הפרומטים למודל ה-LLM הם גורם משמעותי בביצועים של האג'נטים.
ש&תשאלות ותשובות מהפרק▾מהי משמעות ה-context window ב-LLM ולמה היא מהווה אתגר מרכזי בשימוש ב-AI בארגונים?
ה-context window הוא טווח הטוקנים שהמודל יכול לעבד בו זמנית, והוא מוגבל. ה-LLM אומנו כך שהמשימה מתבצעת בתוך ה-context window, ולכן כשמגיעים לסוף הטווח, הדיוק יורד. לדוגמה, בשר הטבעות יש כ-330 אלף מילים, שזה בערך 350 אלף טוקנים, ולכן יש צורך ביכולת קומפקטיזציה כדי להתמודד עם כמויות מידע גדולות. הבעיה הזו גורמת לכך שפרודקשן עם AI דורש הבנה עמוקה של מגבלות ה-context window.
▾כיצד מתבצע תהליך ה-AI enablement בארגונים ומה תפקידו של הידע התאורטי בתהליך זה?
תהליך ה-AI enablement מתחיל בהכשרה של העובדים, בעיקר הטכניים, באמצעות סדנאות שמלמדות איך לעבוד עם כלים כמו קלוד קוד. הידע התאורטי הוא בסיסי וקריטי, כולל הבנה של LLM, knowledge cut-off, ו-context window. ללא הבנה זו, קשה לפתח אג'נטים יעילים ולהימנע מטעויות נפוצות בשימוש ב-AI.
▾מהם האתגרים העיקריים בהטמעת אג'נטים מבוססי AI בפרודקשן וכיצד ניתן להתגבר עליהם?
האתגרים כוללים חוסר בממורי אמין, קושי בניהול הקונטקסט, וטעויות של המודל. יש צורך בבניית ארנס (framework) שמנהל את הלולאה של האג'נט, כולל ניהול הקונטקסט, קומפקטיזציה, ופידבק לופ עם משתמשים. בנוסף, חשוב לשבת עם בעלי התפקידים שהאג'נט אמור להחליף ולהבין את תהליכי העבודה שלהם כדי להתאים את האג'נט לצרכים האמיתיים.
▾כיצד משפיעה רמת הידע הטכני של העובדים על האימוץ וההצלחה של כלים מבוססי AI בארגון?
רמת הידע הטכני משפיעה מאוד על האדופשן. בקרב הטכניים, רק כ-5% באמת יודעים להשתמש בסקילים וסאב-אג'נטים. בקרב הלא-טכניים האדופשן נמוך יותר בגלל קשיים בחיבור כלים, הבנת הקונטקסט והגבלות אבטחת מידע. לכן, חשוב להתחיל בהכשרת הטכניים ולהשתמש בהם כאנבלרים להטמעת ה-AI בארגון.
▾מהם הכלים והפרקטיקות המרכזיות שמפתחים משתמשים בהם כדי לשפר את איכות הקוד שנוצר על ידי AI בפרודקשן?
בריסקי פייט, למשל, משתמשים במרקט פלייס בשם איי-האב שמכיל סקילים לכל שפה ומאפשר יצירת פיארים קטנים. בנוסף, יש MCP גטווייז שמאפשר חיפוש סמנטי בתוך MCPs כדי לשפר את הקונטקסט. המפתחים מבצעים ריוויו אנושי לקוד, מיישמים רפקטורינג מינימלי, ומקפידים על פרומטינג גיידליינס כדי להתאים את הפרומפטים למודלים השונים. כל אלה תורמים לאיכות קוד גבוהה ויציבה.
איך באמת מריצים LLM בסקייל עצום? [עושים תוכנה]
18 במאי 202641 דק׳לניתוח המלא של הפרק ←אמ;לקסיכום הפרק
מודלים גדולים מאוד של למידת מכונה, עם טריליוני פרמטרים, מציבים אתגרים עצומים בהרצה, במיוחד כשאין מספיק זיכרון ב-GPU בודד ויש צורך בחלוקה בין GPUs ומכונות שונות. ניהול ה-KVC cache הוא קריטי לאופטימיזציה של ביצועי המודלים, במיוחד כשעובדים עם קונטקסט ארוך וריבוי משתמשים. קיימים פריימוורקים שונים להרצת מודלים, כמו vLLM ו-sglang, שכל אחד מותאם לסוגי מודלים שונים. בנוסף, קיימת חשיבות רבה להבנת הארכיטקטורה של טרנספורמרים ואקספרטים כדי להתמודד עם המורכבות הטכנית. בתחום האופטימיזציה יש פוטנציאל עצום לחסכון בעלויות, במיוחד בענן, באמצעות כלים כמו קרפנטר לניהול שרתים אוטומטי.
קראו עוד ▾הציגו פחות ▴- מודלים עם טריליוני פרמטרים דורשים חלוקה בין עשרות GPUs ולעיתים בין כמה מכונות, מה שמוסיף מורכבות לוגית וחישובית.
- KVC cache תופס נפח זיכרון עצום ומצריך ניהול חכם כדי לאפשר קונטקסט ארוך ולשרת עשרות משתמשים במקביל.
- ארכיטקטורת טרנספורמרים והמודלים ההיברידיים כמו ממבה ו-SSM הם מפתח להבנת הבעיות והפתרונות בתחום.
- מודלים עם אקספרטים מפעילים רק חלק מהרשת לכל טוקן, מה שמוסיף מימד נוסף של מורכבות בחלוקה ואופטימיזציה.
- כלי תוכנה כמו קרפנטר מאפשרים חיסכון משמעותי בעלויות ענן על ידי ניהול דינמי של שרתים, תוך איזון בין סוגי שרתים והתחייבויות פיננסיות.
ש&תשאלות ותשובות מהפרק▾מהן האתגרים המרכזיים בחלוקה והרצה של מודלים גדולים מאוד של LLM על GPUים מרובים?
מודלים גדולים מאוד, כמו כאלה עם טריליוני פרמטרים, לא נכנסים לזיכרון של GPU בודד ולכן יש צורך לחלק אותם בין כמה GPUים ולעיתים אף בין כמה מכונות. החלוקה הזו מורכבת כי צריך לשמור על חישוב מקבילי נכון, לשתף דאטה בין מכונות ולוודא שהתוצאה זהה למודל שהיה רץ על מכונה אחת. זה כולל שיקולים לוגיים, מערכתיים ואופטימיזציה של העברת מידע בין רכיבים.
▾מהו תפקיד ה-KVC (key-value cache) בריצה של מודלים גדולים וכיצד הוא משפיע על דרישות הזיכרון?
ה-KVC הוא מנגנון לשמירת תוצאות חלקיות של חישובים חוזרים במהלך חיזוי טוקנים במודל טרנספורמר. הוא תופס מקום עצום בזיכרון, לעיתים טרות של זיכרון, במיוחד כשעובדים עם קונטקסט ארוך ומספר רב של משתמשים במקביל. ניהול יעיל של ה-KVC הוא קריטי לאופטימיזציה וכולל שימוש בזיכרונות שונים כמו GPU ו-SSD כדי לאזן בין ביצועים לדרישות זיכרון.
▾כיצד ארכיטקטורת ה-MoE (Mixture of Experts) משפיעה על הפעלת מודלים גדולים ומהם האתגרים הנלווים לכך?
בארכיטקטורת MoE, במקום להשתמש בכל הפרמטרים בכל חיזוי טוקן, מופעלים רק חלק מה'אקספרטים' שהם תת-רשתות בתוך המודל. זה מאפשר שימוש יעיל יותר במשאבים אך מציב אתגר של ניתוב נכון (routing) בין האקספרטים השונים, ניהול אופטימלי של חלוקת העבודה בין GPUים ומכונות, והבנה של איך לשלב את האקספרטים בצורה שמייצרת תוצאה מדויקת ויעילה.
▾אילו כלים ותשתיות תוכנה קיימים להרצת מודלים גדולים ומה ההמלצות למתחילים בתחום זה?
קיימים פריימורקים רבים כמו vLLM, sglang, אטום, מון קייק ועוד, שכל אחד מותאם לסוגי מודלים שונים ולצרכי אופטימיזציה מגוונים. למתחילים מומלץ להתחיל עם מודלים קטנים ולהריץ אותם על המחשב האישי, להשתמש בכלים כמו קלוד או קודקס ללמידה ופתרון בעיות, ולהשתתף בקבוצות תמיכה ישראליות לקבלת מענה מפורט לשאלות.
▾מהם ההיבטים הכלכליים והאתגרים של הפעלת LLM בסקייל גדול, וכיצד ניתן להתמודד איתם?
הפעלת מכונות עם GPUים מתקדמים ל-LLM היא יקרה מאוד, עם עלויות שעשויות להגיע למאות אלפי דולרים בחודש למכונה אחת. חברות רבות מפסידות כסף בתחום זה. כדי להתמודד עם האתגר יש צורך באופטימיזציה מתקדמת של הרצת המודלים, ניהול יעיל של משאבים, שימוש בכלים כמו קרפנטר לאוטומציה של סקיילינג, והבנת האיזון בין עלויות לניצול משאבים כדי להוריד עלויות מבלי לפגוע ביציבות.
בינה מלאכותית 2026. מה מצפה לנו? [עושים תוכנה]
9 בפברואר 202644 דק׳לניתוח המלא של הפרק ←אמ;לקסיכום הפרק
בשנת 2025 ראינו התקדמות משמעותית במודלי בינה מלאכותית, בעיקר בשלב האינפרנס - הרצת המודלים והנגשתם למשתמשים. החברות המובילות שיפרו את המודלים שלהן, והתחילו להציע חומרות ואופטימיזציות שמאפשרות הרצה מהירה ויעילה. בשנה זו החלה התרחבות משמעותית בשימוש באג'נטים חכמים, גם מחוץ לעולם המפתחים, עם אפשרות לשימוש בכלים חיצוניים ופרואקטיביות גבוהה יותר. בנוסף, נרשמה מגמה גיאופוליטית של הפרטה במערב מול פתיחות בסין בתחום האופן סורס.
קראו עוד ▾הציגו פחות ▴- מודלי שפה עברו ממצב של אימון כבד לשלב של כיוונון ופרי-טריינינג, מה שמאפשר תגובות מדויקות ומותאמות יותר.
- ההשקה של חומרות מיוחדות לאינפרנס, כמו רכישת גורוק על ידי נווידיה, משפרת את היכולת להפעיל מודלים במהירות וביעילות.
- הרחבת השימוש באג'נטים חכמים מעבר למפתחים, עם אינטגרציה לכלים חיצוניים, תאפשר חוויית משתמש עשירה ופרואקטיבית.
- הקמת קהילות מקצועיות כמו MDLI תומכות בקידום תחום הבינה המלאכותית בישראל ומחברות בין אנשי מקצוע.
- המגמה הגיאופוליטית מצביעה על סין כמובילה בתחום האופן סורס, בעוד המערב נע לכיוון סגירת מודלים.
ש&תשאלות ותשובות מהפרק▾כיצד מתאר אורי אליה בייב את השינוי המרכזי בתחום הבינה המלאכותית בשנת 2025?
אורי אליה בייב מתאר את שנת 2025 כשנה משמעותית שבה בגרות המודלים החושבים הפכה למיינסטרים, עם התקדמות משמעותית בתחום האינפרנס, כלומר בשלב שבו מריצים את המודלים לאחר האימון, כולל רכישת גורוק על ידי נווידיה לשיפור ביצועי השבבים.
▾מהם הסיכויים והאתגרים שהוזכרו לגבי התפתחות האג'נטים (agents) בשנת 2026?
הוזכר כי בשנת 2026 האג'נטים ייצאו מעבר לעולם המפתחים ויהפכו לנגישים יותר לציבור הרחב, עם יכולת להשתמש בכלים חיצוניים דרך API, מה שיאפשר להם לבצע משימות מורכבות באופן פרואקטיבי ולשפר את חוויית המשתמש.
▾כיצד מתייחס אורי אליה בייב להשפעת הגיאופוליטיקה על תחום הבינה המלאכותית, במיוחד ביחס למערב ולסין?
אורי מציין כי המערב נעשה יותר פרופרייטרי וסגור במודלים שלו, בעוד שסין מובילה בתחום האופן סורס עם מודלים כמו דיפסיק ומעבדות סיניות שמצטיינות, מה שעשוי להוביל לכך שהמערב יישאר מאחור בטכנולוגיה פתוחה.
▾מה ההבדל בין תהליך האימון לתהליך האינפרנס במודלי בינה מלאכותית, וכיצד זה השפיע על השנה האחרונה?
תהליך האימון הוא שלב שבו מאמנים את המודל על חומרה מתקדמת, בעוד תהליך האינפרנס הוא השלב שבו מריצים את המודל כדי להנגישו למשתמשים. בשנת 2025 הייתה התקדמות משמעותית באופטימיזציה של האינפרנס, כולל חומרות מיוחדות כמו אלו של גורוק שנרכשה על ידי נווידיה.
▾איזה תפקיד ממלאת קהילת MDLI שהקים אורי אליה בייב בתחום הבינה המלאכותית בישראל?
קהילת MDLI, שבראשה עומד אורי אליה בייב, מרכזת כ-50 אלף אנשי מקצוע טכניים בתחום הבינה המלאכותית בישראל, ומקדמת יוזמות כמו כנסים, לוחות משרות ודוחות מחקר כדי לקדם את התחום בארץ.
כתבות במגזין על התוכנית
שיווק והכנסות מעושים תוכנה Osim Tochna: שאלות נפוצות
העמוד הזה נבנה אוטומטית מהפיד שלכם. אם אתם מנחים את התוכנית, אלה השאלות שאנחנו נשאלים הכי הרבה.
- המלצה על פודקאסט: איך עושים תוכנה Osim Tochna מקבל המלצה ונמצא כאן?
- פודקאסט·ישראל מושך את הפיד של עושים תוכנה Osim Tochna אוטומטית, ולכן העמוד הזה קיים בלי שביקשתם. מה שקובע אם מאזין חדש מגיע אליו הוא כמה טקסט אמיתי יש עליו: תיאור, תמלול, ניתוח פרקים ונושאים שאפשר לחפש לפיהם בקטגוריית הייטק וסטארטאפים. פרקים שעברו תמלול וניתוח מופיעים גם בעמודי הנושא ובמדריכים שלנו, ולכן הם מקבלים הרבה יותר חשיפה מפרק שיש לו רק כותרת. כך תוסיפו לפודקאסט שלכם את שכבת התוכן שמביאה את ההמלצות.
- כיצד לשווק את הפודקאסט שלך בלי תקציב פרסום?
- השיווק היחיד שעובד לאורך זמן לפודקאסט הוא להיות התשובה שמישהו חיפש. אודיו לבדו לא נמצא בחיפוש, אבל טקסט שנוצר מתוך האודיו כן, ולכן הדרך הזולה ביותר לשווק את עושים תוכנה Osim Tochna היא להפוך כל פרק לעמוד שאפשר לדרג ולשתף. אותו עמוד משמש גם ברשתות, בניוזלטר ובפניות לאורחים, במקום לינק לנגן שאף אחד לא פותח. הנה איך זה עובד בפועל ליוצרים.
- כיצד להרוויח כסף מהפודקאסט שלך?
- שלושת המסלולים המעשיים הם חסויות, מכירת השירות או המוצר שלכם דרך הפודקאסט, ומנוי או תוכן בתשלום. לכל אחד מהם מפרסם או לקוח מבקש לראות נכס מסודר, לא רק קובץ שמע: עמוד לכל פרק, נושאים ברורים ותנועה שמגיעה מחיפוש. 194 הפרקים של עושים תוכנה Osim Tochna הם המלאי שממנו בונים את הנכס הזה. ראו את המסלול שאנחנו מציעים ליוצרים.
- למה הארכיון של עושים תוכנה Osim Tochna כמעט לא מופיע בגוגל וב-ChatGPT?
- מנועי חיפוש ומודלים של AI קוראים טקסט, לא שמע. פרק שקיים רק כקובץ MP3 עם כותרת ושורת תיאור הוא מבחינתם עמוד כמעט ריק, ולכן ארכיון שלם יכול להיות בלתי נראה. ברגע שהפרק מתומלל ונכתב ממנו מאמר מסודר, יש למנוע מה לצטט וגם ל-ChatGPT ולפרפלקסיטי יש מקור להפנות אליו. כך הופכים ארכיון שקוף למקור שמצטטים.
- מה מקבלים כש-194 הפרקים של עושים תוכנה Osim Tochna הופכים למגזין?
- 194 פרקים = 194 מאמרים: אתר מגזין בעברית על הדומיין שלכם, מאמר לכל פרק עם תקציר, נקודות מפתח וציטוטים מתוך השיחה, וקישורים פנימיים בין הפרקים לפי נושא. כל מאמר מפרסם את עצמו אוטומטית ומצרף את נגן הפרק, כך שקורא שהגיע מחיפוש יכול להאזין באותו עמוד. המאמרים בעמודי הפרקים כאן נוצרו בדיוק בשיטה הזו, אז אתם רואים את התוצר לפני שאתם משלמים עליו. לפרטים המלאים ולדוגמאות בעמוד היוצרים.
- כמה עבודה זה דורש מכם כמנחים?
- אתם ממשיכים להקליט בדיוק כמו היום. התמלול, כתיבת המאמר, ההגהה הטכנית והפרסום רצים אוטומטית מתוך פיד ה-RSS של עושים תוכנה Osim Tochna, וגם פרקים חדשים נכנסים לבד. מה שנשאר לכם הוא לאשר את הטון ואת מה שלא מפרסמים. דברו איתנו דרך עמוד היוצרים.
פודקאסטים דומים
AI Unfiltered
גיל קליינרט וזיו ישעיהו
סוכני הבינה
אורן שייר - ניר בן דוד
בינה מלאכותית עם יובל אבידני
יובל אבידני
תתעלם מההוראות
איתן לויט
עמוק בבוץ
אדם קליין
AI אנג׳נירינג
monday AI engineering

