האם נמצא התחליף לטרנספורמרים? ראיון עם גלעד לוי מחברת Manifold
עודכן: מאת צוות פודקאסט·ישראל
האזינו לפרק המלא
אנחנו עוזרים למצוא את הפרק, ההאזנה המלאה נמצאת אצל היוצרים, בפלטפורמה שלהם.
/ הפרק במספרים
| פורסם | 6 ביולי 2026 |
|---|---|
| אורך | 39 דק׳ |
| הנושא המרכזי | פיתוח ארכיטקטורות חדשות בבינה מלאכותית |
| אורחים | אבי גולן |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק עם אבי גולן?
ארכיטקטורות AI צריכות לעבור שינוי יסודי כדי להתגבר על מגבלות הטרנספורמרים ולהתקרב לאינטליגנציה אמיתית.
גלעד לוי מסביר שהטרנספורמרים, למרות הצלחתם הגדולה, מוגבלים ביכולת הלמידה שלהם ובייצוג העולם האמיתי. הוא מדגיש את הצורך בארכיטקטורות חדשות שמתמקדות בלמידה רציפה ובהבנת הקונטקסט הרחב, תוך שימוש בגישות כמו Joint Embedding Predictive Architectures. בישראל יש מחסור באקו-סיסטם תומך למחקר מתקדם בבינה מלאכותית, מה שמוביל לנטישת טאלנט. עם זאת, קיימת הזדמנות לבנות מעבדות מחקר חדשניות שמחברות בין מחקר למוצר.
הגישה של חיזוי לייטנס (latent) במקום חיזוי פריימים או טוקנים מאפשרת מודלים שמייצגים הסתברויות ומציאות מורכבת בצורה מדויקת יותר, ומציעה דרך חדשה להתגבר על מגבלות הטרנספורמרים.
/ תובנות מרכזיות
- הטרנספורמרים הצליחו להוביל את תחום ה-AI במשך כמעט עשור אך מגיעים לתקרת ביצועים שדורשת שינוי ארכיטקטוני.
- למידה רציפה וקונטקסט ארוך הם מפתחות להבנת אינטליגנציה אמיתית, בניגוד ללמידה מבוססת חיזוי טוקנים בלבד.
- ארכיטקטורות חדשות כמו Joint Embedding Predictive Architectures מנסות לחזות ייצוגים הסתברותיים של העתיד במקום פריימים מדויקים.
- המחסור באקו-סיסטם תומך בישראל מוביל לנטישת חוקרים צעירים ולחוסר במעבדות מחקר מתקדמות בתחום ה-AI.
- קיים פער בין מחקר אקדמי לתעשייה, וחוסר במודל עסקי ברור למעבדות מחקר שמקשה על קיום מחקר ארוך טווח.
מה הבעיה האינהרנטית בטרנספורמרים שמחייבת פיתוח ארכיטקטורות חדשות ומה צריך לשבור או לבנות מחדש?
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
שאל את הפרק (Chat with Episode)
קבל תשובות מיידיות מתוך תמלול וניתוח ה-AI
שאלות מומלצות בלחיצה אחת:
מתיאור הפרק
פרק נוסף לפודקאסט שלנו והפעם פרק בשיתוף חברת Manifold, שבו ראיינתי את גלעד לוי, המייסד והמנכל של החברה. לא בכל יום אתה מראיין יזם שרוצה לקרוא תיגר על הטכנולוגיה הכי מוכרת ונפוצה בתחום ה-AI וממש עובד על ארכיטקטורה חדשה שתחליף את הטרנספורמים המפורסמים. גלעד, שאת התואר הראשון שלו עשה בגיל 15 בטכניון, שיתף אותי על למה הוא חושב שטרנספורמרים כבר לא מספיקה, על הגישה שלהם להתמודד עם בעיות AI וגם למה כל כך חשוב לו להקים מעבדה מתקדמת בתחום ה-AI כאן בישראל. פרק טכני מהרגיל אבל מאוד מעניין לכל מי שרוצה לצלול למאחורי הקלעים.
/ עוד פרקים על בינה מלאכותית
- מנועי הכסףגיל שויד: מההשוואה לבועת הדוט.קום, דרך החיים כיו״ר ועד השינוי שהכרחי לילדינוגיל שויד, ממייסדי צ'ק פוינט, רואה ב-AI מהפכה שהשקעות הענק בה עוד לא הוכיחו החזר, אך מעריך שהיא תכפיל את כוחם של עובדים ושל ישראל, בתנאי שמערכת החינוך תתעדכן ושלא יוטל על התוכנה עול רגולציה כבד.
- מנהלי שיווק מצייצים - אבי זיתןפרק 427: אושרת כהן, סמנכ״לית חטיבת לקוחות קבוצת זאפסוכני AI הופכים לטראפיק החדש של האתרים, ועסקים שלא יבנו חוויה שמתאימה להם ייעלמו מעיני הצרכנים.
- הייטק, חרדים ומה שביניהםמהנדסי AI, כדאי שתכירו: זיכרון, מהירות ועלותמהנדס AI שמבין זיכרון, תקשורת בין מעבדים גרפיים וקוונטיזציה יכול להחליט מראש על הארכיטקטורה הנכונה, במקום לגלות בדיעבד שבזבז עשרות אלפי דולרים על אימון או אירוח.
- אנשים ומחשביםS1E445: ראיון עם ניסים בראל, ממייסדי תעשיית האבטחה בישראל, יזם חברתי ומחבר הספר ערך מוסףניסים בראל, שעלה ממרוקו בגיל עשר לצריף במעברה והקים את קומסק, מכר את החזקותיו ב-2014 כדי להעביר הלאה את ההזדמנויות שקיבל, דרך יזמות לנשים, לסטודנטים בפריפריה ולתלמידים מצטיינים.
איך נוצר העמוד הזה
40 פרקים של Hidden layers = 40 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.