פרק 22 - איך מפסיקים לשלם כל כך הרבה על טוקנים? על הכלכלה שמאחורי הבינה המלאכותית עם ד״ר יותם ליבני
עודכן: מאת צוות פודקאסט·ישראל
האזינו לפרק המלא
אנחנו עוזרים למצוא את הפרק, ההאזנה המלאה נמצאת אצל היוצרים, בפלטפורמה שלהם.
/ הפרק במספרים
| פורסם | 18 ביולי 2026 |
|---|---|
| אורך | 39 דק׳ (ארוך ב-34% מהממוצע בתוכנית) |
| הנושא המרכזי | כלכלת טוקנים וייעול השימוש בבינה מלאכותית |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק?
ניהול כלכלי נכון של מודלי שפה מחייב הבנה של עלויות הטוקנים והתאמת המודל הנכון למשימה הספציפית.
עלות השימוש במודלי שפה נגזרת מעלויות חומרה, חשמל וקירור הנדרשות לייצור טוקנים. אימוץ אסטרטגיה של הפרדת משימות בין מודלים יקרים למודלים קטנים ופתוחים מאפשר חיסכון משמעותי בהוצאות הארגוניות. הבנת ההבדל בין אינפוט לאאוטפוט חיונית לייעול התקציב, שכן כתיבת טוקנים יקרה משמעותית מקריאתם.
התייחסות למודל שפה כאל עובד ולא כאל עבד משפרת את איכות התוצרים ומונעת בזבוז טוקנים על משימות חוזרות או לא ברורות.
/ תובנות מרכזיות
- עלות הפקת טוקן מושפעת ישירות מהשקעות בתשתית, תחזוקה וצריכת אנרגיה גבוהה.
- קריאת טוקנים מתבצעת במקביל וביעילות, בעוד יצירתם דורשת עיבוד סדרתי יקר וממושך.
- שימוש במודלים פתוחים מאפשר שמירה על פרטיות מידע רגיש ואימון על ידע ארגוני ייחודי.
- פתיחת שיחה חדשה בכל נושא מונעת צבירת היסטוריה מיותרת שמעלה את עלות השאילתה הבאה.
למה חברות לא מתמחרות שאילתה במחיר קבוע במקום להסתמך על מודל הטוקנים המורכב?
- 1פתחו שיחה חדשה בכל פעם שמתחילים נושא שאינו קשור להיסטוריה הקודמת.
- 2צמצמו את היקף הקונטקסט הניתן למודל למידע הרלוונטי למשימה בלבד.
- 3בחנו העברת משימות פשוטות למודלים פתוחים כדי להוזיל עלויות בשימוש מסיבי.
- 4הגדירו למודל את מטרת העל של המשימה כדי למנוע סבבי תיקונים מיותרים.
- 5השתמשו בכלים לסיכום היסטוריית שיחות ארוכות לפני שליחתן כקונטקסט לשאלה חדשה.
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
שאל את הפרק (Chat with Episode)
קבל תשובות מיידיות מתוך תמלול וניתוח ה-AI
שאלות מומלצות בלחיצה אחת:
מתיאור הפרק
״תשאל אותה שאלה בן אדם חכם ובן אדם טיפש, תמיד בן אדם טיפש יענה מהר יותר...״ ד״ר יותם לבני הוא יזם ויועץ בתחום הבינה המלאכותית. יותם הגיע לפודקאסט לדבר על כלכלת הטוקנים של מודלי הבינה המלאכותית, כדי לשפוך אור על השיח הכי חם בימים אלה - למה וכמה המהפכה הזו עולה לנו. דיברנו על עלויות הטוקנים ומה מניע את המחיר שלהם למעלה או למטה, איך להפחית את החשבונית בסוף החודש, וגם על מודלים פתוחים לעומת סגורים ומתי כדאי להתחיל לשקול להטמיע ולאמן מודלים באופן עצמאי. בואו ללמוד על מה אנחנו משלמים כדי לעבוד בחכמה וביעילות בעידן החדש. https://www.linkedin.com/in/yotam-livny-b203a615/ הפרק הוקלט ביולי 2026
/ עוד פרקים על בינה מלאכותית
- תתעלם מההוראותאיך AI משנה את עולם השיווק? עם מיקי חסלבסקי מ-enso | #28AI בשיווק לא מכפיל Outreach פי עשר אלא פותח פרצות הפצה שבני אדם לא יכולים לכסות, ושם אג'נט אוטונומי שרץ איטרציות שווה יותר מסקריפט קבוע.
- רעש על הסטרעש על הסט טייק #21 - עופר דוריעופר דורי מתאר צלם ישראלי שמתרגם חזון לברזלים בתקציב דל, עומד בכמות כי אין פריבילגיה לטעות, ויכול להיכנס לתעשיות גדולות בעוד שההפך לא שורד.
- קרועיםאיתי אנגל - מסביב לעולם ועד שער הנגב | קרועים, פרק 47עיתונות אמיתית היא להיות בתוך האירוע ולא לפרש אותו מרחוק, ובניר עוז ב־7 באוקטובר גם הרגל לתעד שני צדדים נשבר לרגע.
- קונים מוכריםהריבית יורדת, הנדל״ן מתעורר, והישראלים מתאהבים במניותאחרי הורדת ריבית שלישית ברציפות זרם כסף לנדל״ן ולת״א 90, בזמן שהתשואות הארוכות בארה״ב לוחצות מימון AI, קווליטאו נתקעת בצבר, והמסלול הכללי במוסדיים כבר סביב 50 עד 55 אחוז מניות.
/ נושאים קשורים
איך נוצר העמוד הזה
25 פרקים של DATA & AI | מדברים עם מור ניצן = 25 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.