פרק 22 - איך מפסיקים לשלם כל כך הרבה על טוקנים? על הכלכלה שמאחורי הבינה המלאכותית עם ד״ר יותם ליבני
עודכן: מאת צוות פודקאסט·ישראל
/ הפרק במספרים
| פורסם | 18 ביולי 2026 |
|---|---|
| אורך | 39 דק׳ |
| הנושא המרכזי | כלכלת טוקנים וייעול השימוש בבינה מלאכותית |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק?
ניהול כלכלי נכון של מודלי שפה מחייב הבנה של עלויות הטוקנים והתאמת המודל הנכון למשימה הספציפית.
עלות השימוש במודלי שפה נגזרת מעלויות חומרה, חשמל וקירור הנדרשות לייצור טוקנים. אימוץ אסטרטגיה של הפרדת משימות בין מודלים יקרים למודלים קטנים ופתוחים מאפשר חיסכון משמעותי בהוצאות הארגוניות. הבנת ההבדל בין אינפוט לאאוטפוט חיונית לייעול התקציב, שכן כתיבת טוקנים יקרה משמעותית מקריאתם.
התייחסות למודל שפה כאל עובד ולא כאל עבד משפרת את איכות התוצרים ומונעת בזבוז טוקנים על משימות חוזרות או לא ברורות.
/ תובנות מרכזיות
- עלות הפקת טוקן מושפעת ישירות מהשקעות בתשתית, תחזוקה וצריכת אנרגיה גבוהה.
- קריאת טוקנים מתבצעת במקביל וביעילות, בעוד יצירתם דורשת עיבוד סדרתי יקר וממושך.
- שימוש במודלים פתוחים מאפשר שמירה על פרטיות מידע רגיש ואימון על ידע ארגוני ייחודי.
- פתיחת שיחה חדשה בכל נושא מונעת צבירת היסטוריה מיותרת שמעלה את עלות השאילתה הבאה.
למה חברות לא מתמחרות שאילתה במחיר קבוע במקום להסתמך על מודל הטוקנים המורכב?
- 1פתחו שיחה חדשה בכל פעם שמתחילים נושא שאינו קשור להיסטוריה הקודמת.
- 2צמצמו את היקף הקונטקסט הניתן למודל למידע הרלוונטי למשימה בלבד.
- 3בחנו העברת משימות פשוטות למודלים פתוחים כדי להוזיל עלויות בשימוש מסיבי.
- 4הגדירו למודל את מטרת העל של המשימה כדי למנוע סבבי תיקונים מיותרים.
- 5השתמשו בכלים לסיכום היסטוריית שיחות ארוכות לפני שליחתן כקונטקסט לשאלה חדשה.
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
מתיאור הפרק
״תשאל אותה שאלה בן אדם חכם ובן אדם טיפש, תמיד בן אדם טיפש יענה מהר יותר...״ ד״ר יותם לבני הוא יזם ויועץ בתחום הבינה המלאכותית. יותם הגיע לפודקאסט לדבר על כלכלת הטוקנים של מודלי הבינה המלאכותית, כדי לשפוך אור על השיח הכי חם בימים אלה - למה וכמה המהפכה הזו עולה לנו. דיברנו על עלויות הטוקנים ומה מניע את המחיר שלהם למעלה או למטה, איך להפחית את החשבונית בסוף החודש, וגם על מודלים פתוחים לעומת סגורים ומתי כדאי להתחיל לשקול להטמיע ולאמן מודלים באופן עצמאי. בואו ללמוד על מה אנחנו משלמים כדי לעבוד בחכמה וביעילות בעידן החדש. https://www.linkedin.com/in/yotam-livny-b203a615/ הפרק הוקלט ביולי 2026
/ עוד פרקים על בינה מלאכותית
- תתעלם מההוראותמעובדת מספר 21 למנכ״לית מיקסטיילס: שי אייל | #21שי אייל ואיתן לויט מדברים על חוויותיהם עם בוט המסעדות ואיך טכנולוגיית AI משנה את חוויות הצריכה בבית.
- תתעלם מההוראותאיך הגיעה ואסט דאטה לשווי 30 מיליארד דולר? עם שחר פיינבליט | #22וס דאטה בונה מערכת הפעלה לדאטה של AI.
- תתעלם מההוראותבדרך ל-100 מיליון דולר הכנסות עם רועי ללזר מוונדרפול | #24וונדרפול מתמקדת בהאצת אימוץ AI בארגונים תוך שימוש בטכנולוגיות מתקדמות.
- תתעלם מההוראות״להחליף מנוע של F16 באוויר״: עם רועי מן ממאנדיי | #25רועי מן מציג את השינוי האסטרטגי במאנדיי לעבר פלטפורמת עבודה מבוססת סוכני בינה מלאכותית המבצעים משימות בפועל.
איך נוצר העמוד הזה
25 פרקים של DATA & AI | מדברים עם מור ניצן = 25 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.