האזינו לפרק המלא
אנחנו עוזרים למצוא את הפרק, ההאזנה המלאה נמצאת אצל היוצרים, בפלטפורמה שלהם.
/ הפרק במספרים
| פורסם | 9 בספטמבר 2025 |
|---|---|
| אורך | 47 דק׳ |
| הנושא המרכזי | אבטחת מודלי שפה והזרקות פרומפטים |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק?
הפרק עוסק בהזרקות פרומפטים למודלי שפה, מציג את הסכנות שבשימוש לא מבוקר בבינה מלאכותית וכיצד ניתן לעקוף את מגבלות הבטיחות שלהם.
הפרק מנתח את עולם הזרקות הפרומפטים (Prompt Injection), המהוות את הגרסה המודרנית להתקפות על יישומים. המנחים מארחים את שי דבש ממעבדות סייברארק, שמשתף דוגמאות למניפולציות על פרומפטים המאפשרות לחשוף מידע רגיש או לעקוף מגבלות בטיחות. התוכן מיועד למפתחים, אנשי אבטחה ולכל מי שרוצה להבין את הסיכונים הטמונים בשימוש בבינה מלאכותית יוצרת. האזנה לפרק חיונית להבנת הפער בין מנגנוני הבטיחות התיאורטיים לבין המציאות בפועל.
/ תובנות מרכזיות
- מודלי שפה מסוגלים לקרוא טקסט מוסתר בקבצי PDF, מה שמאפשר הזרקת פקודות זדוניות למשתמשים ללא ידיעתם.
- טכניקות הנדסה חברתית כמו שיטת הסבתא מאפשרות לעקוף את מעקות הבטיחות של מודלים.
- ארגונים המטמיעים צ'טבוטים מבוססי AI ללא הגדרות אבטחה קשיחות עלולים לחשוף נתונים רגישים מתוך מסדי נתונים פנימיים.
- הבעיה המרכזית אינה רק בהתקפות זדוניות, אלא גם בשימוש לא אחראי של משתמשים ששובר את התנהגות המודל.
אז תספר לנו בעצם מה עשית, איך עבדת על שט ג'י פי טי שילמד אותך להכין פצצות
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
שאל את הפרק (Chat with Episode)
קבל תשובות מיידיות מתוך תמלול וניתוח ה-AI
שאלות מומלצות בלחיצה אחת:
מתיאור הפרק
בינמי גנרטיבית בנויה לסרב להגיד לנו איך להוריד סרט מנטפליקס, לייצר פצצה או לגרוד מידע מאתרי הכרויות. אפשר לעקוף את המגבלות הללו באמצעות מתקפות הזרקת פרומפטים. שי דבש ורן בר-זיק מספרים לנו איך, ומה מפתחים יכולים לעשות נגד זה 📜 בלוגפוסט, הערות התוכנית וקרדיטים: cybercyber.co.il/?p=3248 🖼️ תמונה: דאטה מוזרק. עיבוד לתמונה מפרנצ'ייז סטאר טרק: עידוק
/ עוד פרקים על בינה מלאכותית
- תתעלם מההוראותאיך AI משנה את עולם השיווק? עם מיקי חסלבסקי מ-enso | #28AI בשיווק לא מכפיל Outreach פי עשר אלא פותח פרצות הפצה שבני אדם לא יכולים לכסות, ושם אג'נט אוטונומי שרץ איטרציות שווה יותר מסקריפט קבוע.
- רעש על הסטרעש על הסט טייק #21 - עופר דוריעופר דורי מתאר צלם ישראלי שמתרגם חזון לברזלים בתקציב דל, עומד בכמות כי אין פריבילגיה לטעות, ויכול להיכנס לתעשיות גדולות בעוד שההפך לא שורד.
- קרועיםאיתי אנגל - מסביב לעולם ועד שער הנגב | קרועים, פרק 47עיתונות אמיתית היא להיות בתוך האירוע ולא לפרש אותו מרחוק, ובניר עוז ב־7 באוקטובר גם הרגל לתעד שני צדדים נשבר לרגע.
- קונים מוכריםהריבית יורדת, הנדל״ן מתעורר, והישראלים מתאהבים במניותאחרי הורדת ריבית שלישית ברציפות זרם כסף לנדל״ן ולת״א 90, בזמן שהתשואות הארוכות בארה״ב לוחצות מימון AI, קווליטאו נתקעת בצבר, והמסלול הכללי במוסדיים כבר סביב 50 עד 55 אחוז מניות.
איך נוצר העמוד הזה
124 פרקים של סייברסייבר = 124 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.