/ הפרק במספרים
| פורסם | 9 בספטמבר 2025 |
|---|---|
| אורך | 47 דק׳ |
| הנושא המרכזי | אבטחת מודלי שפה והזרקות פרומפטים |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק?
הפרק עוסק בהזרקות פרומפטים למודלי שפה, מציג את הסכנות שבשימוש לא מבוקר בבינה מלאכותית וכיצד ניתן לעקוף את מגבלות הבטיחות שלהם.
הפרק מנתח את עולם הזרקות הפרומפטים (Prompt Injection), המהוות את הגרסה המודרנית להתקפות על יישומים. המנחים מארחים את שי דבש ממעבדות סייברארק, שמשתף דוגמאות למניפולציות על פרומפטים המאפשרות לחשוף מידע רגיש או לעקוף מגבלות בטיחות. התוכן מיועד למפתחים, אנשי אבטחה ולכל מי שרוצה להבין את הסיכונים הטמונים בשימוש בבינה מלאכותית יוצרת. האזנה לפרק חיונית להבנת הפער בין מנגנוני הבטיחות התיאורטיים לבין המציאות בפועל.
/ תובנות מרכזיות
- מודלי שפה מסוגלים לקרוא טקסט מוסתר בקבצי PDF, מה שמאפשר הזרקת פקודות זדוניות למשתמשים ללא ידיעתם.
- טכניקות הנדסה חברתית כמו שיטת הסבתא מאפשרות לעקוף את מעקות הבטיחות של מודלים.
- ארגונים המטמיעים צ'טבוטים מבוססי AI ללא הגדרות אבטחה קשיחות עלולים לחשוף נתונים רגישים מתוך מסדי נתונים פנימיים.
- הבעיה המרכזית אינה רק בהתקפות זדוניות, אלא גם בשימוש לא אחראי של משתמשים ששובר את התנהגות המודל.
אז תספר לנו בעצם מה עשית, איך עבדת על שט ג'י פי טי שילמד אותך להכין פצצות
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
מתיאור הפרק
בינמי גנרטיבית בנויה לסרב להגיד לנו איך להוריד סרט מנטפליקס, לייצר פצצה או לגרוד מידע מאתרי הכרויות. אפשר לעקוף את המגבלות הללו באמצעות מתקפות הזרקת פרומפטים. שי דבש ורן בר-זיק מספרים לנו איך, ומה מפתחים יכולים לעשות נגד זה 📜 בלוגפוסט, הערות התוכנית וקרדיטים: cybercyber.co.il/?p=3248 🖼️ תמונה: דאטה מוזרק. עיבוד לתמונה מפרנצ'ייז סטאר טרק: עידוק
/ עוד פרקים על בינה מלאכותית
- תתעלם מההוראותמעובדת מספר 21 למנכ״לית מיקסטיילס: שי אייל | #21שי אייל ואיתן לויט מדברים על חוויותיהם עם בוט המסעדות ואיך טכנולוגיית AI משנה את חוויות הצריכה בבית.
- תתעלם מההוראותאיך הגיעה ואסט דאטה לשווי 30 מיליארד דולר? עם שחר פיינבליט | #22וס דאטה בונה מערכת הפעלה לדאטה של AI.
- תתעלם מההוראותבדרך ל-100 מיליון דולר הכנסות עם רועי ללזר מוונדרפול | #24וונדרפול מתמקדת בהאצת אימוץ AI בארגונים תוך שימוש בטכנולוגיות מתקדמות.
- תתעלם מההוראות״להחליף מנוע של F16 באוויר״: עם רועי מן ממאנדיי | #25רועי מן מציג את השינוי האסטרטגי במאנדיי לעבר פלטפורמת עבודה מבוססת סוכני בינה מלאכותית המבצעים משימות בפועל.
איך נוצר העמוד הזה
124 פרקים של סייברסייבר = 124 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.