פרק #5 - על מיתוס, אבטחת מידע בעולם האייג׳נטס, ועל הייפ - עם רן בר זיק
עודכן: מאת צוות פודקאסט·ישראל
/ הפרק במספרים
| פורסם | 2 באוגוסט 2026 |
|---|---|
| אורך | 57 דק׳ (ארוך ב-20% מהממוצע בתוכנית) |
| הנושא המרכזי | אתגרים באבטחת מידע בבינה מלאכותית |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק?
הפרק עוסק באתגרים ובסיכונים הקשורים לאבטחת מידע בעולם הבינה המלאכותית.
אדם קליין ורן ברזיק דנים בהשפעות של מודלים גדולים על אבטחת מידע, במיוחד בהקשר של זירו דייז. הם מדברים על ההייפ סביב מודלים כמו GPT-2 ומיתוס, ועל האתגרים שצצים כאשר חברות מפתחות טכנולוגיות חדשות. ברזיק משתף דוגמה על מתכנת שהצליח לחשוף מידע רגיש דרך אינטראקציה עם מודל AI.
ההייפ סביב טכנולוגיות AI יכול להוביל לתוצאות מסוכנות אם לא מתבצע פיקוח נכון.
/ תובנות מרכזיות
- המודלים הגדולים יכולים לחשוף פרצות אבטחה אם לא מתנהלים איתם בזהירות.
- זירו דייז הם באגים שלא ידועים קודם לכן ויכולים להוות סיכון משמעותי.
- ההייפ סביב טכנולוגיות AI יכול להוביל לפחדים מיותרים או לא מבוססים.
- הצורך בהבנה ביקורתית של טכנולוגיות חדשות הוא קריטי.
- שימוש לא נכון במודלים יכול להוביל לחשיפת מידע רגיש.
האם ההייפ סביב טכנולוגיות AI באמת משקף את המציאות?
- 1לפתח מדיניות אבטחה ברורה לשימוש במודלים של AI.
- 2לערוך בדיקות אבטחה שוטפות על המודלים והמערכות.
- 3להשקיע בהדרכה לעובדים על סיכוני אבטחה הקשורים ל-AI.
- 4לפקח על השימוש במודלים ולוודא שהם לא נחשפים למידע רגיש.
- 5ליצור מנגנוני דיווח על בעיות אבטחה שנמצאות במודלים.
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
/ שאלות נפוצות על הפרק
- מה היה פרויקט "גלסווינג" של אנתרופיק ולכמה חברות ניתנה בו גישה?
- רן ברזיק מספר שבפרויקט גלסווינג קיבלו כ-150 חברות גישה מבוקרת למודל שפה מתקדם כדי לאתר פרצות אבטחה בפרויקטי קוד פתוח כמו OpenBSD, ליבת לינוקס ו-FFmpeg, מתוך הבנה שאותו כלי יכול לשמש גם לסגירת פרצות וגם, בידיים הלא נכונות, לתקיפה.
- כמה יכול להיות שווה זירו-דיי בשוק, לפי מה שאמר רן ברזיק בפרק?
- לדברי ברזיק זירו-דיי, כלומר פרצת אבטחה שמעולם לא הייתה ידועה, יכול להגיע לשווי של עד מיליון דולר כשמוכרים אותו, בדרך כלל לחברות שמפתחות כלי תקיפה סייבר שרוצות לנצל אותו לפני שהוא נסגר.
- איך גרם מתכנת אוטומציה שאינו איש אבטחה לצ'אטבוט של פלטפורמה שנקראה "צ'ט קאט" לחשוף סודות חברה?
- לדברי ברזיק, מתכנת אוטומציה שניסה ליצור סרטון עם מודל הווידאו Seedance 2 בפלטפורמת "צ'ט קאט" שכנע את הצ'אטבוט, בלי שום ידע טכני מיוחד, לחשוף את היכולות שלו וגם ליצור ולשתף קובץ גיבוי מלא של נתוני החברה בענן, כולל קישור ישיר להורדתו.
- אילו נתונים רגישים חשפו חיילים ברשת כתוצאה מכתיבת קוד בעזרת סוכני AI, לפי הפרק?
- ברזיק מספר על חיילים ביחידות שונות שבנו כלים פנימיים בעזרת vibe coding והעלו אותם ל-GitHub, ובכך חשפו בטעות מידע מבצעי מסווג של צה"ל וכן טוקנים וסיסמאות שהיו קבורים בתוך הקוד. לדבריו לקח כשבועיים לסגור את החשיפה.
- אילו שתי טכניקות מציע רן ברזיק כדי לצמצם את הסיכון שאג'נט מבוסס LLM יחשוף מידע רגיש?
- ברזיק ממליץ להגביל את תשובות המודל לפורמט JSON מובנה במקום טקסט חופשי, כדי שיהיה קשה יותר להשפיע עליו, ולהוסיף שכבת בקרה נוספת בסגנון LLM as a judge שבודקת את הקלט והפלט מול מודל נפרד, לצד כלי guardrails שמציעות AWS, גוגל ואז'ור.
מתיאור הפרק
האם להשתמש במית׳וס זה כמו לדבר עם אלוהים? רן בר זיק מדבר על אבטחת מידע בעידן האייג׳נטס. סיפורים מהשוחות בתור עיתונאי שחוקר פרצות אבטחה. הסכנות בשימוש באייג׳נטס והיתרונות שלהם בהגנה. וגם קצת על חינוך, עציצים חכמים, ולהקות פאנק.
/ עוד פרקים על בינה מלאכותית
- תתעלם מההוראותמעובדת מספר 21 למנכ״לית מיקסטיילס: שי אייל | #21שי אייל ואיתן לויט מדברים על חוויותיהם עם בוט המסעדות ואיך טכנולוגיית AI משנה את חוויות הצריכה בבית.
- תתעלם מההוראותאיך הגיעה ואסט דאטה לשווי 30 מיליארד דולר? עם שחר פיינבליט | #22וס דאטה בונה מערכת הפעלה לדאטה של AI.
- תתעלם מההוראותבדרך ל-100 מיליון דולר הכנסות עם רועי ללזר מוונדרפול | #24וונדרפול מתמקדת בהאצת אימוץ AI בארגונים תוך שימוש בטכנולוגיות מתקדמות.
- תתעלם מההוראות״להחליף מנוע של F16 באוויר״: עם רועי מן ממאנדיי | #25רועי מן מציג את השינוי האסטרטגי במאנדיי לעבר פלטפורמת עבודה מבוססת סוכני בינה מלאכותית המבצעים משימות בפועל.
/ נושאים קשורים
איך נוצר העמוד הזה
8 פרקים של עמוק בבוץ = 8 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.