פרק #5 - על מיתוס, אבטחת מידע בעולם האייג׳נטס, ועל הייפ - עם רן בר זיק
עודכן: מאת צוות פודקאסט·ישראל
האזינו לפרק המלא
אנחנו עוזרים למצוא את הפרק, ההאזנה המלאה נמצאת אצל היוצרים, בפלטפורמה שלהם.
/ הפרק במספרים
| פורסם | 2 באוגוסט 2026 |
|---|---|
| אורך | 57 דק׳ (ארוך ב-18% מהממוצע בתוכנית) |
| הנושא המרכזי | אבטחת מידע בבינה מלאכותית ואייג'נטים |
| אורחים | רן ברזיק |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק עם רן ברזיק?
ההייפ סביב מודלים גדולים של בינה מלאכותית מלווה בסיכוני אבטחה אמיתיים אך גם במיתוסים רבים שיש להסתכל עליהם בצורה ביקורתית.
רן ברזיק, ארכיטקט תוכנה ועיתונאי, מדבר על האתגרים והסיכונים באבטחת מידע בעולם ה-LLM והאייג'נטים. הוא מפריך מיתוסים כמו מודל GPT-2 המסוכן, ומדגיש את החשיבות של פיקוח נכון על המודלים והאייג'נטים. הדיון כולל דוגמאות לפרצות אבטחה, שימוש ב-LLM ככלי לזיהוי פרצות, והקושי להעריך מי באמת מבין את התחום. כמו כן, נדון ההייפ סביב הטכנולוגיה והצורך בהתייחסות ביקורתית.
הפרצות שנמצאות כיום במודלים ובאייג'נטים הן אמיתיות אך רבות מהן קשות לשחזור או בעלות השפעה מוגבלת, וההגנות הקיימות אינן מושלמות ודורשות שילוב של טכנולוגיות ובקרה אנושית.
/ תובנות מרכזיות
- מודלים כמו GPT-2 שוחררו למרות חששות כבדים והאנושות שרדה, מה שמראה שההייפ סביב סכנות מסוימות מוגזם.
- זירו דייז במודלים של AI קיימים אך לעיתים הם false negatives או בעלי השפעה מצומצמת מאוד.
- אייג'נטים של AI עלולים לחשוף מידע רגיש אם לא מוגנים כראוי, כפי שקרה עם מודל סידנס 2 בצ'ט קאט.
- השימוש ב-LLM ככלי לזיהוי פרצות אבטחה הוא חיובי אך לא מושלם ומצריך פיקוח מתמיד.
- הביקוש למומחים מנוסים בתחום אבטחת מידע ו-AI עולה, ותהליכי המיון מתארכים בשל הקושי להעריך ידע אמיתי.
איך ניתן להבטיח אבטחה אמיתית במוצרים מבוססי AI כאשר המודלים עצמם אינם דטרמיניסטיים וחשופים לפרצות שונות?
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
שאל את הפרק (Chat with Episode)
קבל תשובות מיידיות מתוך תמלול וניתוח ה-AI
שאלות מומלצות בלחיצה אחת:
/ שאלות נפוצות על הפרק
- מה היה פרויקט "גלסווינג" של אנתרופיק ולכמה חברות ניתנה בו גישה?
- רן ברזיק מספר שבפרויקט גלסווינג קיבלו כ-150 חברות גישה מבוקרת למודל שפה מתקדם כדי לאתר פרצות אבטחה בפרויקטי קוד פתוח כמו OpenBSD, ליבת לינוקס ו-FFmpeg, מתוך הבנה שאותו כלי יכול לשמש גם לסגירת פרצות וגם, בידיים הלא נכונות, לתקיפה.
- כמה יכול להיות שווה זירו-דיי בשוק, לפי מה שאמר רן ברזיק בפרק?
- לדברי ברזיק זירו-דיי, כלומר פרצת אבטחה שמעולם לא הייתה ידועה, יכול להגיע לשווי של עד מיליון דולר כשמוכרים אותו, בדרך כלל לחברות שמפתחות כלי תקיפה סייבר שרוצות לנצל אותו לפני שהוא נסגר.
- איך גרם מתכנת אוטומציה שאינו איש אבטחה לצ'אטבוט של פלטפורמה שנקראה "צ'ט קאט" לחשוף סודות חברה?
- לדברי ברזיק, מתכנת אוטומציה שניסה ליצור סרטון עם מודל הווידאו Seedance 2 בפלטפורמת "צ'ט קאט" שכנע את הצ'אטבוט, בלי שום ידע טכני מיוחד, לחשוף את היכולות שלו וגם ליצור ולשתף קובץ גיבוי מלא של נתוני החברה בענן, כולל קישור ישיר להורדתו.
- אילו נתונים רגישים חשפו חיילים ברשת כתוצאה מכתיבת קוד בעזרת סוכני AI, לפי הפרק?
- ברזיק מספר על חיילים ביחידות שונות שבנו כלים פנימיים בעזרת vibe coding והעלו אותם ל-GitHub, ובכך חשפו בטעות מידע מבצעי מסווג של צה"ל וכן טוקנים וסיסמאות שהיו קבורים בתוך הקוד. לדבריו לקח כשבועיים לסגור את החשיפה.
- אילו שתי טכניקות מציע רן ברזיק כדי לצמצם את הסיכון שאג'נט מבוסס LLM יחשוף מידע רגיש?
- ברזיק ממליץ להגביל את תשובות המודל לפורמט JSON מובנה במקום טקסט חופשי, כדי שיהיה קשה יותר להשפיע עליו, ולהוסיף שכבת בקרה נוספת בסגנון LLM as a judge שבודקת את הקלט והפלט מול מודל נפרד, לצד כלי guardrails שמציעות AWS, גוגל ואז'ור.
מתיאור הפרק
האם להשתמש במית׳וס זה כמו לדבר עם אלוהים? רן בר זיק מדבר על אבטחת מידע בעידן האייג׳נטס. סיפורים מהשוחות בתור עיתונאי שחוקר פרצות אבטחה. הסכנות בשימוש באייג׳נטס והיתרונות שלהם בהגנה. וגם קצת על חינוך, עציצים חכמים, ולהקות פאנק.
/ עוד פרקים על בינה מלאכותית
- תתעלם מההוראותאיך AI משנה את עולם השיווק? עם מיקי חסלבסקי מ-enso | #28AI בשיווק לא מכפיל Outreach פי עשר אלא פותח פרצות הפצה שבני אדם לא יכולים לכסות, ושם אג'נט אוטונומי שרץ איטרציות שווה יותר מסקריפט קבוע.
- רעש על הסטרעש על הסט טייק #21 - עופר דוריעופר דורי מתאר צלם ישראלי שמתרגם חזון לברזלים בתקציב דל, עומד בכמות כי אין פריבילגיה לטעות, ויכול להיכנס לתעשיות גדולות בעוד שההפך לא שורד.
- קרועיםאיתי אנגל - מסביב לעולם ועד שער הנגב | קרועים, פרק 47עיתונות אמיתית היא להיות בתוך האירוע ולא לפרש אותו מרחוק, ובניר עוז ב־7 באוקטובר גם הרגל לתעד שני צדדים נשבר לרגע.
- קונים מוכריםהריבית יורדת, הנדל״ן מתעורר, והישראלים מתאהבים במניותאחרי הורדת ריבית שלישית ברציפות זרם כסף לנדל״ן ולת״א 90, בזמן שהתשואות הארוכות בארה״ב לוחצות מימון AI, קווליטאו נתקעת בצבר, והמסלול הכללי במוסדיים כבר סביב 50 עד 55 אחוז מניות.
/ נושאים קשורים
איך נוצר העמוד הזה
8 פרקים של עמוק בבוץ = 8 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.