למה סוכני הבינה המלאכותית משתלטים עלינו ומה הקשר לשפני סלע?
עודכן: מאת צוות פודקאסט·ישראל
/ הפרק במספרים
| פורסם | 13 במאי 2026 |
|---|---|
| אורך | 31 דק׳ (קצר ב-14% מהממוצע בתוכנית) |
| הנושא המרכזי | אבטחת סוכני בינה מלאכותית |
| אורחים | ארז דאסה |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק עם ארז דאסה?
פרק הסוקר את סיכוני האבטחה בעולם סוכני הבינה המלאכותית ואת האחריות המשותפת בין המפתחים לפלטפורמות.
הפרק מארח את בר כדורי לשיחה על מחקר בתחום אבטחת ה-AI. השיחה עוסקת בהגדרה של סוכני בינה מלאכותית, הבחנה בין סוגי תקיפות נפוצים כגון Jailbreaking ו-Prompt Injection, וניתוח חולשות אבטחה בפלטפורמות פופולריות. הפרק מדגיש את החשיבות בהטמעת הגנות מובנות על ידי ספקיות ה-AI במקום העברת האחריות למשתמשים.
/ תובנות מרכזיות
- סוכן בינה מלאכותית הוא מודל שפה המצויד בכלים והרשאות לביצוע פעולות עצמאיות.
- קיים הבדל מהותי בין Jailbreak המשנה את התנהגות המודל לבין Prompt Injection המאפשר ביצוע פעולות לא מורשות.
- קיימת מגמה מדאיגה בתעשייה של התנערות מאחריות להגנה על סוכני AI והטלתה על המשתמשים.
- תוקפים יכולים להטמיע הוראות זדוניות בתוך קבצי קוד או טפסים שסוכן ה-AI מעבד.
- הגדרות ברירת מחדל לא מאובטחות באפליקציות AI חושפות לעיתים קרובות את המערכת לאינטרנט.
מה ההבדל בין Jailbreak ל-Prompt Injection?
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
/ שאלות נפוצות על הפרק
- על מה הפרק הזה?
- הפרק מארח את בר כדורי לשיחה על מחקר בתחום אבטחת ה-AI. השיחה עוסקת בהגדרה של סוכני בינה מלאכותית, הבחנה בין סוגי תקיפות נפוצים כגון Jailbreaking ו-Prompt Injection, וניתוח חולשות אבטחה בפלטפורמות פופולריות. הפרק מדגיש את החשיבות בהטמעת הגנות מובנות על ידי ספקיות ה-AI במקום העברת האחריות למשתמשים.
- מהן התובנות המרכזיות מהפרק?
- סוכן בינה מלאכותית הוא מודל שפה המצויד בכלים והרשאות לביצוע פעולות עצמאיות. · קיים הבדל מהותי בין Jailbreak המשנה את התנהגות המודל לבין Prompt Injection המאפשר ביצוע פעולות לא מורשות. · קיימת מגמה מדאיגה בתעשייה של התנערות מאחריות להגנה על סוכני AI והטלתה על המשתמשים. · תוקפים יכולים להטמיע הוראות זדוניות בתוך קבצי קוד או טפסים שסוכן ה-AI מעבד. · הגדרות ברירת מחדל לא מאובטחות באפליקציות AI חושפות לעיתים קרובות את המערכת לאינטרנט.
מתיאור הפרק
הצטרפו אלינו לפרק עם בר כדורי על החולשות שיש במודלי הבינה המלאכותית שאנחנו משתמשים בהם. על המחקר החדש שפירסמה וחושף נתונים מדהימים על החישפות בקוד שכולנו משתמשים בו. האזינו! בהשתתפות: דנית ליבוביץ שטי ובר כדורי תודות: מיכל בכר ואסף לנסקי הפקה ועריכה: אולפני פלמינגו צהוב מוזיקה מקורית: יודי טייטלבום
/ עוד פרקים על בינה מלאכותית
- 001 - פודקאסט הצומתהצומת | יומינט ואוסינט: ארגז הכלים של היזם החדש - הודיה בן חמוהודיה בן חמו, בת 24, מנהלת סוכנות שיווק ומיזם הדרכה, מספרת איך תואר שהתחילה בגיל 16 ושבת ששמרה לבד מגיל 6 בנו לה משמעת של יזמית.
- 15-מיליון15-מיליוןפרק הכנה ראשון שמפרק את חוקי משחק הפנטזי של המונדיאל ואת השאלה האמיתית - מתי לוותר על הכוכב הגדול לטובת מיסמאצ' זול.
- 8-דקות-מודעות-קבלית-עם-מאיר-ישורוןפרק 1365: עולם מושלםשיעור בוקר קבלי על למה גם המחלות והרוע לא מיותרים בבריאה, ולמה מה שנראה לנו כחושך הוא בעצם אור שאין לנו עדיין כלים לראות אותו.
- ai-today-בינה-מלאכותיתפרק 1 | שגשוג האנושות או עתיד אכזרשיחה עם חוקר בינה מלאכותית ותיק על הדרך מהטכניון של שנות ה-90 ועד מכונות שכבר יודעות לנחש על מה חשבת - ועל מה חלמת.