![סערה מושלמת: התמוטטות קוגניטיבית [עושים טכנולוגיה]](/_next/image?url=https%3A%2F%2Fd3wo5wojvuv7l.cloudfront.net%2Ft_rss_itunes_square_1400%2Fimages.spreaker.com%2Foriginal%2F0532644e57f425cc18734269c1ecdc86.jpg&w=384&q=75&dpl=dpl_D2qNe6aUUBmh6KoNnshBDMqdoQ6Z)
סערה מושלמת: התמוטטות קוגניטיבית [עושים טכנולוגיה]
עודכן: מאת צוות פודקאסט·ישראל
האזינו לפרק המלא
אנחנו עוזרים למצוא את הפרק, ההאזנה המלאה נמצאת אצל היוצרים, בפלטפורמה שלהם.
/ הפרק במספרים
| פורסם | 9 במרץ 2026 |
|---|---|
| אורך | 50 דק׳ (ארוך ב-13% מהממוצע בתוכנית) |
| הנושא המרכזי | בינה מלאכותית כסוכנת כאוס |
| קטגוריה | הייטק וסטארטאפים |
על מה הפרק?
הבינה המלאכותית מבטיחה לצמצם אי ודאות, אך חוסר השקיפות, הרגישות לשינויים קטנים והשפעתה על הידע, העבודה והחשיבה הופכים אותה לסוכנת כאוס.
יובל דרור מסביר שמודלים גנרטיביים עשויים להפיק תשובות שונות בעקבות שינוי זעיר בפרומפט, בעוד המפתחים אינם יכולים למפות לעומק את תהליך קבלת ההחלטות שלהם. הוא מתאר כיצד הזיות ותוכן סינתטי עלולים להזין זה את זה, לדלל את מגוון השפה ולהוביל להתמוטטות מודלים. לצד השיבוש בשוק העבודה, הפרק קושר שימוש תכוף בכלי בינה מלאכותית להחלשת חשיבה ביקורתית, מיומנויות מקצועיות ותחושת הבעלות על יצירה.
הכאוס אינו רק תוצאה של טעויות המודל, אלא של פרדוקס מובנה: ככל שהמערכת מורכבת וחכמה יותר, קשה יותר להבין מדוע הצליחה או נכשלה.
/ תובנות מרכזיות
- חברת Collaboration Pharmaceuticals הפכה את יעד המודל מהימנעות מרעילות לחיפוש רעילות, וקיבלה בתוך לילה קובץ עם 40,000 מולקולות רעילות אפשריות.
- תוספת קטנה לפרומפט, אפילו פסיק או המילה בבקשה, עשויה להסיט מודל לתשובה שונה באופן דרמטי.
- שליפת מידע ממאגרים בזמן אמת עשויה לצמצם הזיות, אך אינה מבטלת אותן.
- אימון מודלים על תוכן סינתטי פחות מגוון עלול ליצור פלטים גנריים וחזרתיים ולהוביל להתמוטטות המודל.
- האצלת משימות קוגניטיביות למערכות בינה מלאכותית נקשרה במחקר שהוזכר בפרק לציונים נמוכים יותר בחשיבה ביקורתית.
מה יקרה ליכולת שלנו לחשוב, ליצור ולעבוד אם נפקיד בידי הבינה המלאכותית את המיומנויות שמגדירות את המומחיות והזהות שלנו?
ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות
שאל את הפרק (Chat with Episode)
קבל תשובות מיידיות מתוך תמלול וניתוח ה-AI
שאלות מומלצות בלחיצה אחת:
/ שאלות נפוצות על הפרק
- איך מערכת בינה מלאכותית לגילוי תרופות ייצרה 40,000 מולקולות רעילות בלילה אחד?
- לקראת כנס של המכון הפדרלי השוויצרי להגנה מפני נשק כימי, ביולוגי וגרעיני, ביקשו שון אקינס ופאביו אורבינה מהמערכת להתקרב לרעילות במקום להתרחק ממנה. לדבריהם כל מה שעשו היה «להפוך את האפס לאחד», ולמחרת בבוקר חיכה במחשב קובץ עם 40,000 מולקולות, חלקן קטלניות יותר מגז העצבים VX.
- במה הייתה שונה ההופעה של סם אלטמן מול ועדת הסנאט במאי 2023 מהופעות של מנכ"לים אחרים?
- אלטמן נפגש מראש עם רבים מחברי תת-הוועדה לפרטיות, טכנולוגיה וחוק והעביר להם שיעור מבוא בבינה מלאכותית, וכך נמנעו השאלות המביכות. במקום להרגיע, הוא חזר שוב ושוב על הסכנות וקרא להתערבות רגולטורית, והמחוקקים היו כל כך מוקסמים שאחד מהם הציע לו עבודה. יובל דרור טוען שאלטמן הציג רק חלק מרשימת הבעיות.
- למה יובל דרור טוען שאנחנו לא באמת יודעים איך עובדות מערכות בינה מלאכותית ג'נרטיבית?
- בניגוד למערכות המומחה של הבינה המלאכותית הסימבולית, שבהן אפשר להצביע על הכלל שהוביל להמלצה, רשת נוירונים כמו זו של ChatGPT בנויה ממיליארדי ולפעמים טריליוני משקלים. לכן אם לא יודעים למה המערכת הצליחה, אי אפשר לדעת למה נכשלה, והיא עלולה לעבוד מצוין ב-99% מהמקרים ולגרום לאסון באחוז הנותר.
- מה הקשר בין עיקרון אי-הוודאות במכניקת הקוונטים לבינה מלאכותית?
- כמו שאי אפשר לדעת בו-זמנית את המיקום והמהירות של אלקטרון, ככל שמערכת בינה מלאכותית חכמה יותר, עם יותר שכבות ונוירונים, היכולת להבין מה קורה בתוכה צונחת. ההבדל הוא שאצל הפיזיקאים מדובר בהגבלה יסודית של הטבע, ואילו אנשי למידת המכונה מתמודדים עם מגבלה של ארכיטקטורה ומורכבות חישובית, ועדיין מנסים לשנות אותה.
- למה הוספת המילה "מאוד" או "בבקשה" לפרומפט יכולה לשנות את התשובה של ChatGPT?
- דרור מדמה את המודל לרוכב אופנוע בנוף הררי שמחפש את העמק הנמוך ביותר, שם פונקציית ההפסד מינימלית. אם הפרומפט מציב אותו על מצוק חד, הזזה קטנה כמו מעבר מ«זה חשוב לי» ל«זה חשוב לי מאוד» עלולה לשלוח אותו לעמק אחר ולתשובה אחרת, ואילו באזור שטוח השינוי כמעט לא ישפיע. הבעיה לדבריו היא שאין לנו מפה של הנוף.
מתיאור הפרק
מאז המצאת הדפוס לא נתקלנו בטכנולוגיה כל כך מהפכנית ובעלת עוצמה כמו הבינה המלאכותית. סכומי הכסף שמושקעים בפיתוח מערכות בינה מלאכותית הם אדירים, הם חסרי תקדים, מעולם לא הושקעו סכומי כסף כל כך גדולים – טריליוני דולרים בתוך כמה שנים – כדי לפתח טכנולוגיה בודדת. הסיבה להשקעה ברורה: מעבר לפוטנציאל של הבינה המלאכותית לשנות את החיים של כולנו לטובה, יש לה פוטנציאל להניב עושר חסר תקדים למי שיצליח לפתח בינה מלאכותית כללית, כזו שיודעת להתמודד עם כל משימה שאנחנו, בני האדם יכולים להתמודד איתה, שלא לדבר על סופר-בינה מלאכותית. אבל לאותה טכנולוגיה ממש יש גם צד שני, אפל. האופן שבו הטכנולוגיה הזו מפותחת, עובדת ומ
/ עוד פרקים על בינה מלאכותית
- תתעלם מההוראותאיך AI משנה את עולם השיווק? עם מיקי חסלבסקי מ-enso | #28AI בשיווק לא מכפיל Outreach פי עשר אלא פותח פרצות הפצה שבני אדם לא יכולים לכסות, ושם אג'נט אוטונומי שרץ איטרציות שווה יותר מסקריפט קבוע.
- רעש על הסטרעש על הסט טייק #21 - עופר דוריעופר דורי מתאר צלם ישראלי שמתרגם חזון לברזלים בתקציב דל, עומד בכמות כי אין פריבילגיה לטעות, ויכול להיכנס לתעשיות גדולות בעוד שההפך לא שורד.
- קרועיםאיתי אנגל - מסביב לעולם ועד שער הנגב | קרועים, פרק 47עיתונות אמיתית היא להיות בתוך האירוע ולא לפרש אותו מרחוק, ובניר עוז ב־7 באוקטובר גם הרגל לתעד שני צדדים נשבר לרגע.
- קונים מוכריםהריבית יורדת, הנדל״ן מתעורר, והישראלים מתאהבים במניותאחרי הורדת ריבית שלישית ברציפות זרם כסף לנדל״ן ולת״א 90, בזמן שהתשואות הארוכות בארה״ב לוחצות מימון AI, קווליטאו נתקעת בצבר, והמסלול הכללי במוסדיים כבר סביב 50 עד 55 אחוז מניות.
/ נושאים קשורים
איך נוצר העמוד הזה
185 פרקים של עושים טכנולוגיה עם ד״ר יובל דרור I רשת עושים היסטוריה = 185 מאמרים שגוגל מדרג
את התקציר והניתוח בעמוד הזה הפקנו אוטומטית מתוך האודיו של הפרק, בלי שאיש כתב מילה. זה בדיוק מה ש-AuthorityRank עושה לארכיון שלם: כל פרק הופך למאמר עברי איכותי שמדורג בגוגל ומצוטט על ידי ChatGPT ו-Perplexity, ומתפרסם אוטומטית במגזין משלכם.
הארכיון שלכם הוא אודיו מת שמנועי החיפוש לא מוצאים. אנחנו הופכים אותו לנכס שמביא תנועה כל חודש.