סערה מושלמת: התמוטטות קוגניטיבית [עושים טכנולוגיה]

על מה הפרק?

הבינה המלאכותית מבטיחה לצמצם אי ודאות, אך חוסר השקיפות, הרגישות לשינויים קטנים והשפעתה על הידע, העבודה והחשיבה הופכים אותה לסוכנת כאוס.

יובל דרור מסביר שמודלים גנרטיביים עשויים להפיק תשובות שונות בעקבות שינוי זעיר בפרומפט, בעוד המפתחים אינם יכולים למפות לעומק את תהליך קבלת ההחלטות שלהם. הוא מתאר כיצד הזיות ותוכן סינתטי עלולים להזין זה את זה, לדלל את מגוון השפה ולהוביל להתמוטטות מודלים. לצד השיבוש בשוק העבודה, הפרק קושר שימוש תכוף בכלי בינה מלאכותית להחלשת חשיבה ביקורתית, מיומנויות מקצועיות ותחושת הבעלות על יצירה.

/ תובנות מרכזיות

• חברת Collaboration Pharmaceuticals הפכה את יעד המודל מהימנעות מרעילות לחיפוש רעילות, וקיבלה בתוך לילה קובץ עם 40,000 מולקולות רעילות אפשריות.
• תוספת קטנה לפרומפט, אפילו פסיק או המילה בבקשה, עשויה להסיט מודל לתשובה שונה באופן דרמטי.
• שליפת מידע ממאגרים בזמן אמת עשויה לצמצם הזיות, אך אינה מבטלת אותן.
• אימון מודלים על תוכן סינתטי פחות מגוון עלול ליצור פלטים גנריים וחזרתיים ולהוביל להתמוטטות המודל.
• האצלת משימות קוגניטיביות למערכות בינה מלאכותית נקשרה במחקר שהוזכר בפרק לציונים נמוכים יותר בחשיבה ביקורתית.

ניתוח מאת מערכת פודקאסט·ישראל, מבוסס תמלול אוטומטי של הפרק. על המתודולוגיה והמגבלות