סערה מושלמת: התמוטטות קוגניטיבית [עושים טכנולוגיה]

פודקאסט הבוחן את הפרדוקס שבו טכנולוגיית הבינה המלאכותית, האמורה להכניס סדר ותחזיות מדויקות לעולם, הופכת לסוכנת כאוס בלתי צפויה ומסוכנת.

בפרק זה מתוך הפודקאסט סערה מושלמת, בוחן המגיש דורור כיצד טכנולוגיית הבינה המלאכותית משפיעה על החברה שלנו והאם היא אכן פועלת כסוכנת כאוס אולטימטיבית. באמצעות סיפורה של חברת ביוטכנולוגיה שהשתמשה בבינה מלאכותית ליצירת עשרות אלפי מולקולות רעילות בתוך לילה אחד, מדגים הפרק את הסכנות הטמונות בשימוש לרעה בטכנולוגיה. הפרק עוסק גם בפרדוקס שבו אנו מפתחים מערכות עוצמתיות ללא הבנה מלאה של תהליכי קבלת ההחלטות הפנימיים שלהן. הפרק מומלץ למי שרוצה להבין את הצדדים האפלים והלא מוסברים של המהפכה הטכנולוגית הגדולה ביותר מאז המצאת הדפוס.

תובנות מרכזיות

• בניסוי של חברת ביוטכנולוגיה, שינוי הגדרות במודל בינה מלאכותית מחיפוש תרופות לחיפוש רעילות הניב 40 אלף מולקולות קטלניות בתוך לילה אחד בלבד.
• המעבר מבינה מלאכותית סימבולית, שהייתה שקופה ומבוססת כללים, למודלי למידת מכונה יצר מערכות חזקות יותר אך פחות מובנות וקשות להסבר.
• סם אלטמן, מנכ"ל OpenAI, בחר באסטרטגיה של חשיפת הסכנות והחששות מהבינה המלאכותית בפני הסנאט האמריקאי, בניגוד למנכ"לים אחרים המנסים להציג מצג של שליטה מוחלטת.
• למרות שהבינה המלאכותית נועדה לצמצם כאוס באמצעות זיהוי תבניות ותחזיות מדויקות, האופן שבו היא מוטמעת בכל תחומי החיים הופך אותה לסוכנת כאוס בעלת השפעה טרנספורמטיבית ועמוקה.