התמודדויות עם AI בעולם המדיקל – למה חשוב להסביר את החלטות מודלי ה-AI?

בהרצאה זו נעסוק בתחום Explainable AI (XAI) והשפעתו על עולם המכשור הרפואי.
ככל שמודלים של למידת מכונה ולמידה עמוקה הופכים לכלים מרכזיים בקבלת החלטות קליניות, עולה הצורך בהבנת הדרך שבה מתקבלות התחזיות והתובנות שלהם.
כל זה נכון במיוחד עבור תעשיית המכשור הרפואי, אשר נדרשת בעמידה בתקנים רגולטורים מאוד מחמירים – וזה בהחלט קשה לסמוך על מודל שאנחנו לא יודעים להסביר למה הוא קבע מה שקבע.
בהרצאה זו נרצה להבין קצת יותר לעומק את מה שקורה בתוך הקופסא השחורה, וללמוד כיצד ניתן לשלב XAI בפיתוח מכשור רפואי מתקדם ולבנות מערכות אמינות יותר עבור צוותים רפואיים ומטופלים.