האם הייתם סומכים על הבינה המלאכותית (AI) שתטיס אתכם הביתה? מתיקוף (Validation) דטרמיניסטי לאימות (Verification) סטטיסטי ומדידת חסינות (Robustness) בזמן אמת.חינם לחברי האיגוד

תקציר:
שילוב רשתות נוירונים עמוקות (DNNs) ומודלי שפה גדולים (LLMs) במערכות קריטיות לבטיחות (Safety-Critical) כגון בתעופה, ברכב ובציוד רפואי מציבים פרדוקס הנדסי: ביצועי-על של בינה מלאכותית לצד "קופסה שחורה" בלתי צפויה.
בחלקה הראשון של ההרצאה, נצלול לשורש הבעיה ונסביר מדוע ולידציה דטרמיניסטית מסורתית נכשלת מול המרחב העצום של המודל ואיומי דוגמאות יריבות (Adversarial Attacks).
בחלקה השני, נגשר בין התיאוריה לפרקטיקה באמצעות מתודולוגיות מחקר חדשניות, המאפשרות אימות סטטיסטי (Statistical Verification) ומדידת איתנות (Robustness) בזמן אמת. דרך ניתוח מקרי בוחן (Case Studies) מעולמות הראייה הממוחשבת ועד מודלי שפה מתקדמים, נדגים כיצד ניתן לכמת את הסתברות הכשל ולספק "ערבויות פורמליות" (Formal Guarantees) לביצועי המודל. נכיר כלים המאפשרים להפוך אלגוריתם סטוכסטי לרכיב הנדסי אמין, שניתן לבסס עליו מערכות מצילות חיים.

על המרצים:
ד"ר נתי לוי - מוביל טכנולוגי וחוקר בתחומי הנדסת מערכות ובינה מלאכותית, בעל ניסיון עשיר של מעל 25 שנה בתעשייה הביטחונית והאזרחית. כיום משמש כמוביל AI והנדסת המערכות בחטיבת התעופה של התעשייה האווירית, שם הוא מקדם חדשנות במערכות קריטיות. בתפקידיו הקודמים כיהן בתפקידי פיתוח תוכנה, הנדסת מערכות וניהול, בהם הוביל את תחום המתודולוגיה, שיפור התהליכים והאיכות ההנדסית בחטיבת כלי טיס צבאיים. בעברו עבד גם באינטל, אמדוקס ו- ECI.
לנתי תואר שלישי (PhD) במדעי המחשב מהאוניברסיטה העברית, עם התמחות באיתנות (Robustness) ובטיחות של רשתות נוירונים. הוא מחברם של 6 מאמרים אקדמיים ובעל 5 פטנטים רשומים בתחום האלגוריתמיקה. בנוסף, הוא בעל תואר ראשון במדעי המחשב מהאוניברסיטה הפתוחה (בהצטיינות), תואר שני בהנדסת מערכות מהטכניון, תואר שני נוסף במינהל עסקים מאונ' בן גוריון שבנגב.
ד"ר נתי לוי משמש גם כבוחן מקצועי בתחום הבינה המלאכותית ברשות החדשנות וחבר בוועדות תקינה בינלאומיות לרישוי AI. בעשייתו הוא משלב מחקר תיאורטי מעמיק עם פרקטיקה הנדסית, במטרה לגשר על הפער שבין האקדמיה לתעשייה.

ד"ר משה ויילר (יו"ר קבוצת העבודה) – בעל תואר B.Sc. בהנדסת חשמל מהטכניון (1987), תואר M.Sc. בהנדסת חשמל (1994) ו- תוכנית MBA מאוניברסיטת ת"א (1995), ו-Ph.D.  בהצטיינות יתרה בהנדסת מערכות מאוניברסיטת USC (University of Southern California) בלוס אנג'לס, קליפורניה (1998).
ד"ר ויילר הינו ממקימי תוכנית התואר השני בהנדסת מערכות בטכניון (1999) המונה 1,700 בוגרים, הוא משמש כמרצה בכיר בקורסי הליבה של התוכנית (מ- 1999) וכחוקר בכיר במרכז גורדון להנדסת מערכות בטכניון (מ- 2008). ד"ר ויילר מרצה את קורס ניהול סיכונים והזדמנויות בתוכנית ה- MBA בפקולטה לניהול באוניברסיטת ת"א (מ- 2019), את קורס חשיבה מערכתית באוניברסיטת בר-אילן בתוכנית החדשה של הנדסת תעשייה ומערכות מידע (2023-2025) ואת הקורס פיתוח מוצר חדש לסטרטאפים באוניברסיטת קורנל, ניו יורק, ארה"ב (2024).
ד"ר ויילר הינו ממייסדי הארגון להנדסת מערכות בישראל  ,(INCOSE-IL Founder - 1999)עמית הארגון (Fellow - 2019) והוביל במשך מעל ל- 25 שנה את קבוצות העבודה בתחומי ארכיטקטורה, אימות ותיקוף, וניהול סיכונים (תחת הרשות לחדשנות/המדען הראשי). ד"ר ויילר גם מרצה ויועץ לארגונים רבים בתחומי הנדסת המערכות וניהול הסיכונים, עם מעל ל- 1,100 בוגרים.