הקורס יתמקד במספר נושאים עיקריים: הגדרת תהליך יסוד בלמידת מכונה; הכרת משפחות שונות של למידת מכונה,כגון רגרסייה, מסווג ועוד; הכרת אלגוריתמים שונים של למידת מכונה כמו רגרסיה לוגיסטית, k-means, ו-DNN.

נושאי הקורס לפי שבועות*:

מפגשים נושא

1 הקדמה: מזו למידת מכונה, איזה סוגי למידה קיימים (סיווג לפי סוגי למידה שונים), אילו בעיות ניתן לפתור באמצעות למידה..

חזרה: מוסגי יסוד בהסתברות, אלגברה לינארית ואופטימיזציה (מציאת נקודות קיצון, כופלי לגרנג' ועוד).

2-4 רגרסיה לינארית

 רגרסיה לוגיסטית.

רגולריזציה (1L ו-2L כדוגמה)

פונקציות מחיר שונות( MMSE, קרוס-אנטרופיה)

שיטות (CV , K-fold CV) ומדדים להערכת מודל (precision, recall)

תרגול עבודה עם חבילת sklearn

5 מסווג SVM לינארי ועם פונקציות גרעין

תרגול מימוש באמצעות sklearn

6 אימון לא פרמטרי: עצי החלטות, Random Forest; kNN

7 הורדת מימד: PCA, LDA, TSNE + אשכול רך (k-means)

8-10 יסודות DNN

רשת Feed-Forward;

 פונקציות אקטיבציה שונות (לינארי, סיגמואיד, טאנג'נט היברבולי, ReLu, SoftMax);

אימון Back Propagation;

 רגולריזציה, ו-Drop-Out.

תרגול פיתוח מודלים בעזרת KERAS

11-12

(אופציונאלי* -תיתכן החלפה בנושאים אחרים ע"פ שיקול דעת המרצה) ארכיטקטורות מתקדמות בלמידת מכונה

מבוא ושימושים לרשתות קונבולציה -CNN

מבוא למודלים סיקוואנסיאליים בלמידה עמוקה: LSTM , RNN, GRU

13 הצגת עבודה 1 – סקירת מאמרים

14 הצגת עבודה 2 – סקירת תוצאות פרויקט גמר