דילוג לתוכן ראשי

קורסים

  • עיבוד שפה טבעית (10247)
    • תקציר הקורס:

    תקציר:

    בתחילה ייסקרו הבעיות המתעוררות כאשר רוצים לעבד שפה טבעית. לאחר מכן, יוצגו מודלים של שפה. בהמשך ייסקרו אלגוריתמים מרכזיים כגון IT-IDF, WORD2VEC, Bag of words, POS ועוד. במקביל, נלמד איך לממש אלגוריתמים לעיבוד שפה באמצעות פייתון וספריות ייעודיות. ייסקרו אפליקציות מרכזיות בעיבוד שפה: summarization, translation ו - keyword, sentiment analysis ועוד. יילמדו העקרונות של LLM, כולל TRANSFORMERS, VAE ושימוש במודלי שפה ובספריות כ GPT, HUGGINGFACE ועוד.
  • פרויקט גמר למדעים1 (11402)
    • תקציר הקורס:

    תקציר:

    במסגרת הקורס, ייחשף הסטודנט לכל שלבי הפיתוח של אפליקציה או חבילת תוכנה כולל: עיצוב ופיתוח היישום, עיצוב הממשק, יישום אלגוריתם, בחירת ארכיטקטורה ושילוב מסדי נתונים, יישום מתודולגיה, חשיבה ביקורתית, פיתוח ובדיקות מקצה לקצה, תיעוד ומצגת, עבודת צוות וניהול פרויקטים
  • פרויקט גמר למדעים2 (11403)
    • תקציר הקורס:

    תקציר:

    זהו קורס המשך אשר במסגרתו ייחשף הסטודנט לכל שלבי הפיתוח של אפליקציה או חבילת תוכנה כולל: עיצוב ופיתוח היישום, עיצוב הממשק, יישום אלגוריתם, בחירת ארכיטקטורה ושילוב מסדי נתונים, יישום מתודולגיה, חשיבה ביקורתית, פיתוח ובדיקות מקצה לקצה, תיעוד ומצגת, עבודת צוות וניהול פרויקטים.
  • עיבוד שפות טבעיות ודיבור (65007)
    • תקציר הקורס:

    תקציר:

    איך מחשבים מבינים את שפתינו? איך מנועי החיפוש מוצאים בתוך כמויות מידע אדירות בדיוק את מה שאנו צריכים? כיצד הופכים דיבור לטקסט? מהן האנליזות המשלבות עיבוד טקסט ומלל?

    איך נעשה תרגום ע"י מכונה? איך אפשר לסווג טקסטים לפי דרישות שונות?

    תחום עבוד שפות טבעיות (Natural Language Processing - NLP) חוקר את הבעיות הקשורות לעיבוד ומניפולציה של שפה טבעית, והבנה של שפה טבעית על מנת לגרום למחשבים "להבין" דברים שנאמרים או נכתבים בשפות אנושיות. התחום עוסק בפיתוח מודלים חישוביים ואלגוריתמים לניתוח טקסטים בשפה אנושית.

    בשנים האחרונות התחום צבר תאוצה בתעשייה ובמחקר. תרגום אוטומטי, מענה לחיפוש, ניתוח של טקסטים בערוצי מדיה למיניהם, העברת שפה לממשקי דיבור של מכשירים ניידים ועוד.

    בקורס הזה יוצגו אלגוריתמים לניתוח טקסט החל מרמה של מילים בודדות ועד להסתכלות על מבנה מורכב של משפטים. כמו כן, יוצגו אספקטים בלשניים של התחום.

    בשליש האחרון של הסמסטר יילמדו הטכנולוגיות והאלגוריתמיקה מאחורי LLM כגון GPT, כולל VAE, TRANSFORMERS .
  • מבוא למידה עמוקה (65021)
    • תקציר הקורס:

    תקציר:

    במהלך הקורס ילמדו התלמידים שיטות המתקדמות בלמידה חישובית למציאת מאפיינים, שיטות להורדת מימד ועוד.
  • שיטות מתקדמות בלמידת מכונה (65029)
    • תקציר הקורס:

    תקציר:

    הקורס מציג אלגוריתמים ושיטות עבודה מתקדמות בלימוד מכונה, חלקם העיקרי מבוסס על גישות באייסיאניות. הקורס פותח בהצגה של מספר אלגוריתמים בסיסיים עבור מודלים גראפיים. נלמד כיצד נחשב הסתברויות אפוסטריוריות של משתנים חבויים, נציג אלגוריתם יוניברסלי של 'סכום מכפלה' לחישוב הסתברויות שוליות של גראפים מורכבים, נראה כיצד ניתן להכליל מודלים גראפיים לשדות מרקוביאניים ונראה שימושים שלהם לדוגמה בראייה ממוחשבת. משם נשאל את השאלה מה קורה כאשר למודל אין פרמטרים ברורים. נתאר תהליכים גאוסיאניים ותהליכי דיריכלה לטפל במקרים כאלו, נעסוק בדוגמה של קלאסטריזציה כאשר מספר הצבירים איננו קבוע מראש. גישות בייסיאניות מחייבות לעיתים להשתמש בדגימות במקום שקשה לעשות חישוב אנליטי, נציג מספר שיטות דגימה שיאפשרו לנו להעריך התפלגויות שלא ניתן לחשב אותן ישירות. הקורס דן גם בבחירה של המודל המתאים בהינתן חלק מהנתונים, נשתמש בשיטות באייסיאניות לבחירת המודל או ישירות על ידי בחירת היפרפרמטרים. בנוסף נעסוק בהורדה של מימד מרחב הנתונים, נלמד מהם היתרונות של צמצום המימד ומהן המגבלות. נעסוק גם במערכות מונחות למחצה, בהן רק חלק מהנתונים מסומנים. נסיים את הדיון בהצגה של אלגוריתמים גנטיים והיתרונות שלהם.