אתר המרצה ד"ר ילוב הנדזל שרון
קורסים
- עיבוד שפה טבעית (10247) תקציר הקורס:
- פרויקט גמר למדעים1 (11402) תקציר הקורס:
- פרויקט גמר למדעים2 (11403) תקציר הקורס:
- עיבוד שפות טבעיות ודיבור (65007) תקציר הקורס:
- מבוא למידה עמוקה (65021) תקציר הקורס:
תקציר:
בתחילה ייסקרו הבעיות המתעוררות כאשר רוצים לעבד שפה טבעית. לאחר מכן, יוצגו מודלים של שפה. בהמשך ייסקרו אלגוריתמים מרכזיים כגון IT-IDF, WORD2VEC, Bag of words, POS ועוד. במקביל, נלמד איך לממש אלגוריתמים לעיבוד שפה באמצעות פייתון וספריות ייעודיות. ייסקרו אפליקציות מרכזיות בעיבוד שפה: summarization, translation ו - keyword, sentiment analysis ועוד. יילמדו העקרונות של LLM, כולל TRANSFORMERS, VAE ושימוש במודלי שפה ובספריות כ GPT, HUGGINGFACE ועוד. הסטודנט יכיר שיטות EMBEDDING נפוצות ואת עקרונות שכבת ATTENTION, RAG, FINE TUNNING יצירת AGENT והערכת איכות מודלי שפה באמצעות מטריקות מגוונות.תקציר:
במסגרת הקורס, ייחשף הסטודנט לכל שלבי הפיתוח של אפליקציה או חבילת תוכנה כולל: עיצוב ופיתוח היישום, עיצוב הממשק, יישום אלגוריתם, בחירת ארכיטקטורה ושילוב מסדי נתונים, יישום מתודולגיה, חשיבה ביקורתית, פיתוח ובדיקות מקצה לקצה, תיעוד ומצגת, עבודת צוות וניהול פרויקטיםתקציר:
זהו קורס המשך אשר במסגרתו ייחשף הסטודנט לכל שלבי הפיתוח של אפליקציה או חבילת תוכנה כולל: עיצוב ופיתוח היישום, עיצוב הממשק, יישום אלגוריתם, בחירת ארכיטקטורה ושילוב מסדי נתונים, יישום מתודולגיה, חשיבה ביקורתית, פיתוח ובדיקות מקצה לקצה, תיעוד ומצגת, עבודת צוות וניהול פרויקטים.תקציר:
הקורס מציג את היסודות התיאורטיים והמעשיים של עיבוד שפה טבעית מודרני. נתחיל בייצוג טקסט, tokenization, מודלי שפה, embeddings ושיטות קלאסיות לסיווג וחיפוש טקסטים. בהמשך נלמד מודלים נוירוניים לשפה, Attention וארכיטקטורת Transformer, המהווה בסיס למודלי שפה גדולים כגון GPT ו־BERT.
הקורס שם דגש על שימושים עכשוויים במודלי שפה גדולים: prompting, instruction following, התאמת מודלים באמצעות PEFT/LoRA, בניית מערכות Retrieval Augmented Generation (RAG), ושימוש ב־Agents המפעילים כלים חיצוניים. בנוסף נעסוק בהערכת מערכות NLP ו־LLM באמצעות מטריקות שונות, כולל BLEU, ROUGE, Perplexity, BERTScore, Precision@k, Faithfulness ו־Task Success.
|