О курсе

Курс разделён на пять частей, каждая из которых соответствует крупному разделу программы. Представленная первая часть охватывает полный цикл работы с большими языковыми моделями: от базовых концепций NLP и трансформеров до практических аспектов развёртывания и безопасности.

В программе рассматриваются современные архитектуры LLM, включая сравнение закрытых и открытых моделей. Отдельное внимание уделено методам дообучения PEFT, в частности LoRA и QLoRA, а также выравниванию моделей с помощью RLHF, включая подходы DPO и PPO. Заявлено изучение способов снижения ресурсоёмкости через квантизацию и дистилляцию.

Структура курса включает семь блоков. Первый блок посвящён основам NLP, механизму Attention и эволюции трансформеров. Второй — современным LLM, PEFT, RLHF и уменьшению размеров моделей. Третий блок готовит к RAG: работа с текстами, векторами, информационный поиск и ранжирование. Четвёртый — основам и усложнению RAG-систем. Пятый — введению в агентов и мультиагентные системы. Шестой — инфраструктуре: хостинг LLM и эмбеддингов, разворачивание чат-бота, observing. Седьмой — безопасности и этике, включая OWASP, дискриминацию, утечки конфиденциальной информации, галлюцинации и alignment.

В качестве экспертов курса указаны Кристина Желтова (Газпромбанк), Роман Соломатин, Дарья Андреева, Александр Потехин (все — X5 Tech) и Евгений Кокуйкин (Raft).

Что рассматривается в программе

  • рассматриваются архитектуры современных LLM и различия закрытых и открытых моделей
  • разбирается запуск и адаптация open-source моделей
  • изучается настройка моделей через fine-tuning и PEFT (LoRA / QLoRA)
  • рассматриваются методы RLHF для выравнивания моделей, включая DPO и PPO
  • разбираются способы снижения ресурсоёмкости через квантизацию и дистилляцию
  • рассматриваются основы RAG-систем и их усложнение
  • изучаются вопросы безопасности и этики при работе с LLM

Кому может быть полезен курс

  • тем, кто интересуется разработкой и дообучением больших языковых моделей
  • специалистам, которым нужно ознакомиться с методами PEFT, RLHF и оптимизации LLM
  • разработчикам, планирующим работать с RAG-системами и агентами на базе LLM
  • тем, кто хочет понять инфраструктурные и этические аспекты развёртывания LLM

Вопросы о программе

Из каких частей состоит курс?

Курс разделён на пять частей, каждая из которых соответствует одному большому разделу программы. Первая часть посвящена созданию, дообучению и оптимизации LLM.

Какие инструменты рассматриваются в первой части?

В числе основных инструментов указаны Hugging Face Transformers, TRL (для RLHF), LoRA / QLoRA.

Какие темы входят в программу первой части?

Программа включает выравнивающий блок (NLP, Attention, трансформеры), современные LLM (PEFT, RLHF, уменьшение размеров), prerequisites для RAG, основы RAG, агентов, инфраструктуру и блок безопасности и этики.

Кто указан в качестве экспертов курса?

В описании перечислены Кристина Желтова (Газпромбанк), Роман Соломатин, Дарья Андреева, Александр Потехин (X5 Tech) и Евгений Кокуйкин (Raft).