О курсе

Курс «LLM Driven Development» от OTUS под руководством Владимира Елфимова предназначен для профессионалов, желающих освоить внедрение больших языковых моделей в реальные проекты. Программа построена вокруг практических аспектов: от изучения архитектуры трансформеров и принципов self-attention до тонкой настройки моделей и их эксплуатации. В рамках курса рассматриваются такие темы, как токенизация, контекстные окна, управление памятью LLM, а также фреймворки для интеграции: LangChain, LlamaIndex, vLLM и другие. Отдельное внимание уделяется LLMOps — методам развёртывания, мониторинга и автоматизации жизненного цикла моделей, включая CI/CD. Курс включает модули по retrieval-augmented generation (RAG) с использованием векторных баз данных, промпт-инжинирингу, fine-tuning (LoRA, PEFT) и вызову внешних функций. Завершается обучение проектной работой, в ходе которой участники применяют полученные знания для создания собственного AI-решения. Программа предполагает наличие базовых знаний Python, хотя часть тем может быть освоена без навыков программирования.

Что рассматривается в программе

  • Рассматривается архитектура трансформеров и принципы self-attention
  • Изучаются практики LLMOps: развёртывание, автоматизация, мониторинг и обновление моделей
  • Разбираются методы токенизации, управления контекстными окнами и памятью LLM
  • Осваиваются фреймворки для интеграции LLM: LangChain, LlamaIndex, vLLM и другие
  • Изучается применение retrieval-augmented generation (RAG) с векторными базами данных
  • Рассматриваются методы fine-tuning и оптимизации LLM, включая вызов внешних функций
  • Изучаются когнитивные архитектуры, мультимодальные модели и методы тестирования AI-решений

Кому может быть полезен курс

  • Python-разработчикам, желающим освоить прикладное применение AI на основе LLM
  • DevOps-инженерам, которым нужно разворачивать и поддерживать крупные AI-системы
  • Data-инженерам, аналитикам данных и специалистам по Data Science, стремящимся интегрировать языковые модели в свои пайплайны и сервисы
  • Всем, кто планирует внедрить AI на основе LLM в свой проект или сервис

Вопросы о программе

Какие темы охватывает курс?

Курс охватывает архитектуру трансформеров, введение в AI Engineering, основы LLMOps, оценку и токенизацию, интеграцию LLM с фреймворками, разработку и оптимизацию LLM, когнитивные архитектуры и RAG, а также продвинутые архитектуры и паттерны.

Какие инструменты и фреймворки рассматриваются в курсе?

В программе упоминаются LangChain, LlamaIndex, vLLM, Ollama, Haystack, Triton, MLflow, LangSmith, Langfuse, Pinecone, Chroma, Milvus, Clickhouse и другие.

Какие требования к уровню подготовки?

Желательно базовое знание Python. Многие темы не требуют знания языков программирования, но отдельные примеры работы будут именно на Python.

Предусмотрена ли проектная работа?

Да, заключительный месяц курса посвящён проектной работе, в ходе которой участники разрабатывают собственный проект на основе полученных навыков, с возможностью консультаций преподавателей.