IT и программирование

Stepik / Вячеслав Колосков - Разработка LLM с нуля

Практический курс по созданию современных языковых моделей (LLM) на примере GPT-архитектуры. Участники с нуля реализуют компоненты Трансформера, используя Python и PyTorch, без сторонних библиотек. Программа охватывает токенизацию, механизмы внимания, обучение и обзор других моделей.