Reading Club #5. Low-Rank Adaptation (LoRA)

Гостем нового выпуска стала Дарья Леднева — ML-Researcher, DeepPavlov; Middle DS, Sber; магистрантка AI Talent Hub Мы обсудили три статьи про методы для эффективной адаптации LLM. Подходы QLoRA, QA-LoRA и LQ-LoRA объединяют техники Low-Rank Adaptation и квантизации. Статьи: QLoRA - QA-LoRA - LQ-LoRA - Презентация: Магистратура AI Talent Hub —