Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
План на курса
Въведение в QLoRA и квантизация
- Обзор на квантизацията и нейната роля при оптимизиране на модели
- Въведение в рамката на QLoRA и нейните преимущества
- Основните разлики между QLoRA и традиционните методи за подробно настройване
- Въведение в големите езикови модели (LLMs) и тяхната архитектура
- Проблеми при подробно настройване на големи модели в масщъбен мащаб
- Как квантизацията помага да се преодолят изчислителните ограничения при подробно настройване на LLMs
- Настройка на рамката и средата на QLoRA
- Подготовка на данни за подробно настройване с QLoRA
- Постъпков ръководство за имплементиране на QLoRA на LLMs с использование на Python и PyTorch/TensorFlow
- Как да балансирате точността на модела и производителността с квантизация
- Техники за намаляване на изчислителните разходи и използване на памет по време на подробно настройване
- Стратегии за подробно настройване с минимални аппаратни изисквания
- Как да оценявате ефективността на подробно настроените модели
- Общо приети метрики за оценка на езикови модели
- Оптимизация на производителността на модела след настройката и диагностика на проблеми
- Най-добрите практики за развертане на квантизирани LLMs в продукционни среди
- Масовиране на развертането за обработка на реални заявки в реално време
- Инструменти и рамки за развертане и мониторинг на модели
- Случайно изследване: Подробно настройване на LLMs за поддръжка на клиенти и NLP задачи
- Примери за подробно настройване на LLMs в различни индустрии като здравеопазване, финанси и електронна търговия
- Уроци, извлечени от реални развертаня на модели, базирани на QLoRA
Изисквания
- Разбиране на основните принципи на машинно обучение и невронни мрежи
- Опит в настройка на модели и трансферно обучение
- Запознатост с големи езикови модели (LLMs) и рамки за дълбоко обучение (напр., PyTorch, TensorFlow)
Целева група
- Инженери по машинно обучение
- Разработчици на ИИ
- Специалисти по данни
14 Часа
