План на курса
Въведение в Edge AI Optimization
- Преглед на edge AI и неговите предизвикателства
- Значение на оптимизацията на модела за крайни устройства
- Казуси от оптимизирани AI модели в крайни приложения
Техники за компресиране на модела
- Въведение в компресията на модела
- Техники за намаляване на размера на модела
- Практически упражнения за компресия на модела
Методи за квантуване
- Преглед на квантуването и неговите предимства
- Видове квантуване (след обучение, обучение за квантуване)
- Практически упражнения за квантуване на модела
Подрязване и други техники за оптимизация
- Въведение в резитбата
- Методи за подрязване на AI модели
- Други техники за оптимизация (напр. дестилация на знания)
- Практически упражнения за подрязване и оптимизиране на модела
Внедряване на оптимизирани модели на Edge устройства
- Подготовка на средата на крайното устройство
- Внедряване и тестване на оптимизирани модели
- Отстраняване на проблеми с внедряването
- Практически упражнения за внедряване на модел
Инструменти и рамки за оптимизация
- Преглед на инструменти и рамки (напр. TensorFlow Lite, ONNX)
- Използване на TensorFlow Lite за оптимизиране на модела
- Практически упражнения с инструменти за оптимизация
Реални приложения и казуси
- Преглед на успешни проекти за крайно оптимизиране на AI
- Обсъждане на специфични за индустрията случаи на употреба
- Практически проект за изграждане и оптимизиране на приложение от реалния свят
Обобщение и следващи стъпки
Изисквания
- Разбиране на концепциите за AI и машинно обучение
- Опит в разработването на AI модели
- Основни умения за програмиране (Python препоръчително)
Публика
- AI разработчици
- Инженери по машинно обучение
- Системни архитекти
Oтзиви от потребители (2)
the ML ecosystem not only MLFlow but Optuna, hyperops, docker , docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Курс - MLflow
I enjoyed participating in the Kubeflow training, which was held remotely. This training allowed me to consolidate my knowledge for AWS services, K8s, all the devOps tools around Kubeflow which are the necessary bases to properly tackle the subject. I wanted to thank Malawski Marcin for his patience and professionalism for training and advice on best practices. Malawski approaches the subject from different angles, different deployment tools Ansible, EKS kubectl, Terraform. Now I am definitely convinced that I am going into the right field of application.