Нейросети
- Полносвязные сети FC-слои, функции активации, batch normalization, инициализация весов
- Свёрточные нейронные сети (CNN) Операция свёртки, пулинг, регуляризация, DenseNet
- YOLO — детекция объектов Архитектура YOLOv1/v2/v3, IoU, Non-Maximum Suppression
- RNN и LSTM Рекуррентные сети, затухание градиентов, LSTM, GRU
- Transformer Механизм внимания, Multi-Head Attention, энкодер и декодер
- Дистилляция знаний Adversarial attacks, knowledge distillation, температура softmax
- Рекомендательные системы Коллаборативная фильтрация, latent factor models, сессионные рекомендации
- Работа с текстом Bag-of-words, TF-IDF, n-граммы, local-global attention