Top AI Repos — open-source AI, indexed and scored
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
Top AI Repos tracks AI repositories on GitHub and answers two different questions about each one: is it moving right now, and would you bet a product on it.
Курс "Глубокое обучение (Deep Learning)" (ВМК, МГУ имени М.В. Ломоносова)
| Date | Stars |
|---|---|
| 2026-07-31 | 528 |
| 2026-08-01 | 528 |
| 2026-08-06 | 528 |
Today
— stars today
This week
— stars this week
This month
— stars this month
Momentum
0.0
growth rate 0.00%/day
# «Глубокое обучение» (Deep Learning) * образовательный проект по глубокому обучению * лектор: [Александр Дьяконов](https://dyakonov.org/ag/) * читался как кафедральный курс на факультете ВМК, МГУ имени М.В. Ломоносова для бакалавров 317 группа (2019-2022) * часть лекций легла в основу курса программы ОзонМастерс / [AIMasters](https://aimasters.ru/) ### видео плейлист с записями лекций: https://www.youtube.com/playlist?list=PLaRUeIuewv8BYOrm6HBgJKbGUD-jcBQpW ### эссе-конспекты https://github.com/Dyakonov/DL/tree/master/ESSE_2021 ### семинары не выложены [Вопросы для тестов](https://github.com/Dyakonov/BOOKs/blob/main/DLtest_Dyakonov.pdf) ### проекты студентов не выложены ## темы 2022 года | тема | видео | программа | | :-- | :-- | :-- | | [**Введение**](2022/DL_1NN_01intro_202203a.pdf) | [видео 1](https://youtu.be/7eQJ2WiKTIA), [видео 2](https://youtu.be/rqV0vR5lTUI) | Обзор достижений DL | | [**Нейронные сети**](2022/DL_1NN_03_nn_202202a.pdf) | [видео 1](https://youtu.be/74o5xVgBdSk), [видео 2](https://youtu.be/XdyQj_BqGLw) | Простейшая нейросеть – 1 нейрон. Функции активации (линейная, пороговая, сигмоида, гиперболический тангенс, softmax, LeakyReLU, ELU, Maxout). Функциональная выразимость нейрона. Теорема об универсальной аппроксимации. Сеть прямого распространения. Обучение. Функции ошибки. Производные на компьютере. Проблема затухания градиента. Обратное распространение градиента.| | [**Борьба с переобучением в нейронных сетях**](2022/DL_1NN_04learning_202201a.pdf)| [видео 1](https://youtu.be/xVJ5SUJt8cI), [видео 2](https://youtu.be/Zl08fzH3p8k) | Борьба с переобучением в нейронных сетях. Нормировки (Normalization of Data). Инициализация весов (Xavier initialization). Верификация – ранний останов (Early Stopping). Мини-батчи (mini-batches) / Batch-обучение. Продвинутая оптимизация (стохастический градиент с моментом (momentum), метод Нестерова, Adagrad, RMSprop, Adam, AdaDelta). Зашумление. Регуляризация + Weight Decay. Max-norm-регуляризация. Оптимизаторы. Dropout. Inverted Dropout. DropConnect. Обрезка градиентов (Gradient clipping). Батч-нормализация (Batch normalization). Расширение обучающего множества (Data Augmentation). Аугментация: Mixup. Ансамбль нейросетей. Диагностика проблем с НС. Кривые ошибок. Настройка темпа обучения. Transfer Learning. Упрощение НС (Pruning). Layer Normalization. Оптимизация гиперпараметров. Практические советы. | | [**Свёрточные нейронные сети**](2022/DL_2CV_01cnn_202202a.pdf) | [видео](https://youtu.be/qWPNw4jw_WU) | Что такое изображение. Линейный подход к классификации на несколько классов. Свёрточные нейронные сети (ConvNet, CNN). Что такое свёртка (Convolution): глубина свёртки, отступ (Padding), шаг (stride), Dilation (расширение). 1×1-свёртки (Pointwise Convolutions). Реализация свёртки. Разреженные взаимодействия (sparse interactions). Pooling (агрегация, субдискретизация / subsampling), виды пулинга, Pooling layer. Устройство слоя свёрточной НС, мотивация. Перевод тензора в тензор. Визуализация признаков. Полносвязный слой. Какие бывают свёртки: Spatial Separable Convolutions, Group Convolutions, depth-wise convolution, Depth-wise separable convolution. Dropout в свёрточных сетях. | | **Архитектуры свёрточных нейронных сетей** [**часть 1**](2022/DL_2CV_02archipart1_202201a.pdf), [**часть2**](2022/DL_2CV_03archipart2_202204a.pdf) | [видео 1](https://youtu.be/tLgaFjpMgxg), [видео 2](https://youtu.be/h8p72gUoX-o) | **часть 1 – чемпионы ImageNet и их «родственники»** LeNet, AlexNet, VGG, GoogLeNet / Inception, ResNet, Inception-v2-v4,SENet, Highway Net, Xception. ResNet: почему работает. Классические архитектуры в наши дни. **часть 2 – другие архитектуры** Network in Network (NiN), Deep Networks with Stochastic Depth, FractalNet, Fractal of FractalNet, DenseNets, ResNeXt, MultiResNet, PolyNet, HyperNets, EfficientNet, MobileNet, SqueezeNet, ShuffleNet, FBNet (+NAS), WideResNets, RevNet, iRevNet, NFNets , ConvNeXt.| | [**Визуализация нейронных сетей и генерация изображ
Excerpt of 21,512 characters
Read on GitHub
131
Would you bet a product on this? Bounded 0–100 and slow moving.
matched fp:98d583f428964a48, topic:deep-learning