Курс "Нейросети и искусственный интеллект" — TechCave

Лекции читает Семен Козлов simon.kozlov@gmail.com Лекции является частью курса: https://habr.com/post/414165/ Лекция 1 - ВведениеСлайды - https://www.dropbox.com/s/oahmg5spdy5... 3:23 - Начало 4:45 - О чем курс?

Курс "Нейросети и искусственный интеллект"

Machine Learning/Data Mining/Big Data

Курс "Нейросети и искусственный интеллект"

Лекции читает Семен Козлов simon.kozlov@gmail.com

Лекции является частью курса: https://habr.com/post/414165/

Лекция 1 — Введение

Слайды — https://www.dropbox.com/s/oahmg5spdy5...

3:23 — Начало

4:45 — О чем курс?

8:08 — Какие задачи сейас решает ИИ?

12:44 — Чего достиг ИИ в задаче распознавания изображений?

14:39 — Перенос стиля художника на изображение

15:54 — Распознавание речи

17:45 — Машинный перевод

18:51 — Интернет поиск

19:30 — Обучение с подкреплением

22:33 — Что такое машинное обучение?

22:56 — Обучение с учителем

26:41 — Обучение без учителя

28:27 — Пример распознавания рукописных цифр MNIST

33:51 — Глубокое обучение

35:55 — Вопросы

46:08 — Компьютерное зрение (от классических алгоритмов к глубокому обучению)

56:21 — О том, как сформирован курс и какие темы будут пройдены

59:49 — Дополнительные ресурсы

1:02:24 — Контакты и где задавать вопросы

1:04:36 — 11 Вопросы

Лекция 2 — Линейный классификатор

Слайды — https://www.dropbox.com/s/zcgpxcrmmhm...

0:35 — Начало

1:20 — Краткое повтороение прошлой лекции

4:16 — О разделении датасета на части

4:49 — Распознавание образов на примере датасета CIFAR-10

8:39 — Метод ближайших соседей (Nearest neighbor)

13:24 — Метод K-ближайших соседей (k-nearest neighbor)

14:29 — (off) Вопросы (не было) и истории (были) :)

16:22 — Продолжение о методе K-ближайших соседей

16:39 — Гиперпараметры, их подбор и как это связано с разделением датасета на части

24:25 — Кросс-валидация

27:57 — Недостатки метода K-ближайших соседей

33:04 — Вопросы

34:00 — Линейный классификатор

39:53 — Вопросы и истории

43:48 — Интерпретация результатов работы классификатора (softmax)

51:09 — Принцип максимального правдоподобия

55:20 — Вопросы о методе максимального правдоподобия + перерыв в лекции

1:07:03 — Продолжение о принципе максимального правдоподобия (cross entropy loss)

1:10:09 — Регуляризация

1:15:29 — Градиентный спуск

1:23:18 — Стохастический градиентный спуск

1:28:10 — Что будет дальше?

1:29:11 — Вопросы и истории

Лекция 2.1 — Softmax

Слайды: https://www.dropbox.com/s/sxj3wqzrep4...

0:00 — Начало

0:43 — Повторение (Линейный классификатор, градиентный спуск)

2:41 — Loss-function (свойства, какой должна быть)

8:52 — Принцип максимального правдоподобия

14:03 — Вопросы (не было)

15:16 — Softmax

23:54 — Объединение loss-функции и softmax

26:00 — Дополнительная литература

27:54 — Вопросы

Лекция 3 — Нейронные сети

Слайды: https://www.dropbox.com/s/oth0iavwgqu...

Вывод производной softmax: https://www.dropbox.com/s/sxj3wqzrep4...

Лекция 4 — Нейронные сети на практике

Слайды: https://www.dropbox.com/s/2yu18c7x6rw5otd...

0:37 — О прошлой лекции (Общая схема тренировки)

2:35 — Погружение в детали (что будет в лекции):

3:10 — Подготовка данных (нормализация сдвига и масштаба)

7:05 — Активационная функция, инициализация весов, вспомогательные слои

8:41 — Активационные функции и затухающие градиенты (tahn, ReLU)

16:11 — Вопросы

19:50 — Проблема инициализации весов (Xavier, He initializations)

27:26 — Вопросы

28:07 — Batch normalization

36:50 — Вопросы (и продолжение Batch norm)

41:24 — Overfitting (переобучение сети)

46:50 — Регуляризация (L2, Dropout)

58:11 — Процесс оптимизации с помощью градиентного спуска (SGD, Momentum, Adagrad, RMSProp, Adam)

1:11:06 — Процесс тренировки (Learning rate)

1:20:12 — Вопросы

1:21:17 — Как интерпретировать графики обучения и искать гипертпараметры

1:32:00 — Ансамбли моделей

1:34:36 — Краткий гайдлайн по обучению нейронный сетей и вопросы

Лекция 5 — CNN

Слайды: https://www.dropbox.com/s/vviil4qsdh6...

Лекция 6 — Frameworks

Слайды: https://www.dropbox.com/s/x276ls8boxr...

Лекция 7 — Еще компьютерного зрения

Слайды: https://www.dropbox.com/s/64c6j9w632n...

Лекция 8 — Введение в NLP

Слайды: http://bit.ly/2Mu4VGU

0:00:00 — Введение

0:05:15 — Основная проблематика

0:10:20 — NLP pipeline

0:20:30 — Вопросы от зрителей 1

0:21:45 — Как решались задачи NLP без NN

0:24:13 — Deep NLP: Перевод пространства из символьного в непрерывное

0:31:45 — Вопросы от зрителей 2

0:40:26 — Мемасик о дивном новом мире

0:41:10 — word2vec: Введение и skip-gram

0:45:08 — word2vec: Архитектура сети

0:51:35 — Вопросы от зрителей 3

0:54:25 — word2vec: Проблемы

0:57:30 — word2vec: Negative sampling

1:02:26 — Вопросы от зрителей 4

1:05:16 — word2vec: Свойства

1:09:40 — word2vec: Применение

1:13:40 — Заключение + Вопросы от зрителей 5

Лекция 9 — RNNs

Слайды: http://bit.ly/2JQwfNR

0:00:00 — Обзор прошлой лекции

0:03:00 — Рекуррентные нейронные сети

0:06:55 — Основная идея

0:12:00 — Вопросы от зрителей 1

0:14:45 — Схема блоков сети

0:16:35 — Генерация текста

0:23:45 — Вопросы от зрителей 2

0:27:10 — Визуализация нейронов

0:31:50 — Тренировка RNN

0:38:00 — Проблема длинных зависимостей

0:41:50 — LSTM

0:56:20 — Вопросы от зрителей 3

0:57:43 — Варианты LSTM

1:05:55 — Вопросы от зрителей 4

1:07:01 — Применение

1:13:05 — Вопросы от зрителей 5

Лекция 10 — Attention

Слайды: https://www.dropbox.com/s/g7rc79sl8je...

0:00:00 — Введение и обзор прошлой лекции

0:01:22 — Проблема машинного перевода

0:06:55 — Соответствие слов

0:08:56 — Метрика BLEU

0:15:40 — seq2seq

0:24:35 — Вопросы от зрителей 1

0:27:55 — Bidirectional RNN

0:31:10 — Attention: Общие принципы

0:36:45 — Вопросы от зрителей 2

0:43:25 — Attention: Примеры, проблемы

0:48:15 — Google Translate

0:53:24 — Вопросы от зрителей 3

0:55:35 — Image captioning

1:03:38 — Вопросы от зрителей 4

1:15:18 — Visual Q&A

1:26:29 — Вопросы от зрителей 5

1:28:58 — О важности забывания

1:31:00 — Attention: Скепсис и альтернативные архитектуры

1:33:37 — Заключение + Вопросы от зрителей 6

Лекция 11 — Обучение с подкреплением (Reinforcement Learning)

Слайды — https://www.dropbox.com/s/n7gmq8dz5ok...

Лекция 12 — Еще об обучении с подкреплением

Слайды: https://www.dropbox.com/s/g0cmbz7z9wu...

Лекция 13 — Нейросети в 2018

Слайды: https://www.dropbox.com/s/uyfwsmdcbgo...

13:59
55

Нет комментариев. Ваш будет первым!

Авторизация

Пользователи

lunchcalllina1978
Sever
stopresniebots1983
tekino
templide
Seangle
Галя Рубцова
Ольга Телюкова
Zhenya