Нейронные сети

Глубинное обучение (Deep learning) — набор алгоритмов машинного обучения, которые пытаются моделировать высокоуровневые абстракции в данных, используя архитектуры, состоящие из множества нелинейных трансформаций.

Под термином «глубина» в данном случае понимается глубина графа вычислений модели — максимальная длина между входным и выходным узлами конкретной архитектуры. В случае, например, простой нейронной сети прямого распространения глубина соответствует количеству слоев сети. Термин 'глубинное обучение' акцентирует внимание на сложности обучения внутренних (глубоких) слоев многослойной сети, которые плохо поддаются классическим методам обучения, таким как метод обратного распространения ошибки.

Глубинное обучение является частью более широкого семейства методов машинного обучения, основанных на репрезентационном обучении. Наблюдения (к примеру, изображение) могут быть представлены по-разному (вектор пикселей и т. д.), но некоторые репрезентации позволяют легче решать поставленные задачи (к примеру, является ли это изображение лицом?). Исследования в этой области пытаются определить какие репрезентации более полезны и как создать модели, которые могли бы научиться создавать такие репрезентации.

Различные архитектуры глубинного обучения, такие как глубокие нейросети, свёрточные нейронные сети, глубокие сети доверия, использовались в таких областях как компьютерное зрение, распознавание речи, обработка естественного языка, где в некоторых задачах они показывали лучшие на данный момент результаты.