Подробное введение в нейронные сети и обратное распространение ошибки, построение микроградиентов

Это первая лекция из курса Андрея Карпатого «Neural Networks: Zero to Hero», посвящённая основам нейронных сетей и обратного распространения ошибки (backpropagation). Автор с нуля и максимально подробно объясняет, как работают нейронные сети и алгоритм обратного распространения ошибки (backpropagation). Вместе с зрителем он пишет мини-библиотеку micrograd — крошечный движок автоматического дифференцирования. По ходу разбираются: - производные и цепное правило, - построение вычислительного графа, - ручной и автоматический backward pass, - обучение простого многослойного перцептрона. Требуются только базовые знания Python и школьный уровень математики.