Одна ошибка — миллионы весов. Как ИИ находит виноватого — Урок 3

Как сделан курс: создан с помощью ИИ — мой личный эксперимент с агентными ИИ-системами. Делаю его для себя, чтобы глубже понять, как нейросети устроены, работают и «думают»: сценарий, анимацию и озвучку собирают ИИ-агенты, а я направляю и проверяю. #нейросети #backpropagation #машинноеобучение #математикадляИИ #LoRA Backpropagation — это как нейросеть одним проходом назад узнаёт, насколько каждый её вес виноват в ошибке, чтобы понять, куда его подкрутить. В этом уроке — сердце обучения ИИ, на пальцах и на цифрах: как сигнал идёт вперёд к ответу (прямой проход), что такое разрыв и ошибка, и как ошибка идёт назад той же цепочкой — «как эхо», оставляя на каждом весе его личную долю вины. Разбираем цепное правило (почему влияния перемножаются, а не складываются) и почему backpropagation считает наклон сразу по миллионам весов за ОДИН проход назад, а не пересчитывает сеть под каждый вес. В конце — мост к практике: ровно это крутится под кнопкой «train», когда ты дообучаешь LoRA. Пример на цифрах из видео: вход 3 → вес 2 → h = 6 → вес 1.5 → ответ 9; эталон 13, ошибка 16. Эхо на выходе −8 летит назад: вина второго веса −8×6 = −48, вина первого −8×1.5×3 = −36. Один шаг вниз — и ошибка падает с 16 до 2.63. Мини-словарь: Прямой проход (forward pass) — сигнал идёт от входа через слои к ответу; каждый слой умножает вход на свои веса. Разрыв — эталон минус ответ (в Уроке 2 звали это ошибкой); ошибка (loss) — разрыв в квадрате. Обратный проход (backward pass) / backpropagation — ошибка идёт назад той же цепочкой, как эхо, и на каждом весе оставляет его долю вины (наклон по этому весу). Цепное правило (chain rule) — влияния перемножаются по цепочке: доля вины веса = произведение множителей по пути от ошибки к этому весу. Градиент — наклон сразу по всем весам; собранные вины всех весов вместе — это и есть градиент из Урока 2. LoRA — маленький адаптер поверх замороженной большой модели; его веса учат тем же backpropagation, поэтому дообучение дёшево. 0:00 Вступление 0:35 Прямой проход: как сигнал становится ответом 1:06 Разрыв и ошибка: насколько промахнулись 1:43 Кто из весов виноват? Местный наклон 2:24 Обратный проход: эхо ошибки идёт назад 2:55 Цепное правило: почему влияния перемножаются 3:38 Шаг вниз: ошибка падает за один проход 4:31 Backprop внутри LoRA — где это в ИИ 4:50 Итог Ссылки: ▶ Плейлист «Курс: ИИ с нуля»: ▶ Предыдущий урок «Как ИИ учится на ошибках» — Урок 2: [ссылка] ▶ Полный конспект и транскрипт урока: [ссылка на статью]