📚 The Elements of Differentiable Programming (2024) ✍️ Авторы: Mathieu Blondel, Vincent Roulet ИИ в последние годы сделал огромный скачок: большие мод…
✍️ Авторы: Mathieu Blondel, Vincent Roulet
ИИ в последние годы сделал огромный скачок: большие модели, гигабайты датасетов, мощные GPU… и теперь ещё одна магия — differentiable programming.
Если коротко, это такой подход, где можно взять и прогнать градиент не только через нейронку, но и через обычный код с условиями, циклами и структурами данных. В итоге параметры программы можно оптимизировать, как веса в модели.
🔥 Авторы из Google DeepMind объясняют:
🟠 Что это не просто «берём производные из кода», а новый способ думать о программах
🟠 Как всё это связано с оптимизацией и вероятностями (авторы даже показывают аналогии между ними)
🟠 Почему у дифференцируемого кода появляется распределение вероятностей на выходах — и ты можешь измерять неопределённость результата
И конечно, много про autodiff, графовые модели и градиентные методы, без которых ML уже немыслим.
👉 @bfbook