Подробнее про перечисленные методы в Information Theory, Inference, and Learning Algorithms автора Sir David MacKay

TL;DR: все перечисленные методы — это способы избежать полного перебора скрытых возможностей. Маккей строит из них иерархию: сначала пробуем точно суммировать / интегрировать ненужные переменные; если структура цепная — используем trellis / dynamic …

Про книгу Information Theory, Inference, and Learning Algorithms автора Sir David MacKay

TL;DR: Маккей написал эту книгу, чтобы показать: теория информации, байесовский вывод, сжатие данных, помехоустойчивое кодирование, машинное обучение и нейросети — не разные “курсы”, а один язык. Его главный тезис: информация — это вероятность, …