斯坦福“统计学与信息论”课程讲义
pdf下载: web.stanford.edu/class/stats311/lecture-notes.pdf
“本书探讨了信息论、统计学、计算和学习之间存在的一些关联。
信号处理、机器学习和统计学都围绕着从信号和数据中提取有用信息这一核心。在信号处理和信息论中,一个中心问题是如何最好地设计信号及其传输信道,以最大化地通信和存储信息,并实现最有效的解码。相比之下,在机器学习和统计学中,通常是自然界提供了一个固定的数据分布,而学习者或统计学家的目标是恢复关于这个(未知)分布的信息。我们的目标将是展示信息论的视角如何能为这种信息恢复过程提供简洁明了的答案和技术。”