香农信息论不确定性香农指出：“人们只有在两种情况下有通信的需要

其一，是自己有某种形式的消息要告知对方，而估计对方不知道这个消息；其二，是自己有某种疑问要询问对方，而估计对方能做出一定的解答

”这里的不知道和疑问是在一般情况下归结为存在某种知识上的“不确定”

对于第一种情况，是希望消除对方的不确定性，对于第二种情况，则是请求对方消除不确定性，所以通信的作用是通过消息的传递，使接收者从收到的消息中获取一样东西，因而消除了通信前存在的“不确定性”

这种东西就是信息

这样，我们有理由给信息一个明确的定义：“信息就是用来消除不确定的东西

”进而，可合理地推断：通信后接收者获取的信息在数量上等于通信前后“不确定性”的消除量

这就是信息论中度量信息的基本观点

 那么，很自然的接着问这样一个问题：“不确定性”本身是否可度量？是否可用数学方法来表示呢？我们知道不确定性是与“多种结果的可能性”相联系的，而在数学上，这些“可能性”正是以概率来度量的

概率大，即“可能性”大；概率小，“可能性”小

显然，“可能性”大，即意味着“不确定性”小；“可能性”小，即意味着“不确定性”大

由此可见，“不确定性”与概率大小存在着一定的联系，“不确定性”应该是概率的某一函数；那么，“不确定性”的消除量（减少量），也就是狭义信息量，也一定可由概率的某一函数表示

这样就完全解决了作为“通信的消息”来理解的“狭义信息”的度量问题

这一点与非决定论有相似性

 以上三个观点可以说是信息论的三大理论支柱

信息论的建立，在很大程度上澄清了通信的基本问题

它以概率论为工具，刻划了信源产生信息的数学模型，导出了度量信息的数学公式；同时，描述了信道传输信息的过程，给出了表征信道传输能力的容量公式；此外，它还建立了一组信息传输的编码定理，论证了信息传输的一些基本界限

这些成果的取得，一方面使通信技术从经验走向科学，开辟了通信科学的新纪元

同时，也为整个信息科学的形成和发展奠定了必要的理论基础

但是我们也应该看到，在形式化的各种假设和通信系统的各种模型中，均存在各种各样的前提和假设，致使信息论只适合于一定的范围，给这个理论带来一定的局限性

以上内容由大学时代综合整理自互联网，实际情况请以官方资料为准。