Information theory

Japanese: 情報理論 - じょうほうりろん（英語表記）information theory

A mathematical theory that began with a paper published by CE Shannon in 1948, which describes the generation, transmission, and reception of information in social life. When a message is sent through a communication channel, the uncertainty of the event changes at the receiving end. For example, if the message is completely certain, the uncertainty disappears. This change in uncertainty is considered to be equal to the amount of information sent. Information theory considers that information can be measured and counted like matter, and can also be transmitted, so information transmission systems can be designed in the same way as material transportation systems. The amount of uncertainty is called entropy, and it can be calculated by giving the probability of an event. Its unit is the bit, and the speed of information generation, transmission, and processing is expressed in bits/s. Information theory aims to objectively define the amount of information and reflect it in the design of a system, so it does not deal with the subjective value or semantic value of the receiver. Direct applications include the theory of modulation, coding, and encryption in communication systems. It can also be applied to the relationship between living things and information, human judgment and behavior, linguistic information, and redundancy and reliability.

Source: Encyclopaedia Britannica Concise Encyclopedia About Encyclopaedia Britannica Concise Encyclopedia Information

Japanese:

1948年に C.E.シャノンが発表した論文に始る数学的理論で，社会生活のなかでの情報の発生，伝送，受理を表現するものである。通信路を通じて一つの通報が送られたとき，受信側では事象に対する不確定さが変化する。たとえば，通報が完全に確かなものであれば，不確定さは消滅する。このような不確定さの変化分が，送られた情報量に等しいと考える。情報理論では，情報は物質と同様にはかったり数えたりできるし，伝送もできると考えるので，物資輸送システムと同じように情報伝送システムが設計できる。不確定さを表現する量はエントロピーと呼ばれ，事象の確率を与えれば計算される。その単位はビット bitで，情報の発生，伝送，処理の速度は bit/sで表わされる。情報理論は，情報量を客観的に定義してシステムの設計に反映させようとするものであるから，受信者の主観的価値や意味的な価値を扱うものではない。直接の応用としては，通信システムにおける変調，符号化，暗号の理論などがある。そのほか，生物と情報，人間の判断と行動，言語情報，冗長さと信頼性の関係などにも応用することができる。

出典　ブリタニカ国際大百科事典小項目事典ブリタニカ国際大百科事典小項目事典について　情報

<<: Shoboku [town] - Shoboku

>>: Amount of information