심벌 마크
유니온백과
통신
다운로드하기 Google Play
새로운! 안드로이드 ™에 유니온백과를 다운로드 할 수 있습니다
비어 있는
브라우저보다 빠른!
 

정보 엔트로피

색인 정보 엔트로피

2 섀넌의 엔트로피: 2 개의 공정한 동전을 던질 때 정보 엔트로피는 발생 가능한 모든 결과의 개수에 밑이 2 인 로그를 취한 것과 같다. 2 개의 동전을 던지면 4 가지 결과가 발생할 수 있고, 엔트로피는 2 비트가 된다. 일반적으로 정보 엔트로피는 모든 발생가능한 결과의 평균적인 정보가 된다. 정보 이론에서 시스템은 송신자, 채널, 수신자를 이용하여 모형화.

34 처지: 데이터 압축, 동전 던지기, 로그, 루트비히 볼츠만, 르베그 적분, 맥스웰의 도깨비, 마법소녀 마도카☆마기카, 밀도, 볼츠만 상수, 기댓값, 비트, 비손실 압축, 내트, 자연로그, 클로드 섀넌, 이산균등분포, 제러미 리프킨, 제임스 클러크 맥스웰, 정보 이론, 정보 이득, 조사이어 윌러드 기브스, 존 폰 노이만, 양자역학, 열역학, 열역학 제2법칙, 엔트로피, 엔트로피 부호화, 표본 공간, 섀넌 (단위), 해밍 거리, 아이작 아시모프, 확률 변수, 확률 분포, 확률 질량 함수.

데이터 압축

이터 압축은 데이터를 더 적은 저장 공간에 효율적으로 기록하기 위한 기술, 또는 그 기술의 실제 적용을 가리.

새로운!!: 정보 엔트로피와 데이터 압축 · 더보기 »

동전 던지기

동전 던지기는 두 사람이 순위,분담,할일, 권리 들을 결정하기 위해 동전(또는 비슷한 재질과 모양을 가진 것)을 던져 어느 면이 나오는지 관찰하는 행위이.

새로운!!: 정보 엔트로피와 동전 던지기 · 더보기 »

로그

''e'', 초록색은 밑이 10, 보라색은 밑이 1.7이다. 밑 값에 상관없이 모든 대수 곡선은 (1, 0)을 지난다. 로그()는 수학 함수의 일종으로, 어떤 수를 나타내기 위해 고정된 밑을 몇 번 곱하여야 하는지를 나타내는 함수이.

새로운!!: 정보 엔트로피와 로그 · 더보기 »

루트비히 볼츠만

비히 에두아르트 볼츠만(1844년 2월 20일 - 1906년 9월 5일)은 통계역학과 통계열역학으로 유명한 오스트리아 출신의 물리학자이.

새로운!!: 정보 엔트로피와 루트비히 볼츠만 · 더보기 »

르베그 적분

리만 적분은 적분 영역을 세로로 나누어 계산하지만, 르베그 적분은 적분 영역을 가로로 나누어 계산한다. 측도론에서, 르베그 적분(Lebesgue積分)은 일반적인 측도 공간 위에 정의될 수 있는 적분이.

새로운!!: 정보 엔트로피와 르베그 적분 · 더보기 »

맥스웰의 도깨비

맥스웰의 도깨비()는 스코트랜드의 물리학자 제임스 클러크 맥스웰이 1871년 한 사고 실험으로, 열역학 제2법칙을 위반하는 것이 가능한가에 대한 사고 실험이.

새로운!!: 정보 엔트로피와 맥스웰의 도깨비 · 더보기 »

마법소녀 마도카☆마기카

《마법소녀 마도카☆마기카》()는 일본의 샤프트에서 제작한 TV 애니메이션 작품이.

새로운!!: 정보 엔트로피와 마법소녀 마도카☆마기카 · 더보기 »

밀도

밀도 (密度, Density, 기호 -)는 단위 부피 당 질량을 나타내는 값이.

새로운!!: 정보 엔트로피와 밀도 · 더보기 »

볼츠만 상수

볼츠만 상수(Boltzmann常數)는 입자 수준에서의 에너지와 거시 수준에서 관측된 온도를 연관시켜주는 물리 상수이며, 기체 상수와 아보가드로 수의 비이.

새로운!!: 정보 엔트로피와 볼츠만 상수 · 더보기 »

기댓값

확률론에서, 확률 변수의 기댓값(期待값)은 각 사건이 벌어졌을 때의 이득과 그 사건이 벌어질 확률을 곱한 것을 전체 사건에 대해 합한 값이.

새로운!!: 정보 엔트로피와 기댓값 · 더보기 »

비트

비트(bit, binary digit)는 하나의 비트는 0이나 1의 값을 가질 수 있고, 각각은 참, 거짓 혹은 서로 배타적인 상태를.

새로운!!: 정보 엔트로피와 비트 · 더보기 »

비손실 압축

비손실 압축(非損失 壓縮) 또는 무손실 압축(無損失 壓縮)은 데이터 압축의 일종으로 손실 압축의 반대말이.

새로운!!: 정보 엔트로피와 비손실 압축 · 더보기 »

내트

(nat)는 e을 밑으로 하는 정보 단위로, 1 니트는 약 1.443 비트이.

새로운!!: 정보 엔트로피와 내트 · 더보기 »

자연로그

자연로그 함수 그래프 자연로그(自然log)는 e를 밑으로 하는 로그를 뜻. 즉, e^.

새로운!!: 정보 엔트로피와 자연로그 · 더보기 »

클로드 섀넌

엘우드 섀넌(1916년 4월 30일 ~ 2001년 2월 24일)은 미국의 수학자이자 전기공학자이.

새로운!!: 정보 엔트로피와 클로드 섀넌 · 더보기 »

이산균등분포

이산균등분포(discrete uniform distribution)란, 확률론과 통계학에서 다루는 이산확률분포중 확률분포 함수가 정의된 모든 곳에서 그 값이 일정한 분포를 말. 만일 확률변수가 k_1,k_2,\dots,k_n과 같이 n개의 값을 가질 수 있다면, 이 분포는 이산균등분.

새로운!!: 정보 엔트로피와 이산균등분포 · 더보기 »

제러미 리프킨

230px 제레미 리프킨(Jeremy Rifkin, 1945년 1월 26일~)은 경제학자, 사회학자, 작가이며 워싱턴 경제동향연구재단(Foundation on Economic Trends (FOET))의 설립자이자 이사장으로서 미국 및 국제적 공공 정책 수립에 영향을 미. 콜로라도 주 덴버에서 태어.

새로운!!: 정보 엔트로피와 제러미 리프킨 · 더보기 »

제임스 클러크 맥스웰

제임스 클러크 맥스웰(James Clerk Maxwell, FRS, 1831년 6월 13일 ~ 1879년 11월 5일)은 스코틀랜드의 에든버러에서 태어난 영국의 이론물리학자이자 수학자이.

새로운!!: 정보 엔트로피와 제임스 클러크 맥스웰 · 더보기 »

정보 이론

정보 이론(情報理論)은 최대한 많은 데이터를 매체에 저장하거나 채널을 통해 통신하기 위해 데이터를 정량화하는 응용 수학의 한 분야이.

새로운!!: 정보 엔트로피와 정보 이론 · 더보기 »

정보 이득

정보 이론과 머신 러닝에서 정보 이득은 쿨백-라이블러 발산(Kullback Leibler Divergence,KLD)의 동의어이.

새로운!!: 정보 엔트로피와 정보 이득 · 더보기 »

조사이어 윌러드 기브스

조사이어 윌러드 기브스(1839년 2월 11일 ~ 1903년 4월 28일)는 미국 물리학자이.

새로운!!: 정보 엔트로피와 조사이어 윌러드 기브스 · 더보기 »

존 폰 노이만

존 폰 노이만(1903년 12월 28일 - 1957년 2월 8일)은 헝가리 출신 미국인 수학자이.

새로운!!: 정보 엔트로피와 존 폰 노이만 · 더보기 »

양자역학

양자역학(量子力學)은 분자, 원자, 전자, 소립자와 미시적인 계의 현상을 다루는 즉, 작은 크기를 갖는 계의 현상을 연구하는 물리학의 분야이.

새로운!!: 정보 엔트로피와 양자역학 · 더보기 »

열역학

열역학 계의 예. 열전달에 의해 피스톤 운동을 하는 기관. 열역학(熱力學, thermodynamics)은 에너지, 열, 일, 엔트로피와 과정의 자발성을 다루는 물리학의 분야.

새로운!!: 정보 엔트로피와 열역학 · 더보기 »

열역학 제2법칙

물리학에서 열역학 제2법칙(second law of thermodynamics)은 열적으로 고립된 계의 총 엔트로피가 감소하지 않는다는 법칙이.

새로운!!: 정보 엔트로피와 열역학 제2법칙 · 더보기 »

엔트로피

얼음이 녹으면 엔트로피가 증가한다. 엔트로피()는 열역학적 계의 유용하지 않은 (일로 변환할 수 없는) 에너지의 흐름을 설명할 때 이용되는 상태 함수.

새로운!!: 정보 엔트로피와 엔트로피 · 더보기 »

엔트로피 부호화

엔트로피 인코딩 혹은 엔트로피 부호화(entropy encoding)는 심볼이 나올 확률에 따라 심볼을 나타내는 코드의 길이를 달리하는 부호화 방법이.

새로운!!: 정보 엔트로피와 엔트로피 부호화 · 더보기 »

표본 공간

본공간()은 실험의 결과 하나하나를 모두 모은 것을 뜻하며 S. 어떤 시행에서 일어날 수 있는 모든 결과들의 모임을 전사상이라고 하는데 이를 통계학에서는 표본 공간이라 칭. 표본 공간은 S로, 조사대상이 된 집단의 총합을 모집단 Ω로 표현.

새로운!!: 정보 엔트로피와 표본 공간 · 더보기 »

섀넌 (단위)

섀년(Shannon,기호: Sh)은 일반적으로 비트(bit)로 알려져 있으며, ISO/IEC 80000-13에 정의 된 정보 엔트로피 의 단위이.

새로운!!: 정보 엔트로피와 섀넌 (단위) · 더보기 »

해밍 거리

블록 부호 이론에서, 해밍 거리(Hamming距離)는 곱집합 위에 정의되는 거리 함수이.

새로운!!: 정보 엔트로피와 해밍 거리 · 더보기 »

아이작 아시모프

아이작 아시모프(아이적 애지머브, 1920년 1월 2일 ~ 1992년 4월 6일)는 러시아에서 출생한 미국의 과학 소설가이자 저술가이.

새로운!!: 정보 엔트로피와 아이작 아시모프 · 더보기 »

확률 변수

확률론에서, 확률 변수(確率 變數)는 확률 공간에서 다른 가측 공간으로 가는 가측 함수이.

새로운!!: 정보 엔트로피와 확률 변수 · 더보기 »

확률 분포

주사위 두 개를 던졌을 때 두 눈의 합 S에 대한 확률분포 정규 분포 확률 분포(probability distribution)는 확률 변수가 특정한 값을 가질 확률을 나타내는 함수를 의미.

새로운!!: 정보 엔트로피와 확률 분포 · 더보기 »

확률 질량 함수

주사위를 굴릴 때 각 눈의 값에 대한 확률 질량 함수 확률 질량 함수(probability mass function, pmf)는 이산 확률 변수에서 특정 값에 대한 확률을 나타내는 함수이.

새로운!!: 정보 엔트로피와 확률 질량 함수 · 더보기 »

나가는들어오는
이봐 요! 우리는 지금 Facebook에 있습니다! »