Confronto fra due metodi di stima della mutua informazione per variabili aleatorie bidimensionali

In questa trattazione definiremo il concetto di mutua informazione tra due variabili aleatorie e studieremo nel dettaglio due suoi stimatori utilizzati nel caso in cui si disponga di set di dati estratti da distribuzioni non note: lo stimatore di Kozachenko-Leonenko e il metodo del kernel. Entrambi sono stimatori non parametrici della mutua informazione in quanto non fanno a priori assunzioni riguardo alla forma della distribuzione dei dati a disposizione.