Campionamento da distribuzioni di probabilità e MCMC

Given a random variable X with density f, we want a method to extract from it a sequence of random values consistent with this density. The objective of this thesis is to examine the main methods and algorithms for simulating random variables, focusing on two primary categories: methods based on density analysis and those based on Markov chains. Additionally, this thesis aims to provide a comprehensive and rigorous overview of random variable simulation methods, highlighting the advantages and limitations of each approach. The first part of this work focuses on simulation methods that utilize the analytical properties of the density we want to simulate, known as the target density. We start with the generation of a uniform variable on the interval [0,1], which forms the basis for subsequent simulation algorithms. After achieving this foundation, two different approaches are discussed: the inverse transform method, which allows for obtaining random variables by transforming values extracted from a uniform distribution through the inverse cumulative distribution function, and the rejection sampling algorithm, which uses a simpler function to generate the target distribution. Finally, the Adaptive Rejection Sampling (ARS) algorithm, an advanced method that enhances the efficiency of the rejection method by adaptively constructing the proposal function, particularly useful for log-concave distributions, is introduced. The second part focuses on simulation methods based on Markov chains. After introducing the fundamental concepts of Markov chains and their properties, such as ergodicity and the invariance of the limiting distribution, the Metropolis-Hastings (M-H) algorithm is presented. This algorithm exploits the properties of Markov chains to generate samples from a target distribution that is difficult to handle directly. The simulation of the random variable X is achieved through constructing a Markov chain whose limiting distribution coincides with the target distribution, ensuring that, after a sufficient number of iterations, the chain converges to the desired distribution. By using the theory behind Metropolis-Hastings, we can achieve a significant result by updating the ARS method with a new algorithm called ARMS, which extends its application to non-logarithmic concave functions as well.

Data X variabile aleatoria con densità f, ci si pone il problema di come estrarre da essa una sequenza di valori casuali coerenti con la densità. L’obiettivo di questa tesi è quello di esaminare i principali metodi e algoritmi di simulazione di variabili aleatorie, concentrandosi su due categorie principali: i metodi basati principalmente sullo studio delle densità e quelli basati sulla catene di Markov. Inoltre, si vuole fornire una panoramica completa e rigorosa dei metodi di simulazione di variabili aleatorie, mettendo in evidenza sia i vantaggi che i limiti dei diversi approcci. Nella prima parte di questo lavoro, ci si sofferma sui metodi di simulazione che sfruttano le proprietà analitiche della densità che si vuole simulare, chiamata densità target. Si inizia dalla generazione di una variabile uniforme sull’intervallo [0,1], che costituisce la base per i successivi algoritmi di simulazione. Dopo aver ottenuto questo risultato, verranno trattati due diversi approcci: il metodo della funzione inversa, che consente di ottenere variabili aleatorie trasformando valori estratti da un’uniforme tramite la funzione di ripartizione inversa, e l’algoritmo del rifiuto, che sfrutta una funzione più facile da generare per simulare la distribuzione target. Infine, verrà introdotto l’Adaptive Rejection Sampling (ARS), un algoritmo avanzato che migliora l’efficienza del metodo del rifiuto utilizzando una costruzione adattiva della funzione di proposta, particolarmente utile per distribuzioni log-concave. La seconda parte si concentra sui metodi di simulazione basati sulle catene di Markov. Dopo aver introdotto le nozioni fondamentali delle catene di Markov e le loro proprietà, come l’ergodicità e l’invarianza della distribuzione limite, si presenta l’algoritmo di Metropolis-Hastings (M-H). Questo algoritmo sfrutta le proprietà delle catene di Markov per generare campioni da una distribuzione target difficile da trattare direttamente. La simulazione della variabile aleatoria X avviene mediante la costruzione di una catena di Markov la cui distribuzione limite coincide con la distribuzione target, garantendo così che, dopo un numero sufficiente di iterazioni, la catena converga alla distribuzione desiderata. Tramite la teoria alla base del Metropolis Hastings, si può ottenere un risultato significativo aggiornando il metodo ARS con un nuovo algoritmo chiamato ARMS, che estende la sua applicazione anche a funzioni non logaritmiche concave.