On Choosing and Bounding Probability Metrics

• Published in: International statistical review 2002-12, Vol.70 (3), p.419-435
• Main Authors: Gibbs, Alison L., Su, Francis Edward
• Format: Article
• Language: English
• Subjects: Convergence; Discrepancy; Distribution functions; Distribution theory; Entropy; Exact sciences and technology; Hellinger distance; Markov chains; Mathematical inequalities; Mathematical theorems; Mathematics; Probabilities; Probability and statistics; Probability metrics; Probability theory and stochastic processes; Probability theory on algebraic and topological structures; Prokhorov metric; Random variables; Random walk; Rates of convergence; Relative entropy; Sciences and techniques of general use; Statistics; Stochastic processes; Summaries; Topological spaces; Wasserstein distance
• ISSN: 0306-7734; 1751-5823
• DOI: 10.1111/j.1751-5823.2002.tb00178.x

When studying convergence of measures, an important issue is the choice of probability metric. We provide a summary and some new results concerning bounds among some important probability metrics/distances that are used by statisticians and probabilists. Knowledge of other metrics can provide a means of deriving bounds for another one in an applied problem. Considering other metrics can also provide alternate insights. We also give examples that show that rates of convergence can strongly depend on the metric chosen. Careful consideration is necessary when choosing a metric. /// Le choix de métrique de probabilité est une décision très importante lorsqu'on étudie la convergence des mesures. Nous vous fournissons avec un sommaire de plusieurs métriques/distances de probabilité couramment utilisées par des statisticiens(nes) at par des probabilistes, ainsi que certains nouveaux résultats qui se rapportent à leurs bornes. Avoir connaissance d'autres métriques peut vous fournir avec un moyen de dériver des bornes pour une autre métrique dans un problème appliqué. Le fait de prendre en considération plusieurs métriques vous permettra d'approcher des problèmes d'une manière différente. Ainsi, nous vous démontrons que les taux de convergence peuvent dépendre de façon importante sur votre choix de métrique. Il est donc important de tout considérer lorsqu'on doit choisir une métrique.