Il faut savoir qu'il existe plusieurs types de stats :

- L'inférence statistique consiste à induire les caractéristiques inconnues d'une population à partir d'un échantillon issu de cette population. Les caractéristiques de l'échantillon, une fois connues, reflètent avec une certaine marge d'erreur possible celles de la population.

L'inférence statistique est donc un ensemble de méthodes permettant de tirer des conclusions fiables à partir de données d'échantillons statistiques. L'interprétation de données statistiques est, pour une large part, le point clé de l'inférence statistique. Elle est guidée par plusieurs principes et axiomes.

- La statistique descriptive forme une branche des statistiques qui supporte n’importe quelles des nombreuses techniques utilisées pour analyser un ensemble de données. Dans un certain sens, nous utilisons des données concernant les éléments d’un ensemble pour décrire l’ensemble. Les techniques sont ordinairement classifiées de la façon suivante :

la description graphique dans laquelle nous utilisons des graphiques pour représenter des données.
la description tabulaire dans laquelle nous utilisons des tableaux pour analyser les données.
la description paramétrique dans laquelle nous estimons les valeurs de certains paramètres que nous supposons compléter la description de l’ensemble des données.
En général, les données statistiques peuvent être décrites comme une liste d’objets ou d' individus avec des critères associés à chacun d’entre eux. Bien que la plupart des études utilisent beaucoup de types de données ou caractères pour chaque individu, nous nous limiterons à un seul caractère pour chaque individu, dans cette introduction simple.

Nous avons deux objectifs pour notre analyse statistique :

nous voulons choisir une statistique qui montre comment différents individus semblent similaires. Le moyen d’atteindre cet objectif s’appelle la mesure de la tendance centrale.
nous voulons choisir une autre statistique qui montre comment les individus diffèrent. Ce genre de statistique est souvent appelée une mesure de variabilité statistique.

- Les statistiques en général traitent des populations. En statistique descriptive on se contente de procéder à des réductions statistiques qui donnent des idées concises sur des listes de nombres difficilement compréhensibles.

L'idée de base de la statistique mathématique est plus ambitieuse : elle consiste à interpréter la répartition d'une population en lui associant une loi de probabilité. Ainsi, avant d'être connu, un élément de la population est considéré comme une variable aléatoire. Un échantillon est constitué par plusieurs éléments de ce type.

L'un des problèmes consiste à déduire les propriétés statistiques de l'échantillon de celles qui sont prêtées à la variable aléatoire : c'est la théorie de l'échantillonnage.

Le problème concret est le problème inverse qui consiste à se demander quelles informations l'échantillon apporte sur les paramètres de la loi de probabilité : c'est la théorie de l'estimation.