Процесс познания окружающего нас мира включает наблюдение и эксперимент. Результаты наблюдений во многих случаях можно представить последовательностью действительных чисел 
.
Для того, чтобы из ряда наблюдений можно было извлечь полезную информацию, необходимо иметь модель явления. Вероятностные модели оказываются наиболее пригодными при анализе явлений, исходы 
которых обладают некоторой степенью неопределенности. Понятие неопределенности в теории вероятностей формализуется путем введения распределения вероятностей на множестве 
. В простейшем случае, когда конечное или счетное множество, задаются вероятности 
всех его элементов 
, так что 
и 
.
Любое множество 
называют в этом случае событием, а его вероятность определяют формулой 
.
Взаимоотношение явления и его вероятностной модели имеет статистический характер, то есть обнаруживается при повторных наблюдениях за явлением. Частоты исходов в длинном ряду испытаний стабилизируются, их колебания с ростом числа испытаний уменьшаются. Это эмпирический факт, называемый законом устойчивости частот, наблюдается в самых различных ситуациях. Уже выходя за пределы реального опыта, полагают, что при неограниченном повторении частоты стремятся к пределам, которые и принимают за вероятности соответствующих исходов или событий.
