Mint minden fogalom a valószínűség matematikai fogalma is fokozatosan alakult ki. Pascal és Fermat leveleiben a valószínűség fogalma explicit alakban nincs definiálva. Érdekes, hogy Huyghens művében az alapfogalom nem a valószínűség, hanem a nyereség várható értéke. Huyghens a várható éréket a következőképpen definiálja: Ha p esetben a összeget nyerek, q esetben pedig b összeget és az összes esetek „egyformán lehetségesek”, úgy nyereségem várható értéke
. J. Bernoulli „Ars Coniectandi”-jának 4. részében találkozunk először a valószínűség „definíciójával”. Bernoulli szerint „a valószínűség a bizonyosság foka és úgy viszonylik a bizonyossághoz, mint a rész az egészhez”. Ezen inkább filozófiai, mint matematikai jellegű „definíció” mellett szerepel Bernoulli-nál a valószínűség ún. „klasszikus definíció”-ja is, amely szerint „egy esemény valószínűsége egyenlő az eseményre nézve kedvező
esetek számának és az összes esetek
számának hányadosával,
feltéve, hogy ezen esetek mind egyformán lehetségesek”. A valószínűség definíciójának ez a megfogalmazása Bernoulli-nál nem pontosan így szerepel; a fenti fogalmazás Laplace „Théorie analytique de la probabilité” c. alapvető, a klasszikus valószínűségszámítás eredményeit összegző és a további fejlődésnek nagy lökést adó munkájában található. Ugyanez a definíció szerepel Laplace „Essai philosophique sur les probabilités” című munkájában is, amely a valószínűség fogalmával kapcsolatos elvi kérdéseknek igen világos, részletes, gondolatébresztő és élvezetes kifejtést tartalmazza. Bár a valószínűség fent említett klasszikus definíciója Pascal valódi leveleiben explicite nem szerepel, úgy hisszük, nem anakronizmus, hogy e definíció a mi Pascal-leveleinkben előfordul, hiszen Pascal ténylegesen e definíciót használta de Méré feladatainak megoldása során. E definíció gyakorlati szempontból kielégítő volt mindaddig, amíg a valószínűségszámítás főként szerencsejátékokra vonatkozó elemi feladatokkal foglalkozott. Elvi szempontból azonban e definíció nem kielégítő, annak ellenére, hogy ma is helytálló az, amit Pascal a
második levélben e definíció
védelmében mond, ti., hogy e definíció csak látszólag tartalmaz circulus vitiosus-t.
E definíciónak valóban nem ez a hibája, hanem az, hogy nem is definíció. Arra a kérdésre, hogy mi is tulajdonképpen a valószínűség, e definíció nem ad választ, csak azt mondja meg, hogy a legegyszerűbb esetekben* hogyan lehet azt kiszámítani.
A valószínűségszámítás első művelői valójában nem is tekintették másnak; a valószínűség definíciójának ők inkább Bernoulli fent idézett meghatározását tekintették (mely szerint a valószínűség a „bizonyosság foka”), vagy nem is igen érezték szükségét egy formális definíciónak, mert a valószínűséget olyan alapfogalomnak tartották, amelynek jelentése evidens és nem szorul magyarázatra. Feladatukat csak abban látták, hogy konkrét problémáknál kiszámítsák az azokban szereplő események valószínűségét. Figyelembe véve a matematika akkori fejlettségi fokát, ezen nem is csodálkozhatunk, hiszen pl. a XVIII. században a számfogalom, a függvény vagy a határérték fogalma sem volt mai értelemben igazán tisztázott, de akkoriban ennek hiányát sem érezték.
Gyökeresen megváltozott azonban a helyzet a XIX. században, amikor a matematika és a matematikai szabatosság fogalma alapvető átalakuláson ment keresztül. Kialakult a matematikára és annak a valósághoz való viszonyára vonatkozó mai felfogás, mely szerint a matematika minden egyes fejezetét axiomatikusan, reális hátterétől elvonatkoztatva kell felépíteni, mint önmagában zárt, logikailag ellentmondásmentes, absztrakt elméletet, amelyben az alapfogalmakat nem kell és nem is lehet definiálni és azoknak semmilyen más tartalmat nem szabad tulajdonítani, mint ami az axiomáiban implicité bennfoglaltatik.
Az ily módon axiomatikusan felépített matematikai elméletek a valóság leírására mármost úgy használhatók fel, hogy ezek a valóság bizonyos aspektusainak elvont modelljeiként szolgálhatnak. A matematika e modern felfogásának konzekvens keresztülvitele alapvetően átformálta magát a matematikát és egy új rohamos fejlődés kiindulási pontjául szolgált. a halmazelmélet, a valós függvénytan, a topológia, a modern algebra és a funkcionálanalízis létrejöttével a matematikai logika kifejlődésével a matematika arculata gyökeresen megváltozott. A matematika elvi kérdéseinek tisztázása hatalmas lendületet adott a matematika felhasználásának a természettudományokban és a társadalomtudományokban egyaránt. Ebből a nagyszabású átalakulásból és az ennek nyomán meginduló fejlődésből a valószínűségszámítás meglepően sokáig, egészen a XX. század elejéig kimaradt. Bár a XIX. században Gauss, Laplace, Poisson, Csebisev, Markov, Bertrand, Poincaré és sokan mások számos eredménnyel gyarapították a valószínűségszámítást és ugyanakkor a valószínűségszámítás gyakorlati alkalmazásai nagy jelentőségre tettek szert a természettudományokban, a társadalomtudományokban és a gazdasági életben, a valószínűségszámítás matematikai elméletének elvi alapjai terén lényeges előrehaladás nem történt.
Ez az elmaradás ahhoz vezetett, hogy a XX. század elején a matematikusok zöme a valószínűségszámítást nem is fogadta el a matematika szerves részének, egyenrangú ágának, hanem a matematika és fizika, ill. a filozófia között közbenső helyet elfoglaló és meglehetősen kétes értékű tudományágnak tekintette. Hilbert már 1900-ban felismerte e lemaradás káros voltát és ezért a matematika legaktuálisabb megoldatlan feladatainak általa összeállított híres listájába felvette a valószínűségszámítás axiomatikus megalapozásának – és ezzel a matematika XX. századbeli színvonalára való felemelésének – problémáját. E feladat megoldására az első jelentős kísérlet R. v. Mises tette meg 1919-ben. (lásd R. v. MISES, Wahrscheinkichkeit, Statistik und Wahrheit, Wien. 1928.) Bár az általa javasolt felépítés nem bizonyult célravezetőnek és ma már inkább csak történeti jelentősége van, az általa kiváltott viták számos matematikus érdeklődését keltették fel a probléma iránt. A valószínűségszámításnak a modern matematika szellemében való szabatos, axiomatikus megalapozását kielégítően elsőnek A. N. Kolmogorov (lásd A. N. KOLMOGOROFF, Grundbegriffe der Wahrscheinkichkeitsrenhnunk, Springer, Berlin, 1933.) oldotta meg* 1933-ban. A valószínűségszámítás Kolmogorov-féle axiomatikus elméletében a véletlen eseményeket halmazok reprezentálják és a valószínűség egyszerűen egy e halmazokon értelmezett normált mérték. Kolmogorov elméletében a várható érték mint (absztrakt) Lebesgue-féle integrál van értelmezve. Azáltal, hogy Kolmogorov a valószínűségszámítást a halmazelmélet, ill. a mértékelmélet alapjaira helyezte, egy csapásra nemcsak a valószínűségszámítás logikailag kielégítő megalapozását adta meg, hanem azt bekapcsolta a modern fejlett a vérkeringésébe és lehetővé tette a matematika fejlett modern ágainak felhasználását a valószínűségszámításban. Kolmogorov elmélete, egyszerűsége és említett előnyei folytán rövidesen általánosan elfogadottá vált és az elmúlt 30 évben a valószínűségszámítási kutatások szilárd alapjául szolgált.* Az alapok tisztázása ugrásszerűen fejlődést tett lehetővé mind a valószínűség matematikai elméletében, mind pedig az elmélet alkalmazásai terén. A valószínűségszámítás azóta rohamos léptekkel halad előre és egyre szélesebb területen kerül eredményes felhasználásra.