Varga János 1929-ben született a Vas megyei Sótonyban, szegényparaszti családban. 1945-ben a földosztáskor családja három hold földet kapott. Népi kollégistaként 1947-ben érettségizett Szombathelyen és még ebben az évben felvették a Műszaki Egyetem vegyészmérnöki karára. 1948 januárjában átiratkozott a bölcsészkar magyar-történelem szakára, 1949-ben az Eötvös Kollégium tagja lett és a magyar helyett felvette a levéltár szakot. 1950-től az ELTE oktatójaként dolgozott. 1952-ben belépett az MDP-be. 1955-ben az ELTE Történettudományi Karán adjunktus lett, és kinevezték dékánhelyettesnek. Ugyanebben az évben az egyetemi MDP-szervezet titkára. 1956. október 6-án a Rajk-temetés utáni ún. kolhoz-tüntetésen a Batthyány-örökmécsesnél szervezett ünnepségen beszédet mondott. Október 22-23-án részt vett a másnapi tüntetés megszervezésében, I. Tóth Zoltánnal fogalmazta meg az egyetemisták és az oktatók követeléseit. Pozsár Istvánnal a bölcsészkari Egyetemi Forradalmi Diákbizottság vezetője lett. Október 29-én az egyetemi dolgozók részére országos gyűlés szervezésében vett részt. 30-án az egyetemisták képviseletében Nagy Imrével tárgyalt. Novemberben részt vett a telefongyári munkástanács ülésén. 1956. december 16-án egyetemi docenssé nevezték ki. 1957 áprilisától 1958 tavaszáig többször kihallgatták a belügyi szervek, de nem került bíróság elé. 1957-ben fegyelmi eljárást indítottak ellene az ELTE-n, áthelyezték az MTA Történettudományi Intézetébe. 1968-tól a levéltár igazgatóságán dolgozott. 1968-1972 között részt vett a levéltári törvényerejű rendeletek megalkotásában. 1972-ben elnyerte az akadémiai doktori címet. 1978-tól az Országos Levéltár főigazgatója, az ELTE címzetes egyetemi tanára. 1989 novemberében nyugdíjazását kérte. 1990-1994 között az MDF parlamenti képviselője.