Kardos József 1960. március 29-én született Nagybátonyban, ahonnan játékosként a Salgótarjáni Bányászon keresztül került 1979-ben az Újpesti Dózsához, ahol egyből bajnoki címet (1978-79), később két bajnoki ezüstérmet szerzett, valamint háromszor nyert MNK-t az egyesülettel. Az Újpestben összesen 229 bajnoki és 37 gól fűződik a nevéhez, 1983-ban "Az év labdarúgója" címet is kiérdemelte.
A magyar válogatottban 33 alkalommal szerepelt és 4 gólt szerzett, valamint tagja volt az 1986-os mexikói világbajnokságon részt vevő nemzeti csapatnak. Emellett hatszoros olimpiai válogatottnak is vallhatta magát.
1991-ben induló edzői karrierje során több felnőtt és utánpótlás csapatot irányított, MLSZ ellenőri tevékenysége mellett legutóbb a CSUSE-nál az U7-U9 korosztályoknál edzősködött.