Mark Harmon rođen je 2. rujna 1951. u Burbanku u Kaliforniji.

Markova majka bila je glumica i umjetnica Elyse Knox , čiji su roditelji rođeni Bečani. Otac Tom Harmon bio je nagrađivani igrač američkog nogometa, televizijski spiker i sportski komentator, koji je bio irsko-francusko-njemačkog porijekla, pretpostavlja se da je njihovo prezime zapravo bilo Hermann.

Harmon je bio najuspješniji igrač američkog nogometa nasvom koledžu. Bio je toliko dobar da mu je ponuđen profesionalni ugovor s jednom od najuspješnijih ekipa, New England Patriotsima , koji su osvojili čak šest naslova prvaka. No, Mark je odlučio da se ne želi potpuno posvetiti sportu, već da želi učiti i diplomirati.

Prvo televizijsko pojavljivanje imao je kad je kao devetnaestogodišnjak s ocem glumio u Kellogg'sovoj reklami za pahuljice.

Prvu filmsku ulogu imao je u drami 'Comes a Horseman' 1978. godine.

Osamdesetih godina prošlog stoljeća snimio je dvadesetak reklama za pivo Coors.

Hrabri Harmon 1996. riskirao je život kako bi spasio dvoje tinejdžera iz gorućeg auta.

Proglašen je najseksi muškarcem godine po izboru magazina People 1986.

Od ožujka 1987. u braku je s glumicom Pam Dawber s kojom ima dva sina, Seana i Tya Christiana . Stariji Sean glumio je mladog Gibbsa u pet epizoda serije 'NCIS' .

Svoju zvijezdu na holivudskoj Stazi slavnih dobio je u listopadu 2012.

Marka Harmona gledajteu kriminalističkoj seriji 'NCIS' od ponedjeljka do petka 9:20, 17:25 i 00:50na kanalu RTL Crime.