1965年1月26日、カリフォルニア州ベーカーズフィールドに誕生する。父親は消防署の副署長で母親は専業主婦であり、2人とも民主党員であった。1986年ごろに小企業を起業するがほどなく売却し、地元のカリフォルニア州立大学ベーカーズフィールド校で1989年にマーケティングの学士、1994年にMBAを取得。
1995年、カリフォルニア州共和党青年部の議長に就任。ビル・トーマス下院議員(カリフォルニア22区)のスタッフを務め、1999年には共和党青年部全国連盟の議長となる。
2000年にKernコミュニティ・カレッジ地区評議員に当選。2002年にはカリフォルニア州議会下院議員に当選。2003年には新人議員ながら共和党院内総務。
2006年にはかつて仕えたビル・トーマスの引退を受けて合衆国議会下院選挙に出馬。予備選挙、本選挙とも圧勝。共和党の強い地域であることもあり、以後の改選でも圧勝か対立候補無しの勝利を重ねる。当初はトーマスの後をうけての22区選出であったが、2012年からは区割り変更により23区選出となる。
1期目より議院運営委員会に所属。2009年には少数党筆頭院内副幹事、2011年には多数党院内幹事。
2014年、現職多数党院内総務のエリック・カンターが6月10日の下院改選共和党予備選挙で茶会運動系のデーブ・ブラットに敗北したため、カンターは翌日に7月31日を期して院内総務を辞任すると声明。マッカーシーは6月19日に後継の多数党院内総務に選出され、8月1日に就任。
2015年9月25日にジョン・ベイナー議長が会派内保守強硬派の自由議員連盟との対立から辞意を表明。議長に次ぐ会派ナンバー2である多数党院内総務であるマッカーシーは後継の意欲を表明するが、自由議員連盟はマッカーシーへの支持を渋ったため、先行きを困難視したマッカーシーは10月8日に議長選不出馬と院内総務留任の意向を表明する。
2016年アメリカ合衆国大統領選挙の共和党予備選挙では早い段階からドナルド・トランプへの支持を表明する。
2018年11月に任期満了に伴い議員を引退する現職の共和党の指導者であるポール・ライアンの後継者を決める投票で、オハイオ州選出のジム・ジョーダンを159票対43票で破り院内総務に再選した。2019年以降少数党院内総務として少数派に転落した共和党下院の最高指導者となる予定である[2]。
2021年アメリカ合衆国議会議事堂襲撃事件に際してトランプ大統領に扇動された暴徒達に襲撃を止めさせるようトランプに電話で求めたが、トランプは「君よりもこの人たちの方が選挙結果に懸念を持っているようだ」などと述べ、求めを拒否した[3]。