在趙國，李牧其實不是一開始就是一個出名的將軍，和廉頗一樣，他們都是從最底層的士兵做起的，憑借著無數的軍功，才一步步成為將軍。早期的李牧只是趙國北邊邊境的一個小將，擔負著守衛趙國的疆土的重任。

那時候的趙國還是趙惠文王統治時期，趙惠文王是一個知人善任的君主，在位期間文有藺相如、平原君趙勝，武有廉頗和趙奢，使得秦國不敢攻打趙國。秦國雖然不敢趙國，但是精悍的匈奴軍隊卻一次次的侵犯趙國邊境。李牧還是一個二十歲出頭的小子，投身軍營后就一直駐守在代地的雁門郡。

雁門郡是趙國北邊的邊境，和匈奴相接，雁門郡的趙國百姓常常受到匈奴軍隊的襲擊。不管是雁門郡的士兵還是百姓都視匈奴人為惡魔，因為他們每次交戰，趙國人都會受到很大的傷害。匈奴人擅長馬背上作戰，下馬是民，上馬就是兵，其行軍靈活，作戰更是勇猛。趙國人雖然強壯，但是都不敵匈奴軍隊，往往是依靠人數眾多僥幸勝利，否則就是大敗。多年來，匈奴和雁門郡的關系都十分緊張，戰事說爆發就爆發，不帶一點征兆的。

最初的李牧只是駐守邊疆的一個小小士兵，在多次和匈奴的作戰中，李牧表現突出，立下了很多戰功，漸漸的就升級了，最后還成為了統治管轄雁門郡的最大的將領。趙國在趙武靈王時期實行了胡服騎射的改革，趙國學習胡人的服飾和騎射本領，還建立了一支強大的趙國騎兵隊伍，戰斗力非常高。經過多年的發展，趙國強大起來，成為了替代齊國的第二個強國，能夠和秦國平起平坐。雁門郡這個地方，說大不大，說小也不小，關鍵它屬于趙國的邊境，有很重要的意義。朝廷很重視雁門郡，也知道匈奴經常攻打雁門郡，為了防備匈奴，朝廷分配了很多軍備物資給雁門郡。

李牧在雁門郡是最大的官，擁有的權力也很大，他甚至可以按照雁門郡的實際需要設置官員，還可以按照自己的意愿分配雁門郡征收的稅款。由于雁門郡的好東西實在太多了，物資充備的雁門郡的軍隊的待遇也不是一般的好。李牧每天都要讓人殺幾頭壯牛，將這些牛煮熟，分給雁門郡的將士們食用。將士們吃得好，睡得好，訓練強度和往常一樣。騎馬、射箭、偵查敵情等等，一天都沒有落下。但是有一件事令將士們感到奇怪，那就是他們的將軍李牧每天好酒好肉的招待他們，卻從來不要求他們和匈奴打仗。他們是駐守雁門郡的將士，一個個都是血性男兒，匈奴經常騷擾趙國百姓，他們身為趙人，自然是想要和匈奴一戰，為同胞們報仇的。可是天天窩在雁門郡內算怎么回事啊，郁悶死了！可是李牧不管這么多，他甚至還下令說，如果匈奴來犯，趙國士兵見到了就立馬撤退回城，誰要是敢去攻打匈奴的，按照軍法處置，斬首示眾。因此，每次匈奴軍隊來了，大家就鳴鑼收兵，久而久之，所有人都認為李牧是個膽小鬼。但是，李牧在任的這些年，雁門郡的損失確實小了很多，可以說沒什么損失。可是，事情傳到了趙王的耳朵里，他同樣認為李牧是個懦夫，還撤了李牧的職，派其他人代替李牧出兵。可是趙軍對上匈奴，就只有挨打的份，損失了很多兵不說，百姓們也受了很多苦。受到教訓的趙王這才想起李牧來，他幾次三番求助李牧，最后答應李牧，他想怎么來就怎么來，他再也不多嘴了。

來到雁門郡的李牧還是和往常一樣，見到匈奴就跑。匈奴認為李牧膽小，更加得意忘形，趙軍們卻期待與之一戰，斗志高昂。李牧見時機成熟，就挑選了一千三百輛戰車和戰馬，還訓練了沖鋒兵五萬、射手十萬人。匈奴攻打趙軍，李牧假裝害怕，直接丟了五千人左右給匈奴，讓匈奴更加相信趙軍害怕。輕敵的匈奴大軍遇到了李牧從左右兩翼包抄的軍隊，匈奴十萬人幾乎全軍覆滅。匈奴經此一戰，十多年都不敢攻打趙國。

除了在對戰匈奴方面立下功勞，李牧對抗秦軍王翦的時候，還大敗王翦，令秦國始終無法攻破趙國。