馮玉祥原籍安徽巢縣，生于河北保定。其父馮有茂是位泥水匠，為逃避兵役來到一個偏僻村落為地主當雇工。地主家有兩個少爺，老地主為了光耀門第，請來一位武藝人教兒子練武。馮有茂天生好學，常去武場討教兩手。考期到了，老地主叫馮有茂帶兩個少爺前去應考，結果，兩個少爺連射三箭無一中的。這時，馮有茂冒昧上前試手，竟連中三元，從而考取武庠，繼而投身淮軍。

其實，馮玉祥原名“馮基善”。11歲那年，母親去世了，當時父親在保定府五營練軍當兵。這個地方實行父缺子補。父親沒退伍，兒子自然不能補缺。但由于馮家生活拮據，家人都希望馮玉祥補上，多掙幾兩銀子。這時，營中恰巧出現缺額，一位姓苗的管帶是馮有茂的好友，得知消息后立即提出：“這次補馮大老爺的兒子吧！”旁人問：“馮大老爺的兒子叫什么名字？”這一問，姓苗的管帶愣住了，他也不知道。接著那人就說：“讓我問問去。”姓苗的管帶生怕他一去問，耽擱了時間，缺額被別人搶去，靈機一動便說：“別問了，我知道。”于是，隨手寫了“馮玉祥”三個字。這樣，讀書郎馮玉祥輟學進了軍營，成為一名少年軍人。

初到軍營沒幾年，馮玉祥得了一個綽號“外國點心”。一次，父親意外受傷，馮玉祥希望多掙一點銀子以便老父解甲歸田，便下決心當一名替教官喊操的“教習”。每天清晨天還沒亮，他就站在操場上大喊“立正”、“稍息”、“托槍”，日復一日，風雨無阻，一喊就是四年。他的“喊”功練好了，卻得罪了那些睡懶覺的人。于是，他們便給馮玉祥起了一個綽號叫“外國點心”，意思是說他如此賣命，遲早會被洋鬼子打死。但馮玉祥絲毫不以為然，反而特意刻了一枚“外國點心”的圖章保存起來，日后給人寫字時常蓋上這枚圖章。

馮玉祥還有一個外號叫“基督將軍”，這個外號來源于義和團運動時期。當時馮玉祥的部隊駐守河北保定，他親眼看到保定天主教堂的外國傳教士全被逮捕，面臨殺頭，其中一位女傳教士在行刑前要求只殺她一個而放別人。她的那種舍己為人的精神使馮玉祥深受感動。1913年，馮玉祥任京衛軍團長時，常到崇文門教堂聽講基督教義，被基督“博愛”所打動，遂于兩年后由牧師為其施洗入教。后來，他又為其部下進行領洗盛典。直到五卅運動后，馮玉祥看到帝國列強侵略、蹂躪中國的悲慘景象，終于認清了帝國主義者的丑惡嘴臉，憤然與基督教徹底決裂。

馮玉祥功勛卓著、高風亮節。1935年，國民政府授予他陸軍一級上將軍銜。但馮玉祥是一個很有個性的人，一生為人正直，嫉惡如仇，做了高官后仍厭惡“朱門酒肉臭”的軍閥作風。他在部隊與士兵一起勞動，同吃一鍋飯，同睡一張床，同洗一個澡堂，和戰士一起訓練，真正做到了官兵平等，被譽為“平民將軍”。有一次，吳佩孚做五十大壽，將領們紛紛送厚禮，當時馮玉祥還是他的手下部將，卻只送了他一壇清水。

在重慶時，馮家住在陳家橋，因為那里達官顯貴太多，誰也不敢去查戶口和收捐稅，街區的保長無人敢當。馮玉祥便自告奮勇，被稱為“重慶最盡責的保長”。