武訓出生在清朝，他原本沒有正式名字，是那種窮得連名字都沒有的貧民。在家族中排行第七，所以人們稱他武七。武訓這個名字是在他後來興辦義校後，朝廷賜給的名字。
武訓自小家境貧苦，卻非常渴望讀書。經常跟著有錢人家的孩子走到學屋的門口，偷聽人家念書。其他的孩子見他衣衫襤褸，都恥笑他，侮辱他，甚至打他罵他，他都不以為意。一天，他鼓足勇氣闖進門去，請求私塾先生准許他入學念書。私塾先生不但不同情他，反而辱罵他：“你這窮小子，怎麼能到這裡來呢？還不快滾開，你想偷東西嗎？” 拿著戒尺恐嚇他，趕他出門。從此，武訓不再提念書的事情。
7歲時父親死了，家庭陷入困境，隨著母親乞討為生。武訓年紀雖然小，但對母親十分孝順，每逢要到干淨可口的干糧，都一定帶回去給母親吃，從來不肯自己吃。
武訓15歲時，到姨父家當童工。雖然是一個沒有成年的孩子，但是為人非常忠誠渾厚，勤勤懇懇的工作。姨父沒有因為他們是親戚而給予些微的優待，反而變本加利的把他當成年工人使用，什麼粗笨活都找他。每天忙碌的操作，生活像牛馬一樣。姨父還從來不給工錢，覺得賞他一碗飯吃，已經是很厚的恩惠了，常常打他欺侮他，武訓都加以忍受。因為過於忠厚，周圍人把他當傻子來諷刺譏笑，他也不予理會。
17歲時到李舉人家當長工。一天姐姐托人捎來一封信附了幾吊錢，李舉人欺武訓不識字，把信給他，把錢吞了。過後知道提出質問，李舉人不但矢口否認，還把武訓痛罵了一頓。一次喂豬時，不小心把豬食灑在地上，也被打得遍體鱗傷。一年除夕，給主人貼春聯，因為不識字，把春聯上下貼倒了，主人認為大不吉利，拳打腳踢，又吵又罵，不許他吃飯，罰他一夜不睡覺，在風雪嚴寒中在院子裡站了一個通宵。
武訓做長工三年，沒有支過工錢。因為母親生病，向主人討要工資。沒想到，李舉人拿出了一個假帳本，硬說早把工錢付清了。武訓不識字，氣得目瞪口呆，欲哭無淚，苦口爭辯，反被誣為有意訛詐，最後被打得頭破血流，推出門去。
被欺騙後，武訓在莊子上的小廟裡昏睡了三天。醒來後，細細思量，體悟到自己受盡欺辱，都因為不識字。而周圍像他這樣的窮人還有很多，如果不念書，永遠沒有出路。於是萌發了興辦義學的念頭。窮且益堅，不墮青雲之志。一旦建立了目標，武訓便以一生的苦行和執著來實現。然而以赤貧之身辦義學，曠古未聞，難度可想而知。一個乞丐，不圖名，不為利，胸懷大志，從此開始了新的人生。那年是1859年，21歲的武訓開始行乞集資。他手使銅勺，肩背褡袋，爛衣遮體，四處乞討，足跡遍及山東、河北、河南、江蘇等地。
他到處出賣自己的勞力，苦活累活搶著干，過著牛馬式的生活，目的就是為攢錢辦學。牲口做的苦力活，一年後辛苦積存的一點錢，卻都被姐夫騙去了。武訓把要來的錢都積攢起來，要來的干糧，好的完整的賣掉，換成錢攢起來。自己只吃粗劣、發霉的食物和菜根、地瓜蒂等。
武訓一天到晚不停的工作著，沒有休息的時間，他干別人不肯干，不屑干，或不會干的活。推磨都是牲口做的活，他常為人家干。碾米要在大太陽下工作，他汗流浹背的樂此不疲。每當農民麥忙的時候，他常去打短工替人割麥子。此外，還替人家大清早打掃茅房，出糞曬干後做肥料。有時也幫人挑水澆園，挑糧食，挑笨重東西等，按照路程遠近和重量計算報酬，收入可觀。有時遇到個別不給錢的他也不爭。
二十九歲的時候，武訓用多年的積蓄，買了四十五畝便宜的低窪鹽堿地. 三十八歲那年，山東遭遇大旱，餓死很多人。武訓用自己的錢買了四十擔高粱賑濟百姓。武訓的哥哥不務正業，常向他借錢，親戚朋友也紛紛要求周濟，武訓正色道：不顧親，不顧故，義學我修好幾處。
經過多年的辛勞，武訓終於積少成多，存了一筆數目可觀的錢。他打聽到本縣有一位舉人楊樹芳，為人正直，名聲很好，值得信賴，想把錢存放在楊家，於是跑到楊府求見。由於他是乞丐，主人拒而不見，他便在大門口一跪就是兩天，最後終於感動了楊舉人。武訓把乞討積錢、興義學之事原原本本敘述一遍，楊舉人大為感嘆，不但答應幫他存錢，並且表示要助他辦學。
學校建成後，武訓親自跪請有學問的進士、舉人任教，跪求楊樹芳做學董，主持義塾，跪求貧寒人家送子上學。當年招生50余名，分蒙班和經班，不收學費。開學當天，准備了豐盛的筵席招待學董、老師和鄉紳，武訓自己卻在外面向來賓磕頭致謝，堅決不肯入席。宴會後吃些殘羹冷炙而心滿意足。
义塾成立后，武训实现了心愿，但依旧要饭为生，依旧住在破庙里面，学生们集体跪求他住来义塾，他也不肯，说：“我过的生活自己不觉的苦，只要你们努力学习，我比什么都快乐。”
五十五岁那年，武训聚集了很多图书，创设读书会，专供没有钱买书的人自由借阅。有时他还携带图书到村镇的集市庙会上巡回展览，供乡亲们阅读。还大量翻印浅显的学习文章和书籍，免费散发给农民。
武训用乞讨来的钱一连办了三所义校，在第三所义塾成立不久，武训身染重病，含笑离世。发丧之日，沿路各村民众自发设奠路祭，自动送殡者达万人，沿途来观者人山人海。多少年来，武 训的辉煌业绩受到世人的崇敬和赞赏。