常遇春，字伯仁，怀远人。相貌奇伟，勇力绝人，长臂善射。开始跟随刘聚为盗贼，后来发觉刘聚终将无所作为，便在和阳归附朱元璋。朱元璋还未到和阳时，常遇春因困倦躺卧田间，梦见有一神人披甲拥盾在叫他“：起来，起来，主君到了。”常遇春从梦中惊醒，而朱元璋正好经过，常遇春当即迎拜，当时是至正十五年(1355)四月。由于尚无寸功，常遇春自请为前锋。朱元璋说道“：你只不过是因为饥饿来寻找食物，我怎么能将你留下呢？”常遇春仍坚决请求。朱元璋便说道“：等到渡江之后，你再来为我效力也不迟呀？”等到朱元璋军队进逼牛渚矶，元兵列阵矶上，朱元璋军船离岸三丈多，没人能登上岸。常遇春飞舟而至，朱元璋命他向前冲击，常遇春领命，挥戈直冲向前。敌兵抓住他的戈，常遇春乘势一跃，跳上石矶，大声喊叫冲入敌阵，元军望风而逃。诸将乘胜上岸攻击，于是攻克采石，攻取太平。常遇春被授以总管府先锋，晋升为总管都督。
当时，朱元璋将士的妻子儿女及辎重都在和州，元中丞蛮子海牙再次以水师袭据采石，使朱元璋军回和州的道路中途被阻。朱元璋亲自率军进攻，派常遇春到处布兵迷惑敌人，分散敌人的兵力。两军会合后，常遇春操纵轻舟，将海牙的船队一分为二，然后从左右两侧猛攻，将其大败，尽获其船，江路重新畅通无阻。随即汤和受命驻守溧阳，跟随朱元璋进攻集庆，功劳最大。后随元帅徐达攻取镇江，进取常州。吴兵将徐达围困在牛塘，常遇春前去援救，破敌解围，擒获敌将，晋升为统军大元帅。攻克常州，升为中翼大元帅。又随徐达进攻宁国，被飞箭射中，他裹住伤口之后坚持战斗，攻克宁国。另外攻取马驼沙，以水师攻取池州，晋升为行省都督马步水军大元帅。又随徐达攻取婺州，转任同佥枢密院事，驻守婺州。常遇春调兵围攻衢州，首先派奇兵突入围绕南门外的小城，毁掉敌人的战具，然后发动猛攻，将城攻破，俘获披甲之士万人，晋升为佥枢密院事。常遇春率军进攻常州，战斗失利，应召返回应天。跟随徐达攻取赵普胜的水寨，随守池州，大破陈友谅兵于九华山下，这些都记载于《徐达传》里。
陈友谅进逼龙湾，常遇春以五路军设下埋伏，大破陈友谅军，收复太平，功劳最大。朱元璋率军追击陈友谅至江州，命常遇春留守，他执法严格，城中军民井然守序，不敢有所冒犯，又晋升为行省参知政事。并随攻安庆，汉军出江四处拦截，常遇春率军出击，汉军慌忙调头逃跑，汤和等乘胜攻取江州，然后还守龙湾，兵援长兴，俘杀吴兵五千余人，敌将李伯升突围逃走。常遇春军受命加固安庆城。
在此之前，朱元璋所任用的将帅中功劳最大的，要数平章邵荣、右丞徐达与常遇春三人。而邵荣尤其是一位善战、有经验的老将，这时他已非常骄横，并有异心，与参政赵继祖图谋设伏兵发动兵变。事情败露之后，朱元璋想赦免邵荣的死罪，常遇春秉直说道：“为人之臣有了谋反的罪名，还有什么可以原谅的呢？我决不与其共生。”朱元璋于是赐邵荣喝酒，流着眼泪将其处死，因为这件事，朱元璋更加偏爱倚重常遇春。
池州守将罗友贤占据神山寨，私通张士诚，常遇春将其打败并斩首。又跟随朱元璋援救安丰，等到常遇春率军到达时，吕珍已经攻陷安丰，杀死刘福通，听说大军到来，便率强兵扼守，朱元璋左右军都进攻失败，常遇春横击敌阵，三战三捷，俘获士兵、马匹无数。然后跟随徐达围攻庐州。城将攻破时，陈友谅围攻洪都，常遇春应召返回。会师伐汉，与汉军在彭蠡的康郎山遭遇，汉军船大，又处于上流，前锋非常强大。常遇春协同诸将投入大战，呼声震天动地，无不以一当百。陈友谅的骁将张定边直冲朱元璋的指挥船，船已搁浅，朱元璋处境非常危险。常遇春射中张定边，朱元璋的船才得以脱险，而常遇春的船却又搁浅。这时，有一只坏船顺流而下，碰撞常遇春的船只，这才得以离开浅滩。转战三日，放火烧毁汉军船只，湖水因此变成了红色，陈友谅不敢再战。诸将认为汉军兵力仍然较强，想放他们离开，唯独常遇春不说话。等到船出湖口时，诸将正要放船东下，朱元璋却命令扼住上游。常遇春便溯江而上，诸将跟随其后。陈友谅走投无路，率百船突围。诸将半路拦截敌军，汉军于是分崩瓦解，陈友谅死。还师之后，常遇春功劳最大，朱元璋赏赐给他很多黄金、布帛、田地。攻武昌时，朱元璋返回应天，命常遇春留下督军围困武昌。
第二年，朱元璋即吴王位，晋升常遇春为平章政事。朱元璋又派兵进攻武昌，汉丞相张必先自岳阳来援，常遇春乘其还未会合，迅速进攻，将张必先擒获。城中士气尽失，陈理投降，常遇春尽取荆、湖之地。然后随左相国徐达攻取庐州，另外率军平定临江的沙坑、麻岭、牛陂等寨，擒获伪知州邓克明，攻下吉安。围攻赣州，熊天瑞固守不下。朱元璋派使者告诫常遇春：“攻克此城时，不要多杀人。如果获得了地盘，却没有老百姓，那又有什么好处呢？”于是常遇春疏通壕沟，设立栅栏，围攻赣州，屯兵六个月，熊天瑞兵力耗尽，于是投降，常遇春果然不杀他。朱元璋大为高兴，赐信褒奖勉励。常遇春于是凭借军威招降了南雄、韶州，回军时又平定安陆、襄阳。又随徐达攻克泰州，打败张士诚的援兵，督促水军在海安坝建造围墙阻拦敌军。
同年秋天，常遇春被授为副将军，率军伐吴。在太湖、毗山、三里桥打败吴军，进逼湖州。张士诚派兵来援，驻扎旧馆，出现在常遇春大军之后。常遇春率奇兵由大全港扎营东阡，更处于张士诚援兵之后。敌人派出精兵出击，常遇春率军奋力攻击，将敌兵打败。在平望袭击其右丞徐义，将其赤龙船全部烧毁，又败之于乌镇，向北追击至升山，攻破其水陆寨，将旧馆援兵全部俘获，湖州遂被攻下。进而围攻平江，驻军虎丘。张士诚偷偷率军靠近常遇春，常遇春与其战于北濠，将其打败，几乎俘获张士诚。时间一久，诸将攻破葑门，常遇春也攻破阊门进入平江，吴地平定。常遇春晋升为中书平章军国重事，封为鄂国公。
常遇春又被授为副将军，与大将军徐达一起率兵北征。皇帝亲自嘱咐他：“面对百万之众，击溃敌人精锐部队，攻陷敌人的坚固阵地，无人能比得上副将军。我不担心你不能打胜，而担心你轻战。你身为大将，好与兵卒角斗，这尤其不是我所期望的。”常遇春跪下拜谢。出发之后，以常遇春兼太子少保，随攻山东诸郡后，又攻取汴梁，进取河南。元兵五万军队陈兵洛水之北，常遇春单骑冲向敌阵，敌人二十多名骑兵手持长矛一齐刺向常遇春，而常遇春一箭将其前锋射死，大叫一声冲入敌阵，麾下壮士也跟随他向前冲去。敌兵大溃，常遇春追奔五十余里。降服梁王阿鲁温，河南郡县依次被攻下。常遇春到汴梁谒见皇帝后，与大将军徐达一起攻下河北诸郡。先锋攻取德州后，常遇春率水师沿黄河而进，破元兵于河西务，攻克通州，于是进入元都。另外攻下保定、河间、真定。
常遇春与大将军徐达一起进攻太原，扩廓帖木儿前来救援。常遇春对徐达说“：我军骑兵虽然已经聚集，但步兵还未赶到，突然与敌人发生战斗，一定会死伤很多，只有趁夜攻打才能获胜。”徐达说道“：你说得对。”这时正好扩廓的部将豁鼻马前来约定投降之事，便暂且请他作为内应，挑选精锐骑兵口含木片，悄悄出发去袭击敌人。扩廓当时正点着蜡烛学习军书，仓促之间不知所措，赤着一只脚，骑上一匹瘦弱的马，率领十八名骑兵逃往大同。豁鼻马投降，常遇春获得四万披甲之士，攻克太原。常遇春追击扩廓到忻州之后才返回。朱元璋下诏改常遇春为左副将军，位居右副将军冯胜之上。然后向北攻取大同，转而巡行河东，攻下奉元路，与冯胜军会合，向西攻占凤翔。
恰遇元将也速进攻通州，朱元璋下诏常遇春回军守备，让平章李文忠帮助他，率步骑九万，从北平出发，取道会州，败敌将江文清于锦州，败也速于全宁。进一步进攻大兴州，将一千名骑兵分别埋伏八处。当大兴州守将趁夜逃跑时，常遇春将他们全部擒获，于是攻克开平。元帝向北逃走，常遇春追奔数百里，俘获其宗王庆生及平章鼎住等将士万人，车万辆，马三千匹，牛五万头，以及敌人子女、宝货等物。常遇春率军返回，临时驻扎在柳河川时，暴病而死，年仅四十岁。朱元璋知道后，大惊，十分悲痛。在龙江举行葬礼，太祖亲自出奠，并命礼官就天子为大臣主持葬礼之事进行商议，商议结果上报太祖，沿用宋太祖追悼韩王赵普的先例。太祖下诏说“：可以。”赐葬于钟山平地，赐给金银器物九十件随葬墓中。赠封常遇春为翊运推诚宣德靖远功臣、开府仪同三司、上柱国、太保、中书右丞相，追封开平王，谥号忠武。常遇春配享太庙，肖像功臣庙，都位列第二。
常遇春性情深沉、勇猛、果敢，善于爱抚士兵，冲锋陷阵，从未吃过败仗。虽然没有学过典籍史书，但他用兵打仗却总是与古代兵书相符合。他比大将军徐达大二岁，屡次跟随徐达率军征讨，都非常认真地听从徐达的指挥，当时的名将首推徐、常二人。常遇春曾经自称能统领十万人马，横行天下，军中将士又称他为“常十万”。
常遇春的堂弟常荣，多次立功，升为指挥同知，跟随李文忠出塞，战死于胪朐河。常遇春有二子：常茂、常升。