常遇春跟隨朱元璋的時間並不長，他於至正十五年（公元1355年）朱元璋攻克和州的時候才來投奔，雖然晚來，他卻一點也不客氣，開口就說，我到這裡來就是當先鋒的，把先鋒印給我吧。
朱元璋見過的狂人不少，但從來沒有見過這麼狂的，他很生氣的說：你小子不過是個吃不飽飯的難民，到我這裡來混飯吃的，我怎麼可能給你這樣的官位呢（明史記事本末）。
常遇春卻笑著說：你等著看吧他用行動證明了自己的實力。
在朱元璋攻克採石的戰役中，元朝軍隊在岸邊列陣，朱元璋的水軍無法靠近，看著乾著急，正在此時，常遇春的船隻經過，朱元璋頓時想起了他的話，對常遇春大喝道：小子，你不是要當先鋒嗎，現在是時候了！常遇春應聲奮勇向前，單槍匹馬持長戈向岸邊元軍刺去，元軍接住了他的長戈（遇春應聲，奮戈直前，敵接其矛），卻沒有想到常遇春的目的正是在此，他手握長戈順勢跳上了岸邊（這似乎是個撐杆跳的動作），連殺數人開闢了灘頭陣地，後面士兵一擁而上，佔領了採石。
此戰後，朱元璋重新認識了這個叫常遇春的年輕人，並親自授予他總督府先鋒的官位。
常遇春是個天生的先鋒材料，他善於使用騎兵進行突破，選擇進攻位置準確，能冷靜判斷戰場形勢，除此之外，他還是一個武林高手，個人武藝也甚是了得，這一優點在後來起了極大的作用。
但他也有個致命的弱點，他嗜好殺戮，而且是最不道德的那種——殺降古語有云，殺降不祥，從道義上說，對方已經投降，再動手似乎就不那麼光彩，可他偏偏嗜好這個，這個嗜好也為朱元璋惹來了大禍。