朱元璋兜了这么一个大圈子，总算不曾饿死，而且增加了不少见识，交了不少朋友，也参加了一个秘密的革命团体。
这个革命团体的真正名称是什么，今已难考。在外表上，它只是半公开的一种宗教，有时候被称为“明教”，有时候被称为“白莲教”，有时候被称为“弥勒教”。它的主要的口号是：“弥勒佛下凡转世，作人间的‘明王’”。它的主要的戒律与活动，是烧香、点灯、吃素、做礼拜。
“明教”的本身，最初叫做“摩尼教”，是公元三世纪一个波斯人摩尼（Mani），为了想综合波斯拜火教、印度佛教与犹太罗马的基督教，而创立的新宗教。摩尼主张：点灯点到天亮，帮光明战胜黑暗；吃素，不吃荤，而所谓荤并非牛肉羊肉，而是大葱；做礼拜，在每一个“密日”（礼拜天）的夜间，秘密聚会一次。这“摩尼教”在唐朝时候传入中国与回鹘。到了宋朝，它的教徒曾经在徽宗年间造反。
白莲教倒是中国人自己所创的一个佛教支派，与崇拜“阿弥陀佛”的净土宗不无渊源，却演变为民间的秘密结社，每每在“民不聊生”的乱世，揭竿而起。
弥勒教的历史最为神秘。弥勒佛，在今天很多的庙宇里可以见到，俗称笑佛。它的面貌与身材，一团和气，不像是准备降生凡间，自愿担起行政重任的人物。弥勒教的弥勒佛可能是梵文佛经中的Maitreya，巴利文佛经中的Metteya，释迦牟尼成佛以后的次一佛陀，亦即最后降生人间的一个佛陀。
这三种来源不同的宗教，到了元朝末年，都被“反元复宋”的志士借用了，作为他们的革命活动的凭藉。
朱元璋所“游方”的若干县，正是反元复宋的志士们的“策源地”。
七个年头以前（元顺帝至元三年，1337年），陈州（太康）人胡闰儿在信阳起义。他精通武艺，善使一条长棒，绰号“棒胡”。官方的历史，说他“烧香惑众，妄造妖言，作乱”。他攻破了鹿邑县，焚烧了陈州城，屯兵在杏冈镇，对元军作战了一年又两个月，于至元四年失败，被押解到大都（北京），斩首。
与“棒胡”差不多是同时候起义的，在四川合州大足县，有自称“南朝赵王”的韩法师。这一位“韩法师”，是否其后在（河北）永年县被刘福通立为“明王”的宋“徽宗八世孙”韩山童，待考。韩山童当“明王”当了没有几天，就被捕了。
刘福通逃到颍州（阜阳）起兵，是在至正十一年（1351年）五月。那时候，朱元璋已经回到了皇觉寺有三年之久。这三年，钟离（凤阳）没有灾荒。他和几个别的和尚耕种庙产，勉强可以度日。
消息传来，刘福通攻破颍州城，占领了固始县的朱皋镇，又连破罗山、真阳（正阳）、确山，冲过舞阳、叶县，回师攻破汝宁（汝南）、息州、光州（潢川），兵力发展到十万人。
八月间，“芝麻李”在徐州响应。芝麻李姓李，行二，名字现已失传。他是萧县的大善人，曾经以家中仅有的芝麻一仓，赈济饥民，赢得了这“芝麻李”三字的绰号。和他密谋举事的，仅有彭大、赵君用等七人，连他在内，八人而已。这八位壮士，于一夜之间占领了徐州城，招兵买马，打下所有的徐州属县。兵力也发展到十万左右。
次年，至正十二年二月间，郭子兴在濠州响应。郭子兴是定远县的一个财主，也是“明教”的分子。他纠合了几千名“少年”，袭取濠州，自称“节制元帅”。
刘福通、芝麻李与郭子兴的三支军队，都用红布包头，也都“烧香”，因此，老百姓称他们为“香军”。
朱元璋有朋友在香军。这位朋友派人送了一封信给他，叫他前往参加，朱元璋赶紧把信烧了，却已经被皇觉寺的别的和尚知道。这时候元军被派来“剿灭”香军的，不敢和香军多接触，却敢在四乡骚扰，乱抓嫌疑分子报功。他们未必已经知道朱元璋“通匪”，然而朱元璋自己心中有数。
他想去参加香军，又不敢去。他找人商量，这人说：“与其等元军来捉，不如索性造反。”他仍旧有点迟疑，就在伽蓝神的面前祷告，投繡三次。第一次问：“可不可以逃走？”答案是一阳一阴：“不利”。第二次问：“可不可以留在寺里？”答案也是一阳一阴：“不利”。第三次问：“可不可以投效香军？”答案是，两繡皆阴：“大吉”。
若干年以后，朱元璋以皇帝的身份，写下一首不太坏的韵文（皇陵碑），追叙这一次的经过：“住（皇觉寺）方三载，而又雄者跳梁，初起汝颍，次及凤阳之南厢，未几陷城，深高城隍，拒守不去，号令彰彰。友人寄书，云及趋降。既忧且惧，无可筹详。傍有觉者，将欲声扬。当此之际，逼迫而无已，试与知者相商。乃告之曰，果束手以待非？亦奋臂而相戕。知者为我画计，且祷阴于默相。如其言往，卜去守之何祥。神乃阴阴乎有警，其气郁郁乎洋洋。卜逃卜守则不吉，将就凶而不妨。”
他走到濠州城城门口，取出藏在怀中的红布，把头一扎，向守门的香军岗卫要求见郭元帅，被岗卫当作奸细，绑起。郭子兴见这和尚相貌不凡，叫人松了他的绑，委他充当一名“十夫长”。从此，他成了反元复宋的战士。这一天，是元顺帝至正十二年（1352年）闰三月初一，他的年龄，是二十五岁。（《明史·太祖本纪》说他二十四岁，错了一年。）