齐泰，溧水人。初名齐德，洪武十七年(1384)在应天乡试中名列第一。第二年成为进士。历任礼、兵二部主事。因雷震谨身殿，太祖前往郊庙祈祷，选择为官九年无过失者陪同祭祀，齐德随行，被赐名齐泰。二十八年(1395)由兵部郎中提升为左侍郎。太祖曾经询问边将的姓名，齐泰历数无遗。太祖又问地图户籍，齐泰从袖中拿出手册献上，内容简要详密，太祖十分惊奇。
皇太孙一向看重齐泰。即位之后，命齐泰与黄子澄同参国政，齐泰随即进升为尚书。当时遗诏命诸王统治封地，不要奔丧，封地官民听朝廷节制。诸王说这是齐泰假传皇父遗诏，离间骨肉，都不高兴。在此之前，皇上还是皇太孙时，诸王位尊辈高，拥有重兵，皇上为此很担心，现在因此密议削藩之事。
建文元年(1399)，周、代、湘、齐、岷五王相继因罪被废。七月，燕王举兵而反，名为“靖难”，指责齐泰、黄子澄为奸臣。事情传至朝廷，齐泰请求削除燕王的藩籍，公布其罪，派兵声讨。有的人反驳他，齐泰却说：“揭露贼行，敌乃可克。”于是，朝廷议定伐燕，并布告天下。当时太祖的功臣留下来的很少，建文帝便授长兴侯耿炳文为大将军，率军分道北伐，到真定为燕兵所败。黄子澄推荐曹国公李景隆代替耿炳文统率军队，齐泰极言不可。黄子澄不听，最终还是命李景隆率军。那个时候，建文帝将五十万军队全部交给李景隆，并称短时间内便可灭燕。燕王因此大喜道“：昔日汉高祖只能统兵十万。李景隆有什么才能，其部众正好可以为我所用。”这年冬天，李景隆果然战败，建文帝脸露惧色。正巧当时燕王上书极力诋毁齐泰、黄子澄。建文帝于是将他们两人解职以向燕王道歉，但暗地里仍将他俩留在京城，参与密议。李景隆给燕王写信，说他俩已逃，可以息兵了，燕王不听。第二年，盛庸在东昌获胜，建文帝到太庙告祭，并命齐泰、黄子澄二人任职如故。待到夹河兵败时，又解除他们两人的官职以求罢兵，燕王却说“：这是缓兵之计。”于是进兵更急。
在开始商议削藩时，建文帝采纳齐泰、黄子澄之言，说以天下遏制一方十分容易。在屡次失败后，便开始后悔，因此进退失措。当燕兵日益进逼时，又将齐泰召回。齐泰未到，京城已不能守，齐泰逃往外郡，企图复兴。当时朝廷急于重金悬赏齐泰。齐泰骑上用墨涂黑的白马逃走，马跑了一段远路后，汗出墨退。有的人说“：这是齐尚书的马。”齐泰就这样被捉送京，同黄子澄、方孝孺一起不屈而死。齐泰的堂兄弟齐敬宗等都被牵连而死，其叔叔齐时永、齐阳彦等则被贬戍边。其子刚刚六岁，被免死发配，仁宗时被赦回京。