江秉谦，字兆豫，安徽歙县人。万历三十八年(1610)进士，授职鄞县知县。因为廉洁能干被征用，打算任命他为御史，长时间任命没有下达，因为父母的葬礼回家。光宗即位，任命才下达。进入官府，从容不迫地讨论事情。
天启元年(1621)首先陈奏君臣无私为国奉献的道理，规劝极为恳切。户部尚书李汝华建议兴修屯田，请求专门派遣御史，三年一考核，如果开垦屯田的收入能够达到每年银饷的数额，就提拔为京卿。江秉谦极力驳斥他的荒谬，进而说李汝华空占着职位，不干事情，应该尽快罢免他。李汝华上疏辩解，江秉谦再次弹劾他。
沈阳失陷后，很多人都怀念熊廷弼，唯有给事中郭巩追究熊廷弼丧师误国的罪行，请求皇帝一起处罚阁臣刘一火景。江秉谦愤怒，极力称赞熊廷弼保卫边疆的功劳，并且说：“现在对熊廷弼已经调查清楚了，议论他的人还拿私人的感情来掩盖天下的公论，宁愿毁坏国家的边疆，而不忘发泄胸中的私愤。”疏章交给朝廷讨论。正好辽阳又失陷了。熊廷弼不久被起用为经略。判处郭巩妄议罪剥夺他的官职，由此跟江秉谦结下仇怨。熊廷弼坐镇山海关后，主张派使者宣谕朝鲜出兵作为牵制敌人的力量。副使梁之垣请求出使，熊廷弼很高兴，请求朝廷付二十万两银子作为军费。兵部尚书张鹤鸣不给，江秉谦上疏争论。张鹤鸣愤怒了，极力诋毁江秉谦与熊廷弼朋比为党。江秉谦上疏辩解，皇帝不怪罪他。
张鹤鸣既已压制熊廷弼，专门庇护巡抚王化贞，很多朝臣依附他。皇帝因为经略跟巡抚关系不融洽，下诏让廷臣讨论。江秉谦说：“陛下再次起用熊廷弼，委以重任，说：‘战场上的事不受宫廷限制。’数月以来，熊廷弼不能够有所举动。求救的呼喊每天都听到，辩解驳斥的信函一件接着一件。于是有人就说：‘经略、巡抚意见不合，王化贞主张进攻，熊廷弼主张防守。’熊廷弼并非一味防守，只是认为防守稳定了然后才能进攻。王化贞锐意进攻，即使取得了胜利，能够不做好防守的准备吗？万一不能获胜，又将如何防守呢？这其中的利害关系，是人所共知的。于是或者没有什么话不听从的，或者是没有计策不放弃的。难道真的不懂攻守的道理，只不过是想加深熊廷弼、王化贞的矛盾罢了。陛下既然命令熊廷弼指挥管辖三方面的军队，那么三方面军队的前进进攻退却防守应当一切听从熊廷弼的指挥。王化贞想前进，就让熊廷弼跟着他前进；想后退，就让熊廷弼跟随他后退。王化贞一会儿前进一会儿后退，就使得熊廷弼前进了不知道怎样进攻，后退了不知道拿什么来防守。这是王化贞有指挥管辖熊廷弼的权力，而熊廷弼不曾有指挥管辖三方面军队的权力。所以今天的事情，不是经略、巡抚之间不和，而是喜欢或讨厌经略、巡抚的人们不合；不是进攻或防守的议论不合，而是左右支配经略、巡抚的议论不合。请求皇上专门询问熊廷弼，做一些实际的战争准备工作。”最后嘲笑首辅叶向高模棱两可，势必对两方面都有所牵制，怎么能够要求取得成功。辞语极为恳切。
后来朝廷议论将要撤换熊廷弼，而王化贞已放弃广宁逃跑了。江秉谦更加愤怒，认为职方郎耿如杞附和张鹤鸣，极力帮助王化贞排挤熊廷弼，导致国土失陷，接连上疏攻击他。并且援引世宗斩杀丁汝夔的事例，乞求赶快将张鹤鸣依法惩处。皇帝以为张鹤鸣刚巡视边防，不能随便诋毁他，剥夺江秉谦半年的俸禄，对耿如杞不过问。江秉谦又上疏说：“张鹤鸣一旦进入政府要害部门，刚开始只不过是鲁莽而没有远见卓识，到后来就凶狠而隐含杀机。明知西部军事情报不准确，作战计划与实际状况难以符合，却在那里自我欺骗又欺骗朝廷。哪里有机会？却说机会可以利用。什么时候渡河？却说渡河一定能取得胜利。既想赶经略出关，又不肯把指挥管辖的权力交给经略，既想把熊廷弼安排在广宁，又不曾将王化贞派往别处。破坏国家领土的罪行，可以置之不理吗？况且王化贞先抛弃防地又先逃跑，还说他功过各占一半。仅凭这一句话，纵使将张鹤鸣一寸寸地斩杀，也不足以抵消他欺君误国的罪责，却还敢张口定别人的罪案吗！”
正在这个时候，大学士沈翭暗中勾结宦官刘朝、奶母客氏，召募士兵进入禁中，在宫内操练士兵。给事中惠世扬、周朝瑞等十二人一连两次上疏极力攻击。江秉谦参与其中，并诋毁刘朝和客氏。朝廷内外都很怨恨。于是假借弹劾张鹤鸣的奏疏，把江秉谦调往外地。不久，郭巩被召回，巴结魏忠贤，极力败坏江秉谦。
这年冬天，皇子降生，被贬谪的言官除了江秉谦外全部被召回。在家居住四年，听说魏忠贤更加扰乱朝政，忧愤而死。过了几个月，魏忠贤的党徒御史卓迈追究江秉谦保护熊廷弼，于是剥夺了他的官籍。崇祯初年，恢复了他的官籍。