张可大，字观甫，应天人。世袭南京羽林左卫千户，又考中万历二十九年(1601)武举会试，初任建昌守备。后来升任浙江都司佥书，负责守卫瓜洲、仪真，江洋大盗在他任职期间不敢逞凶。税监鲁保死后，淮州巡抚李三才让可大登记他的财产，鲁保家给他送来重礼，可大拒不受贿。叶向高应召赴京时经过仪真，见到可大后惊奇地说：“这个人不仅是个良将，也是一个良吏的料子呢。”后来他升任刘河游击，改任广东高肇参将，然后调到浙江舟山。在此期间，他奉命征讨黎都，与总兵王鹤鸣一起用黑番做向导，捣毁了贼寇的巢穴，黎部才算被消灭了。
舟山，也就是宋朝称为昌国城的地方，位于大海之中，有七十二个小岛，是浙江的战略要地。可大向朝廷列举了八条主张，都是宏谋高议，对国家大有裨益。倭寇侵犯五罩湖、白沙港、茶山潭头，可大接连打败了他们，被加官副总兵。当地城墙坍塌已久，可大与副使蔡献臣加以修建，只两个月就完工了。城内外有水田几千亩，海潮妨害耕种。可大修建蓄水闸储蓄淡水，这些田土就改造成为沃土，百姓都叫这些蓄水闸称为“张公石契”。天启元年(1621)，可大以都指挥使的身份掌管南京锦衣卫。六年升任都督佥事，在南京右府担任佥书。
崇祯元年(1628)，可大出任登莱总兵官。当朝廷讨论罢设登莱巡抚时，就命令可大以总兵官的身份办理登州副总兵的差事，巡抚就停设了。可大全心全意地加强海防，亲自到各处视察，绘图记载沿海一带的地形和兵力强弱，撰写《海防图说》报送给朝廷。二年冬天，白莲贼的余党包围了莱阳，可大把他们打败，焚烧了他们的六个营寨，斩杀了他们的两个伪国公，莱阳之围才解除。京师受到侵犯时，可大进京防卫，把守西直、广宁等城门。第二年，因为勤王的战功，升任都督同知。
刘兴治在东江造起反来，可大于是奉命返回驻地。后来丢失的四座城池都得到收复，朝廷决定重新设置登莱巡抚，由孙元化出任。元化率领关外部队八千人来了，其中一大半是辽东人。可大担心发生意外，屡次给元化讲，元化不听。
四年(1631)七月，朝廷评定他以前守城的功劳，提拔可大做了右都督。十月，调他到南京左府当佥书，兼管池河、浦江二处驻军，登州人流着泪挽留他。可大尚未动身，孔有德在六桥造起反来，往东打下了六座城池。可大急忙前往征剿，元化传令制止他，可大不听，当可大行军途中驻在莱州时，碰上了元化，又被他阻拦，才返回驻地。
这一年就要结束时，有德在傍晚时候兵临城下，可大请求出击，元化主张招安，不让他出兵。可大把利害讲得很明白了，元化才约定明年元旦节出兵合击。到了那一天，元化的部队没动。第二天，双方在城东对敌作战，可大的部队屡屡得胜。元化的部下都是辽东人，反贼中有很多他们的亲朋好友，所以没有斗志。元化的将领张焘率先逃走，可大的部队也战败了。中军管维城，游击陈良谟，守备盛洛、姚士良都战死了。张焘的士兵有一半投降了有德，有德派他们回来做内应，元化要开门让他们进来，可大劝阻，元化不听。半夜里反贼打来，城就被打下了。可大当时正在防守水城，听说后抚膺大哭，伤心透了，解下他所佩带的官印交给旗手和鼓手，让他们走小路把它交给济南的上司。回到家里拜别了自己的母亲，让弟弟可度、儿子鹿征护送母亲航海到天津去。然后把佩剑交给部将，把所有的丫环都杀死，可大方结绳自缢而死。事情报朝廷知道后，朝廷追赠可大为特进荣禄大夫、太子少傅，谥庄节，赐予他公祭、丧葬，并予以世袭封荫，为他建立了一所祠堂，名叫“旌忠祠”。
可大爱好学问，善于做诗，很注意品行修养，有儒将的风范。他总领南京锦衣卫时，欧阳晖由刑部主事贬来锦衣卫做知事，欧阳晖曾经做了一首诗，中间有一句话说“阴霾国事非”，扬州知府刘铎把它写在扇面上赠给了一个和尚。恨刘铎的人就向魏忠贤做了诬告，欧阳晖、刘铎都遭到逮捕。可大管教旗牌、差官，又捐出官俸帮助他们两人，为他们的妻子、儿女选择房屋居住。他为人崇尚道义的事例大都与此相类似。
他的弟弟可仕，字文峙，用字不用名。文峙隐居博学，曾经编辑过明代平民百姓的诗集一百卷。