古弼，代地人，从小就忠实、谨慎，擅长骑马、射箭。起初，他当猎郎，在门下省奏事时，以机敏正直得到称誉。明元帝为嘉奖他正直而有用，便以笔譬直，赐名“笔”，后来才改名为弼，意思是他有辅佐之才。皇帝派他掌管西部，与刘洁等人分管机要，向皇帝奏百事。
太武帝即位后，古弼因功被拜为立节将军，赐爵为灵寿侯。历任侍中、吏部尚书，主管南部奏事。后来古弼征伐冯弘，冯弘要去投奔高丽，高丽派来了救兵，救兵来到，冯弘便跟随他们前往，并让妇女穿着盔甲藏在军队中间，他的精锐士卒和高丽军队在外面。古弼的部将高苟子攻打冯弘及高丽军队。当时古弼喝醉了酒，拔刀制止了高苟子，使得冯弘能够逃到高丽。太武帝十分生气，将古弼罢黜为广夏门兵卒。后来又任侍中，和尚书李顺一起出使凉州。古弼赐爵建兴公，镇守长安，很有威名。当商议征伐凉州时，古弼和李顺都说凉州缺乏粮草，不适宜远征，但太武帝不听他们的意见，攻下姑臧后，就有些讨厌古弼，但因古弼有将略，才没责备他。
宋将裴方明攻下仇池，立杨玄的庶子保炽为首领。于是朝廷给古弼假持节，统率陇右诸军讨伐裴方明，平定了仇池。不久，诸氐又推举杨文德当主帅，包围仇池。古弼攻打他们，解了仇池之围，杨文德逃到汉川。这时东道将领皮豹子听说仇池已经解围，商议回兵。古弼派人对他说：“如果要班师回去，众寇又会来到，再发动进攻就困难了。不出秋冬，南方的敌人也必定会来，以逸待劳这是百胜之策。”皮豹子就没有行动。太武帝得知此事，说：“古弼说的是长久之策啊，制服南秦，古弼的计谋最多。”
景穆帝总揽国家大权后，召古弼为东宫四辅，与宜都王穆寿一起参议政事，后来他又升任为南书令，虽然政务繁忙，但古弼一直不停止读书，他品德端正，行动谨慎，严守机密，从不对外说朝廷内部的事情。他功名和张黎相同，但不及张黎廉洁。
上谷地区有人给皇帝上书，说皇家的园林和猎场所占的土地太多，使许多百姓没有田产，应当将园林、猎场减去大半，分赐给穷苦的人。古弼入朝想向皇帝陈奏，皇帝正和给事中刘树下棋，心不在听政事上。古弼在旁边坐了很久，得不到机会说此事，就站了起来，在皇帝面前揪住刘树的头，把他拉下床，用手扯住他的耳朵，用拳打他的背，说“：朝廷不理政事，是你的罪过！”皇帝的脸色都变了，放下棋子，说：“不听奏事，是我的过错，刘树有什么罪！放了他吧！”古弼把上谷人上书一事告诉皇帝。皇帝惊奇古弼的正直，全部批准了他的奏状，把田分给了百姓。古弼说：“为臣的在君王面前逞强，不是没有罪啊！”于是他到公车令那里，脱帽光脚，自责请罪。皇帝说“：你穿戴好鞋帽吧。我听说筑社的人，艰难地把社坛筑起，又恭恭敬敬地去侍奉社神，神就给他赐福，那么你又有什么罪呢？从今以后只要对社稷有利，对国对民有益的事，虽然鲁莽不合规定，你只管去做，不必顾虑。”
太武帝大阅兵，准备到河西打猎，古弼留守。皇帝下诏让把壮马给骑士，而古弼却让人给弱马，太武帝大怒说：“尖头奴，竟敢和我计较，等我回京，先杀了这个奴才！”古弼头尖，太武帝常叫他笔头，当时人称他为笔公。古弼的下属十分害怕，古弼告诉他们说：“我认为侍奉君王打猎，让他们游玩得不痛快，这罪小。而不准备，不防范，让敌寇随意自由侵入，这罪就大了。现在北狄很强盛，南方的敌人也没消灭，他们十分狡猾，都在窥伺我们的边境，这就是我忧虑的。所以挑选肥马，以备军用，是为了防备不测的远虑。如果能使国家有利，我能怕死吗？明主是可以用道理来说服的。”太武帝听了这些话，感叹地说：“有这样的大臣，真是国家之宝啊！”他赐给古弼一套衣服、两匹马、十头鹿。后来皇帝的车驾到山北打猎，捕到几千头麋鹿，下诏书让发来五十辆牛车。不久皇帝又对跟从的人说“：笔公肯定不给，你们不如用马运跑得快呀！”于是返回。走了一百多里，古弼的奏表便到了，表中说：“如今秋谷已黄，麻菽遍野，猪鹿偷吃，鸟雁侵害，风波损耗，每天加倍。请赐稍得缓行，以便收载粮食。”太武帝对左右说“：笔公果然像我预料的那样，真是社稷之臣啊！”
起初，杨难当来归附时，皇帝下诏让古弼把杨家子弟都送进京城。杨玄的小儿子文德，用黄金三十两贿赂古弼，古弼收了金子也收了文德。但他对文德无礼，因此文德又逃到宋国。太武帝因古弼正直，有战功，因此没有加罪和责罚。太武帝去世，吴王立，任命古弼为司徒。文成帝即位，古弼和张黎都因参议政事不合皇帝心意，二人都被罢免。于是，多有抱怨和不满的言论，他的家人上告说，古弼在家用巫觋来诅咒朝廷。于是古弼、张黎全被杀害。当时人们认为他们实在是冤枉。