初唐是个史学丰收的时代，一部“二十五史”，其中有八种出于这个时代，其书目是：《晋书》、《梁书》、《陈书》、《北齐书》、《周书》、《隋书》、《南史》、《北史》。
这是史坛的一件盛事，然在这盛事之后，又出了一件大奇事，刘知幾撰写了千古奇书——《史通》。《史通》是中国第一部系统性的史评类专著，也是第一部史学史专著。
这部皇皇奇书共二十卷，原有五十二篇，现存四十九篇，分内篇和外篇两大部分。
内篇三十六篇，分《六家》、《二体》两块，总结以往史书的类别和体裁，以及优劣得失。《六家》为纪言的《尚书》，纪事的《春秋》，编年的《左传》，国别的《国语》，通史纪传的《史记》，断代纪传的《汉书》。《二体》为编年和纪传。
外篇十三篇，分《史官建置》和《历代正史》两块，前者叙述以往官方史书编纂机构以及主管官员；后者叙述以往官方对编年体与纪传体两种正史的编纂过程。
这部奇书，奇在包罗万象，奇在贯穿古今，奇在突破陈见，奇在标新立异，奇在直言不讳，奇在振聋发聩，奇在自成一家，更奇在空前绝后。当时的大学问家徐坚推崇道：“以史为职者，当以此书为座右铭！”清朝的大才子纪晓岚赞扬道：“其抉摘精当之处，足使龙门失步，兰台变色！”
刘知幾名子玄，因避唐玄宗讳而以字行，彭城（今江苏徐州）人。少时与其兄刘知柔以文学起步，获得声名后，进士及第，被授为获嘉（今属河南）主簿。
证圣元年（公元695年），武则天命九品以上文武官员上言论时政得失，刘知幾上表论了多事，言语相当激烈。时武则天为了将唐朝的政治旧基础改造为她的新基础，用滥施官爵和收紧法网双管齐下，使大批士人为此断送了性命。刘知幾痛感于怀，写了《思慎赋》，予以讥刺。在文坛以“苏、李”并称的苏味道、李峤见后大为惊奇，直呼：“陆机《豪士》所不及！”
人在官场身不由己，喜欢并擅长文学的刘知幾，在晋升后，被转入了官修史书的领域。他官职几变，一变为左史，二变为凤阁舍人，三变为太子中允，然一直兼修国史（唐朝史）。
唐朝官方修史，属于国家政治大事之一，君主极其重视。然任何事情都有个度，否则便过犹不及。由于君主的重视，从而常将多名宰相、大臣派去监修国史。时武则天派在史馆的监修官的阵容是：侍中韦巨源、纪处讷，中书令杨再思，兵部尚书宗楚客以及中书侍郎萧至忠。然这么多人领导，不仅没有收到预期的政府全力支持的效果，反而衍生出种种弊端，致使费时费力，却不能如期完成国史的编纂。而萧至忠不仅不寻找监修班子的原因，反而责怪一直在辛勤笔耕的刘知幾，说他没尽到责任。刘知幾一气之下，提出了辞呈，并上书萧至忠，详细地分析了官修国史的问题。
这道上书，虽夹杂着刘知幾的一些个人意气，然公允而言，绝不失为一篇总结官修国史问题的杰作。他说了五个问题，大意如下：一是古代国史都出于一人之手，如左丘明修《春秋》，司马迁修《史记》。到了东汉大集群儒，开始官修国史，但各以为是，致使长年累月修不出一部史。二是汉代修史的资料来源，有从下而上的一套合理的程序，由此史官得以写出记事丰富的史书。而到了近代，史官要自寻资料，又缺乏其他部门的配合，故而难以写出像样的史书。三是古代修史全部公开，以示公正。近代史馆，为防止人情干扰，严加保密。而现在的史馆，人多嘴杂，实在无密可保，致使史官畏惧人情而不敢秉笔直书。四是古代修史提倡惩恶劝善，有良史之道。而今监修官太多，十羊九牧，莫衷一是，又没是非标准，以致史官无所适从。五是设置监修官当有负责之实，如何定体例，如何作分配，如何来撰写，如今却一无所有，只能让史官虚度时日。
刘知幾的论述，道出了官修国史难以成功的实质。然他的直言无忌，触怒了宗楚客，他对史官们说：“此人这般说话，到底想将我置于何地！”相比之下，还是萧至忠顾全大局一些，认为刘知幾史才难得，不准他辞职，强留他在史馆。
人虽留在了史馆，可刘知幾的主张，根本不为监修官们所认可。在无奈的境况下，他一边敷衍着修史的工作，一边将业余时间全用在了《史通》的修撰上。完全可以说，正是官修国史问题上的遗憾，才得以促成这部伟大的史评专著的诞生，否则，史学界将生出另一种遗憾。
在《史通》完成后，在史才上很自负的刘知幾，仍然感到很大的失落，他认为在这个世界上没人能理解他。从而他将修撰国史的工作，移交给另一个史学家著作郎吴兢，自己去修撰《刘氏家史》、《谱考》这二本谱牒类著作，受到史学界的赞誉。
刘知幾不仅在史才上自负，且在前途上也很自负，确切地说，是史才的自负激起了前途的自负。他在《刘氏家史》中考证出，他这一脉的刘氏子孙，当是汉宣帝之子楚孝王刘嚣曾孙居巢侯刘恺的后裔。由此，他多次对人说，他若能得到封爵，必以居巢为名。他的自我预言，在修撰《武则天实录》后，以修撰之功得以实现，被封为居巢县子。
刘知幾在史馆执掌国史修撰，长达二十年，经他手所编纂的史书，绝大多数得到了时人的称赞。
这个史学大才，并没能得到善终。晚年他把触角伸到了与政治关系更直接的经学界，不慎得罪了宰相，受到经学博士的攻击。旋即，他的儿子太乐令刘贶犯了罪，他认为儿子是无辜的，跑去向宰相申诉，结果引得唐玄宗大怒，被贬为安州（今湖北安陆）都督府别驾，抑郁而亡。
刘知幾著作颇丰，其中最有影响力的是《史通》；他谈话甚多，其中最为闻名的，是有关“史才”的界定。
礼部尚书郑惟忠曾问在文、史两界都有建树的刘知幾：“自古以来，为何文士多而史才少？”
刘知幾的回答是：“史才须有三长，世无其人，故而史才少。三长是：史才、史学、史识。若有学而无才，犹如有良田百顷，黄金满箱，却让愚者去经营，终不能增加财富。若有才而无学，好似巧如鲁班，而家中却无工具，终不能营造成宫室。最要紧的是史识，具体的表现是正直，善恶必书，使骄主贼臣知惧，这如同为虎添翼，所向无敌。不具备三长，不可居史职。然从远古以来，罕见其人。”
他嘴上说“罕见其人”，实际其人正是他自己。