唐宪宗元和三年（公元808年）四月，按例举行了一场以君主名义主持的制举，其具体的科目是贤良方正、直言极谏。
参加考试的举人牛僧孺、李宗闵、皇甫湜等人，在对策中直刺时政，语言无所遮掩，极为激烈，直呼要求改革。
时唐宪宗正锐意改革积弊，这些举人的言辞很是与时势相吻合，因此实际主持考试的吏部侍郎杨於陵、吏部员外郎韦贯之，将他们全都署为上第。唐宪宗在接到奏报后，当即表示了满意的态度，并关照中书省在给他们放官时，给予优先的考虑。
然而宰相李吉甫却怀疑，举人是得到了他的政敌的暗中支持，通过制举来对他进行攻击，从而表现出歇斯底里的状态，到唐宪宗面前哭诉，说这场制举的最后复核人是翰林学士裴垍、王涯，而皇甫湜是王涯的外甥，然王涯事先没有请求回避，裴垍也明知不说。
经李吉甫如此一说，事情的性质起了根本的变化，在唐宪宗的眼里，那些慷慨激昂的举人的背后，原来竟有朝臣在操纵、在徇私，由此这场制举明显带上了科场舞弊的性质。为追究科场舞弊，他不得不将这些他原本极为看好的举人忍痛割爱，并惩罚那些与此有关的考官。
结果，裴垍、王涯受到了降职的处分，杨於陵、韦贯之被贬为外官。牛僧孺、李宗闵、皇甫湜等人被改署落第，并多年不得仕进。
以此事件为标志，从此拉开了以牛僧孺、李宗闵为首的牛党，与以李吉甫之子李德裕为首的李党，历经唐宪宗、唐穆宗、唐敬宗、唐文宗、唐武宗、唐宣宗六朝，相互之间斗争的序幕，史称“牛李党争”，又称“朋党之争”。
牛僧孺，字思黯，安定鹑觚（今甘肃灵台）人，为隋朝宰相牛弘的后裔。李宗闵，字损之，为唐高祖之子郑王李元懿的后裔。二人幼、少年时，均家道中衰，唐德宗贞元二十一年（公元805年）同科进士及第。此外，牛党的另外一些骨干，如杨嗣复等人，也多是进士出身。有些史家据此，将牛党定为进士出身的庶族势力的代表。
李德裕，字文饶，赵郡（今河北赵县）人。自幼心怀壮志，苦心奋学，然极其厌恶科举，从门荫之道入仕。此外，李党的主要成员，如郑覃等人，多是关东著名士族的后代，皆凭着门荫入仕，重门第，重儒家经学。有些史家据此，将李党定为门阀士族势力的代表。
牛李党争，争的是意气，以私愤相互排斥，毫无余地地极力排斥。李党执政，牛党必卷铺盖走人；牛党主朝，李党必被逐出中央。然在争意气之中，确也夹杂着他们对治国之道的不同主张。
平心而论，不管是牛党，还是李党，都有儒家治国平天下的情结，并在他们各自入朝主政期间，对打击藩镇割据，提高中央集权；对清除边患，保持国土安宁；对抑制宦官，加强朝臣地位；对改革弊端，调整国家状况等等，均有各自的建树。然就其态度而言，李党强硬，牛党婉和，由此李党的功业较为辉煌，牛党的事迹较为晦暗。
从而，史家在评论两党功过时，多倾向于同情李党，对牛党则多有非辞。但无论如何，他们的剧烈争斗，给历朝政治蒙上了挥之不去的阴影，使饱经患难的朝廷雪上加霜。
自制举一案之后，牛僧孺、李宗闵长期遭到压制，进不得正途，只能在藩镇处当幕僚。直到李吉甫亡后，他们才得以见了天日，进入中央任职。
唐穆宗长庆元年（公元821年），李宗闵时任中书舍人，其女婿苏巢参加进士考试及第，然放榜之后，任翰林学士的李德裕联合朝臣李绅、元稹上书，指责主考官钱徽接受贿赂，因而录取者有着严重的问题。唐穆宗令进行复试，苏巢以成绩不合格而落第。李宗闵有请托之嫌，被外放为剑州（今四川剑阁）刺史。然时隔不久，李宗闵被复中书舍人之职，在主持科举考试时，因录取了许多名士，名声大振，升为兵部尚书。
唐敬宗即位后，宰相李逢吉因曾受到过李吉甫的打击，出于报复，将李德裕外放为浙西观察使，而引政绩卓著的牛僧孺为相。然牛僧孺为相不久，见朝廷极为黑暗，无法伸展自己的抱负，自动请求辞去相职，离开京师，去担任武昌军节度使。
唐文宗登位，李宗闵在宦官的支持下，被拜为宰相。他出于报复，也恐怕时任兵部侍郎的李德裕出任宰相，遂将李德裕贬为西川节度使，而引牛僧孺入朝为相。旋即，李宗闵和牛僧孺合力，将李党全部赶出了朝廷。
牛僧孺在处理民族问题上，鉴于国力的衰弱，主张以和为贵。从而，在他任相期间，唐朝和吐蕃的关系，向着和好的方向在发展。然而，任西川节度使的李德裕则持相反的看法，他认为要增强唐朝的威望，应当在军事上有所表现，以此才能慑服各民族。
在具体对待吐蕃的问题上，李德裕坚持以战为先的主张。当吐蕃维州（今四川汶川西北）守将悉怛谋率众归附西川后，他奏请朝廷，要求趁此良机，向吐蕃发起强大的攻势。
可牛僧孺不同意，他认为：在与吐蕃修好之际，向吐蕃发起进攻，将失信于四夷，且吐蕃兵力强劲，一旦入寇，长安必陷于危险之境，如此即使得到一百个维州又有何用，不如将维州还给吐蕃，以维持双边关系。
唐文宗接受了牛僧孺的看法，令李德裕将维州及其所有降众归还给吐蕃。
当此事施行后，舆论掀起了大波，纷纷指斥牛僧孺假公济私，在报复李德裕。唐文宗由此改变了对牛僧孺的信任，将他贬为淮南节度使。
然李宗闵仍然控制着朝政，并将牛党成员尽行安排到各要职上。由于这些人良莠不齐，贪赃受贿之事时有发生，加上李宗闵专权太过，导致了唐文宗的不满。由此，唐文宗调李德裕入朝为相，将李宗闵出为山南西道节度使，并将所有牛党成员一体贬出中央。
李德裕在相位上呆了一年半后，受到李训和郑注的排挤，被出为山南西道节度使，而李宗闵复被召入朝为相。由此，李德裕和李宗闵的位置对调了一下。然李宗闵与李训、郑注不是志同道合者，没多久，就彼此闹得不可开交。李训、郑注一面打击李宗闵的党羽，一面揭露李宗闵以前结交权贵谋取相位的劣迹。从而，李宗闵复被唐文宗贬为外州刺史。
先后被撵出权力中心的牛僧孺、李宗闵，虽然后来被授予了一些高层职务，然都是虚职，他们再也未能恢复相职。
到唐武宗登位，李德裕得到了大重用，在外事内务上多有骄人的政绩。然他利用手中的权柄，利用唐武宗的信任，对牛党实施了大报复，将牛僧孺、李宗闵、杨嗣复等人处以流放式的贬逐，逐至蛮荒之地。
牛李党争，直到唐宣宗上台，才告终结。
唐宣宗在两点上与李德裕不合：一是在科举考试上，唐宣宗特别偏重进士科，每每接见朝臣，必问其是否进士及第，若得到肯定的回答，便十分高兴。他曾在宫廷中为自己题了一幅字：“乡贡进士李道龙”。（《唐语林·企羡》）由此可见，他偏向进士出身的牛党，而讨厌没有科第之名的李党。二是他被立为皇位继承人，是得了宦官的拥戴，并没有通过很有权威的太尉李德裕，故而，他一直畏惧着李德裕。在他的即位仪式上，是李德裕奉册。事后，他这样对人说：“刚才接近我的是否是太尉？他每看我，都使我毛骨悚然！”
还未等皇位坐热，唐宣宗就将李德裕给贬了，一级级地贬下去，最后贬为崖州（今海南琼山东南）司户。李德裕后来死在了贬所。在这过程中，所有李党成员及李德裕的亲近者，也悉被清理出朝廷。
与此同时，牛僧孺、李宗闵、崔珙、杨嗣复、李珏等被流贬在外的牛党成员，相继被召回朝中。李宗闵未等到还朝，已病死在贬所。牛僧孺已年老，在昭雪之后不久即亡故。唐宣宗起用牛党成员白敏中、令狐绹为相。
至此，长达四十多年的“牛李党争”，以牛党执政，并失去争斗的对手，而宣告结束。
关于“牛李党争”，还有三点值得注意：
第一点是：有人认为牛、李二党并不存在；有人认为仅有牛党，而没李党。其实，牛、李二党，不论哪党，起初都无结党的意愿，然在共同的利益下，自然地出现了人以群分，久而久之，就形成了所谓的朋党，且愈结愈深。这种现象是一切党派产生和发展的规律，由于牛、李二党存在的时间特别长，对垒的态势特别明显，故成了党争的典型。
第二点是：当时南衙北司的斗争异常激烈，宦官们将他们要打击的所有朝臣，全指责为朋党，以混淆视听。唐宪宗问过宰相李绛：“人言外间朋党大盛，这是为何？”李绛答道：“自古人君最痛恶的，莫过于人臣为朋党，所以小人攻击君子必谓朋党。然而，论起朋党极可恶，但寻找却无踪迹。东汉末年，天下贤人君子，都被宦官指为党人而加以禁锢，由此导致了亡国。从而，朋党都是小人欲害君子之言，不可相信。”（《资治通鉴》卷二三九唐宪宗元和八年）
第三点是：其他政治势力迫害异己的借口，其中尤以李训、郑注集团做得最为突出。他们在和李宗闵交恶后，为把持朝政，在唐文宗面前，将所有他们讨厌的朝臣，或指为牛党，或指为李党，然后一一加以逐去。