由于陆军、海军一再失败，慈禧太后与光绪皇帝对李鸿章十分不满。他们在平壤吃紧之时，将李鸿章拔去三眼花翎，褫去黄马褂；旅顺弃守以后，将李鸿章革职留任（革去直隶总督与北洋大臣之职，而留在任上办事）。
李鸿章所掌握的军事、外交大权被慈禧与光绪移交给恭亲王奕訡。这一位冷了十年的大老，忽蒙召见，随即在九月初一受任管理总理衙门，管理海军署，会办军务。十月初五，进一步被指定“督办军务、节制各军统帅”。十一月初八，又进一步被发表为军机大臣。
恭亲王的想法，与当时朝中一般人的想法相同：李鸿章及其淮军根本不行，只有请出湘军的老将刘坤一来，一切方好着手。于是，把张之洞由湖广调署两江，抽出刘坤一到北方来，当“钦差大臣，节制关内外各军”。
刘坤一竟迟迟不肯到任，挨到年底左右才勉强驻节山海关。刘坤一的理由是无钱、无械、无兵，这个仗很难打下去。
倒是李鸿章勇于负责，自己派一个洋人（德璀琳）当代表去日本神户，探询日本方面对于讲和想提什么条件。他没料到：日本政府不肯和德璀琳打交道，叫德璀琳不要在日本多停留。
恭亲王见到淮军既不能打，湘军又是徒存空名，决定向日本求和。他先托美国驻华公使田贝向日本取得原则上的同意讲和，然后又奏准太后与皇帝，派出前任驻美公使、现任尚书衔、总理各国事务大臣、户部左侍郎张荫桓，与前任台湾巡抚，现任头品顶戴、署湖南巡抚邵友濂，充任全权大臣，到日本去求和。恭亲王也没料到，日本政府于这两人到达神户之时（光绪二十一年正月初六）挑剔他们的全权证书。
原来证书上有这么一句话：“惟愿大皇帝接待，俾该使臣得以尽职”，伊藤博文与陆奥宗光以日本全权大臣的资格，认为这句话只是客气话，缺乏“便宜行事”字样，拒绝与张、邵二人开谈。清廷在（光绪二十一年）正月十八日内定改派李鸿章为全权大臣，同时下旨开复李鸿章的一切处分（包括拔去三眼花翎、褫去黄马褂，革职留任）。
次日，正月十九日，光绪下旨调云贵总督王文韶接署李鸿章的直隶总督与北洋大臣之职。
二十四日，清廷托美使田贝电询日本政府，就李鸿章出任全权大臣一节是否同意。这电报发出后，田贝接到日本政府在二十三日发来的电报，说中国若改派全权大臣，必须赋以“割地及将来交际的缔约全权”。
二十五日，日本续来一电，询问“李鸿章是否能照二十三日（2月17日）的原电行事？”
在二十八日、二十九日、二月初一这三天，李鸿章天天向光绪请训，天天与翁同龢辩论。最后，光绪准许李鸿章答应对日本割地。（翁同龢认为只可赔款，不可割地。）
二月初二，清廷托美使告以李鸿章有执行“来电所述任务之权”。于是，日本表示同意李鸿章担任“中国头等全权大臣”，欢迎他到日本马关与伊藤博文及陆奥宗光会谈。
李鸿章于光绪二十一年二月初九出京。八天以后，带了儿子李经方及其他随员罗丰禄、马建忠、伍廷芳等一百三十余人，乘坐原属招商局的“德商”轮船礼裕号与公义号从天津启程，于二月二十三日到达日本马关。
次日，他与伊藤博文在春帆楼相见。一别十年，两人均不胜今昔之感。
李鸿章向伊藤博文提出用英文写好的要求停战的文书，伊藤应允于二十五日正式答复。
二十五日，两人作第二次的会谈。伊藤提出停战的条件，限三天答复：（一）大沽、天津、山海关三处所有城池堡垒交由日本军队占领，三处所有军需（械弹物资）交日本军队暂管。（二）天津山海关间铁路交由日本军务官管理。（三）停战期限内日本军事费用由中国担负。（四）停战日期及两军防地、划界等细目，俟中国同意上述各项后再议。
李鸿章在这次会谈以后，打电报向清廷请示。清廷的复电是不必再谈停战，直接谈议和的条款。
二月二十八日（3月24日），李与伊藤作第三次会谈。李向伊藤提出节略，表示不再谈停战，直接谈议和，请伊藤说明日方的要求。伊藤说：“议和的条款已经准备好，明天会谈时交给你。”
当天会谈以后，李鸿章从春帆楼出来乘轿子回他的行馆，中途遇到一位日本刺客，向他放了一响手枪，枪弹进入左边颧骨，埋在里面不曾出来。李鸿章昏倒。刺客当场被捕，事后由警察问出姓名是小山丰太郎，由法院判了无期徒刑。
李鸿章被抬进行馆，由随员之中的中国医生及日本政府与明治天皇派来的医生会同医治，所好尚无生命危险。
伊藤博文与陆奥宗光均赶来行馆慰问、道歉，日本皇后也派了两名女看护来侍候他。
他向日方提出照会，要求次日会谈照常进行，由儿子李经方代表出席，向日方收取议和的条款。
日方在次日由陆奥宗光亲来行馆，面交“覆照”，说“议和条款因此意外事件而有更动，已奏请天皇定夺，须稍缓数日始能向贵方提出”。
三月初三，陆奥又来行馆面交停战条件：（一）停战地区限奉天、直隶、山东三省，台湾、澎湖除外。（二）停战期限是二十一天，到三月二十七日（4月21日）为止。
三月初五，李鸿章与伊藤、陆奥在停战条约上签字。签字以后，李鸿章照会日方要求开出和平条件，定期在行馆会谈。
初七，陆奥将和谈的程序作成节略，面交李鸿章。内容是“先由日方提出条款，然后望大清帝国钦差头等全权大臣在三日或四日以内回复，或将约内各款全行承允，或将某款更行商酌为要”。
李鸿章在当天复了一个照会，说准于接到条款四日后回音。于是陆奥立刻就把条款送来行馆，限李鸿章于四日以内答复。
这些条款数目不多，只有十一条，内容却很厉害。
首先，是关于朝鲜的规定，要中国承认朝鲜的独立自主。其次，是关于割地，要中国把台湾、澎湖与所谓辽东半岛割给日本。再其次，是赔款三万万两。
此外，要中国与日本另订新约，以中国与列强之间的条约为依据。换句话说，要中国给予日本以种种片面的特权，如领事裁判权、协定关税、最惠国条款，等等；又要中国助开北京、江陵、沙市、长沙、湘潭、重庆、梧州、杭州等地方为商埠，准日本派驻领事。其实，倒不如把整个中国各城各县一律开为商埠，倒可以一劳永逸，免得日本再费事打仗。这真是人小心大，其实把中国都送给日本吞，也未必吞得了。
伊藤博文等人而且也想出一种妙法，叫中国准日本人到中国开设工厂，就地制造洋货。那时候日本人会制的洋货极少，机器更谈不上，全靠向西洋各国买，却也扮出一副“假洋人”的面孔，欺负同文同种的乡下叔叔。
十一条条款之中最小气的一款，莫如要求减低子口税：从百分之二点五，减为百分之二。
另有一款，要中国开放内江、内河，让日本轮船可以由宜昌开往重庆，由汉口开往湘潭，由广州开往梧州，由上海开往苏州、杭州。
最装模作样的一款，是要求中国“速浚黄埔江沙滩”，以便日本的大商船来往无阻。别国的大商船比日本多也并未如此不客气。伊藤博文故弄狡狯，无非是藉此摆出假洋人的面孔，以讨好真洋人而已。
此人在英国并未好好念书，比我们的严复差多了。回国以后溷迹花丛，交了一些坏朋友，专干坏事，结果掌了大权，以损人利己为国际间来往的秘诀，结果给日本造下无穷的后患。
十一条条款包含有日本得在奉天（沈阳）与威海卫驻兵的一条，以驻到换约以后三个月为期限，驻兵的军费要中国负担。
四天以后，李鸿章给伊藤博文一个说帖，算是初步答复。这说帖写得十分婉转，不像是统帅口气，而很像是文弱书生对流氓讲理、求饶。
李鸿章说：“中日系紧邻之国，史册、文字、艺事、商务一一相同，何必结此仇衅？……日本如恃其一时兵力任情需索，则中国臣民势必尝胆卧薪力筹报复。东方两国同室操戈不相援助，适来外人之攘夺耳。”
这一段话句句有理，而且不幸言中。
可惜，这样的大道理，不是伊藤博文与陆奥宗光所能听得进的。他们在三月十二日又送了一个照会来。
这照会说：“我们不和你们谈理论，只谈条文。你们接受哪一条，反对哪一条，或是要修改哪一条，怎样修改法，不妨一一说来。”
李鸿章向清廷报告。清廷的军机大臣之中，翁同龢最反对割地。此老主张一贯，不愧为政治家。那力主割地的孙毓汶与他比起来，可谓一薰一莸。翁是状元，孙是榜眼，两人出身相差无几。然而翁以大臣自期自励，孙则夤缘于庆亲王之门自暴自弃。
这时候在名义上重新主持总理衙门的恭亲王奕訡，事实上已不能管事。在总理衙门当家的，是庆亲王奕劻。此人贪财，误了海军，因此也急于支持李鸿章的割地求和政策。
于是，总理衙门就有了电报复给李鸿章：“让地应以一处为断，赔费应以万万为断”。撰拟这封电报的小公务员定是文书老手，把话说得外硬内软，原则接受数字仍可以添。所谓“断”，也决不是真断。
李鸿章根据这个复电，向日本提出第二次“说帖”：辽阳等州县与台湾全岛，日本兵力未到，不便割让，旅顺大连应还中国。（换句话说，除了旅顺、大连以外，凡是日本兵力已到的地方可以割让。）
赔款呢？应按照日本实际上所花掉的数目计算，扣除日本所获得的船、械、军需。
增加商埠，以重庆一地为限。内江、内河的航行权，也限于宜昌、重庆一段。
赔款清偿以前的驻兵地点，以威海卫一地为限，奉天不能驻日本兵。驻屯军的军费应由日本负担。
日本人在内地开设日本工厂，不可以。日本货物进口，把子口税减为百分之二，办不到。
李鸿章的这一封“说帖”，可谓对日本人的“漫天要价”“就地还钱”。西洋人之所以称赞他为“中国大外交家”，可能是由于十分佩服他的这种本领。然而，伊藤博文告诉他的儿子李经方：“贵使臣应考虑今天两国所处的形势，日本是战胜国而中国是战败国！”
李经方此时已于李鸿章被刺以后，受任为（第二个）全权钦差大臣，协助李鸿章办理对日交涉。经方会说英语、日语，太太是日本人，本可以作李鸿章的得力助手，但也正因为太太是日本人，中国朝野颇有些人怀疑他是否忠贞。他在日本有存款，确是事实。存款究有多少，难考。李鸿章本人也颇有钱，藏有不少股票，甚至被政敌目为中国首富。他在节操上远不如曾国藩。
伊藤博文进一步警告李经方：日本的武人颇想打到北京再说，是他自己伊藤博文竭力在主和。
于是，双方又换了一次文。
李鸿章所提出的是，台湾不能割，澎湖可以割，奉天所割以安东县、宽甸县、凤凰厅、岫岩州四处为限。赔款定为一万万两。朝鲜可以由中、日双方共同承认它自主。另订商约可以，但最惠国待遇应该是相互的，而不是片面的。
日方提出最后的条件：割地必须包括台湾、澎湖，奉天可以少割一点。赔款可以由三万万减为二万万，限期内不付利息，限期外要付利息。奉天可以不驻兵，仅驻兵威海卫即可，但驻兵军费应由中国负担。子口税减低之事可以免议。新增商埠的数目，与内江、内河航行权的范围均可商议。
李鸿章想和伊藤博文继续讲价，伊藤在三月十九日（4月13日）回信说：“无可再商，无可再让……所宜回复者，惟有允、否两字耳。”
回复的限期，是三月二十日。二十日这一天，李鸿章接到总理衙门电报：“如无可商改，即遵前旨，与之定约。”
于是，李鸿章和伊藤作了最后一次会谈。李说：“我并非不定约，不过请略减。如能稍减，即可定约。此亦贵大臣留别之情，将来回国，我可时常记及。”伊藤说：“所减之数，即为留别之情。昨已告伯行（经方）星使。初约本不愿改，因念中堂多年交情，故减万万。”
李要求赔款不付利息。伊藤说，早就讲好，如在“两年内”付清，可以不付利息。李又继续噜苏，结果总算是争得了如在“三年”以内还清不计利息。
伊藤要中国在一个月内将台湾交割，李说必须两个月才办得好。伊藤不肯，李说：“贵国何必急急，台湾已是口中之物。”伊说：“尚未下咽，饥甚”。李说：“两万万足以疗饥。”于是，一场战争在李鸿章的苦笑之中结束。伊藤博文准许把交割台湾的期限延长为两个月。
两天以后，双方签约。全文仍是十一条，称为十一款。第一款，关于朝鲜的安全独立自主，是由中国承认，而不是由中、日双方共同承认。日本这时候已经在事实上掌握了朝鲜的政权。（日本的大使大鸟圭介，于前一年的六月二十一日丰岛海战的前两天，领兵进入汉城，包围王宫，掳去国王〔李太王〕，把国王的生父大院君李昰应扶为傀儡，捕逐闵后之党。大院君自从被吴长庆抓来中国、拘留在保定以后，态度已由亲华变为反华，于是在放回朝鲜以后甘心受日本利用。闵后之党本是亲日派，终于大吃日本之亏，可谓咎由自取。）
第二款，是关于割让台湾、澎湖与辽东半岛。台湾附近的小岛，也在被割让之列。澎湖则包括北纬二十三度至二十四度之间，及东经一百一十九度与一百二十度之间的所有岛屿。辽东半岛的界限，是由鸭绿江上溯到安平河口，再由安平河口至凤凰海城营口，然后以辽河中心为界直至大海，把旅顺、大连、金州等都包括在内。
其余各款，涉及割让各地的居民的国籍问题、赔款问题，等等。辽东、台湾与澎湖的人民，可以在两年内变卖产业，迁往中国其他地区而仍为中国人。否则，超过两年均一律当作日本的臣民看待。
赔款的总数是两万万两，分作八次交付。第一次五千万两，以六个月为限；第二次五千万两，以十二个月为限，必须付清。其余的分在以后的六年之内摊付，每年付六分之一。从第一次付款以后，所有未付的款项概须加算年利百分之六。倘若中国能在三年以内把两万万付清，所有的利息可以免付，已付的也可扣除。
商埠加开四个：沙市、重庆、苏州、杭州。内江、内河的航行权，也延长到这四处。
日本人可以在所有的商埠开设工厂，厂用的机器准予纳税进口，制出来的成品，照纳进口税，如销行内地，只纳子口税而不纳厘金。这一项，是以前列强所不曾想到的妙法。日本人藉此可以省下两笔运费与一笔出口税。他们毋庸将中国原料输出日本，花费出口税与运往日本的运费，也毋庸等到在日本制为成品以后重新运到中国来，又花运费。
关于另订商约，也有一款。过去中、日之间的一切条约，已因作战而取消；新的商约必须制定，以中国与列强之间的条约为蓝本，换句话说要包括片面的领事裁判权、协定关税与最惠国条款。
日本有权在威海卫驻兵，作为中国缴付赔款与另订商约的保证。赔款一日未清，或商约一日未另订，则威海卫的日本兵决不撤走。驻兵的军费由中国负担。
中国其他各地现有的日本兵，等待这《马关条约》正式批准而互换以后，于三个月之内撤走。换约的日期定为本年阴历四月十四日（5月8日）。（日本从明治天皇的时候起，开始用阳历。以前完全用中国的阴历。）
两国的俘虏互相交换。中国允诺不惩罚所换回的俘虏，与曾经在作战期间与日本军队合作的中国人（汉奸）。
此外，关于日本政府可以在新开的四个商埠派驻领事，日本臣民可以在内地租用货栈也有规定。
这《马关条约》不仅在中、日两国的历史上是空前的，在世界任何一国的历史上亦无先例。日本以极小的代价获得极大的收获，日本人自己承认：他们最初的国家工业资本，便是从中国所付的庞大赔款而来。同时，中国的财政与国民经济经此打击，也几乎翻不了身。
中国人，在听到《马关条约》的消息以后，无不极为愤慨。
参劾李鸿章的奏章，犹如雪片一般飞向清廷。最沉痛的莫如翰林院编修丁立钧等人的一本：指出这《马关条约》“目前之大害有八，将来之大害有十”。他们请光绪皇帝不要批准、继续作战，然而结果还是批准了