靖康二年（1127年）四月一日，金军北归。次日，张邦昌就听从吕好问的建议，派人寻访康王赵构。九日，他迎哲宗废后孟氏入宫，尊为元祐皇后，垂帘听政，自己退位，仍称太宰。“大楚”傀儡政权仅存三十二日。
这时，赵构正在济州（今山东巨野）。他在上年十一月出使金营，中途折返相州不久，就接到钦宗任命他为兵马大元帅的蜡书，开府相州。东京告急，他在大名府虽接到火速勤王的蜡诏，却只让副元帅宗泽带部分勤王兵南下救援，自己却一路向东逃到济州。接到张邦昌派人送来的传国玺，他知道自己成为徽宗诸子中唯一没有被俘虏北去的亲王，最有资格登上皇位。于是，他移师南京应天府（今河南商丘），五月一日在府衙即位，改元建炎元年，是为高宗，孟后归政。
高宗任命李纲为右相，这时，他还在赶赴应天府的路上。高宗让黄潜善任中书侍郎兼御营使，汪伯彦任同知枢密院事兼御营副使，他们是其最信任的左右手。即位之初，尽管高宗对张邦昌说过不追究，但李纲不依不饶，高宗内心也容不得他的僭逆行为，仅过一月，就将其贬官赐死。张邦昌大节固然有亏，为公议所不容。但南宋史家王称说“邦昌之僭，良有胁迫”，还是实事求是的，将其简单地视为叛臣，似乎过于苛刻。
李纲是六月一日到达应天府的，他为天下人望所归，高宗用他，一是迫于形势严重，二是借以招徕人望。李纲主战，他的入相，最为主和的黄潜善、汪伯彦所忌恨。入秋，金人以张邦昌被杀为由，再次攻宋。黄、汪力主南逃，李纲主张坚守中原，东京留守宗泽还力请高宗还都主持恢复大计。
高宗唯恐重蹈父兄被掳的覆辙，七月，下达了“巡幸东南”的手诏，目的地是建康（今江苏南京）。李纲极力反对，抬出不久前高宗“独留中原”的承诺，迫使他收回成命，却招致高宗的憎恶。八月，李纲升为左相，黄潜善替补右相，汪伯彦进知枢密院事，对李纲成钳制之势。
当时，两河军民自发建立山水寨以保卫家乡，抗击金军，李纲命张所为河北西路招抚使，傅亮为河东经制使，前往联络，收复失地。黄、汪要撤销张所的招抚司和傅亮的经制司，葬送两河抗金的大好形势，李纲据理力争，但高宗偏袒黄、汪，御批同意。黄潜善让自己引荐的御史张浚弹劾李纲，李纲愤而辞职。高宗虚情假意挽留一番，便将其罢相。直到李纲去世，他再未入朝大用过，他是南渡以后最好的宰相人选，高宗不用他的根本原因，是担心其主战给自己惹来大麻烦。
李纲任相仅七十五日，他的罢相激起正义人士的愤慨。太学生陈东这时也应召刚到应天府，据说他此行带着自己的棺木，决心舍身成仁。听到李纲罢相，他毫无畏惧地两次上书，希望高宗尽早罢黜黄、汪，认为“欲复中原，以定大计，非用李纲不可”，还正告高宗不应即位，责问他日后钦宗归来，不知何以自处。另一个布衣士子欧阳澈也上书指责高宗“宫禁宠乐”（即沉湎女色）。
八月二十五日，陈东与欧阳澈被斩于应天府东市，陈东四十二岁，欧阳澈仅三十一岁。宋太祖誓约有“不杀士大夫与上书言事人”一条，誓约的内容上月刚由徽宗以衣带诏的形式传送给高宗。高宗之所以大开杀戒，根本原因有三：其一，陈东对他继统合法性的怀疑，欧阳澈对他纵情声色的揭露，都触到了最痛处；其二，唯恐陈东再次激起靖康学潮那样的民变；其三，陈东等上书主张复用李纲，坚决抗金，与其逃跑的决策针锋相对。因此，高宗必置他们于死地而后快，甚至不惜顶上蔑视祖训的罪名。后来，高宗对陈东之死，一再假惺惺表示痛悔，又是赠官，又是赐田，官修史书也强调他是误听了黄潜善的挑唆，无非旨在减轻公论的谴责。
杀了陈东不久，高宗就下诏“巡幸淮甸”。十月，小朝廷逃到扬州，把这个烟花繁华之地作为“行在”（即朝廷的临时驻地）。岁末，高宗将黄、汪分别迁为左、右相，把朝政全权交给他们，自己则在行宫寻欢作乐，全然不顾中原军民正与金军在浴血奋战。
十二月，金军分三路再次南侵，西路攻陕西，攻山东的东路军在渡过黄河后由完颜宗弼分率一部直逼开封，完颜宗翰则亲率中路直攻开封与其会师。这时的开封府尹兼东京留守是宗泽，他有效地部署了东京防线，粉碎了金军夹攻的计划。其后，他派人联络两河抗金义军，建立以东京为中心、两河为屏翼的抗金防线。
其时，两河山水寨星罗棋布。河东的红巾军以红巾为标志，用建炎年号，曾奇袭金军大营，差点活捉完颜宗翰。五马山寨义军推戴自称徽宗之子的信王赵榛为首领（其真伪莫辨，一般以为是假的），实际领袖是赵邦杰和马扩，响应者达数十万。八字军由王彦领导，他是原河北招抚司的都统制，招抚司解散后率残部入太行山，部众都在脸上刺上“赤心报国，誓杀金贼”八字，受其号令的有十余万人。梁山泊水军以张荣为首，有战船数百，士兵万余，这支义军后由水路转战至两淮。
两河义军数十万都受宗泽节制，称其为“宗爷爷”。宗泽深知这些自发的义军，是抗金斗争最可倚靠的主力，但没有朝廷的支持，迟早会归于失败。因而在开封秩序恢复正常以后，他一再上书高宗，呼吁还都，以号令抗金斗争。宗泽留守东京一年，先后上了二十四次《乞回銮疏》。
同时，宗泽派人与两河义军联系，让他们作好接应宋朝大军渡河收复两河失地的准备。建炎二年五月，他在上疏里提出六月出师渡河的计划，请高宗回京主持北伐壮举。但高宗安居扬州，置若罔闻；对宗泽的每次上奏，黄、汪都笑着以为他脑子有病。
七月，宗泽见坐失良机，忧愤成疾，与世长辞。死前，他沉痛吟诵杜诗“出师未捷身先死，长使英雄泪满襟”，三呼“过河”。宗泽一死，北方抗金形势迅速逆转，义军被逐个击破，官军分崩离析，一年以后开封再次被金军占领。
宋金战争初期，金朝有一个明确的战略，那就是追击立足未稳的高宗小朝廷，俘获高宗，以确保不再有一个赵氏政权与其为敌，以便自己扶植的傀儡政权能代表金朝统治中原地区。
建炎三年二月，完颜宗翰派兵奔袭扬州，前锋直抵天长军（今安徽天长）。三日，高宗正在扬州行宫行欢作乐，乍闻战报，吓得从此丧失了性功能，再也不能生育。他慌忙带领少数随从策马出城，仓皇渡江。传说中“泥马渡康王”的故事就源出于此。
次日，金军攻入扬州，追至江边，军民不及撤退，死伤与落水者不计其数。朝野以为扬州大溃退的罪责都在黄潜善和汪伯彦的身上，高宗也不满他俩不能早为之计，让自己吃足了苦头，遂将他俩罢相，任命朱胜非为右相，王渊签书枢密院事，仍兼御营司都统制。
王渊在扬州大溃退时拥兵数万，对来袭的五六千金骑不作任何抵抗，不仅未罚，反而升迁，是因与原康王府宦官康履、蓝珪沆瀣一气。在高宗从镇江逃往杭州途中与到达杭州以后，这些宦官依然肆无忌惮，作威作福，强买民物，凌忽诸将，激起军民极大义愤。
三月，御营司武将苗傅、刘正彦既妒忌王渊骤然迁升，又疾恨宦官胡作非为，对高宗一味南逃也深为不满，在杭州发动兵变。他们诛杀王渊和康履，胁迫高宗将皇位禅让给年仅三岁的皇子赵旉，由隆裕太后（即哲宗皇后孟氏）垂帘听政，改元明受。这次政变，史称“苗刘之变”或“明受之变”。
这时，同签书枢密院事吕颐浩正在江宁（今江苏南京），礼部侍郎张浚则督军平江（今江苏苏州），他们闻讯后即联络武将韩世忠、刘光世等起兵勤王。苗刘兵变虽有合理的理由，却也夹杂着个人的野心，两人既无深谋远虑，又无明确目标，进退失据，见勤王大军逼近杭州，就弃城出逃，高宗复辟。五月，苗、刘被韩世忠军俘获，两个月后处死。
七月，高宗升杭州为临安府，打算将这里作为临时安乐窝。这月，金军以完颜宗弼（兀术）为统帅，分四路大举南侵，兀术亲率主力追击高宗小朝廷。高宗遣使向金帅乞和，国书极尽奴颜婢膝之能事：“天网恢恢，将安之耶？是以守则无人，以奔则无地，一并彷徨，跼天蹐地，而无所容厝，此所以朝夕諰諰然，惟冀阁下之见哀而赦已也。”但兀术必得高宗而后已，完全不理睬高宗的摇尾乞怜，一举突破了长江防线，占领建康，直扑临安。
十月，高宗从临安逃到越州（今浙江绍兴），次月，再逃到明州（今浙江宁波），十二月，决定入海避敌。十五日，高宗接到金军逼近临安府的消息，便坐楼船逃往定海（今浙江镇海），继而渡海到昌国（今浙江定海）。岁末，高宗得知兀术将至明州，便让御舟漂泊在台州与温州之间的海上。建炎四年正月初三，高宗船队落碇台州章安镇（今浙江黄岩东北），在这里停留了半个月后移向温州沿海，二月二日起驻泊温州江心寺。
兀术在正月十六日攻陷明州，随即乘船入海准备追获高宗。途中遇上大风暴，被宋军水师击败，退回明州。这时南下金军已是强弩之末，后方空虚，战线漫长，屡遭宋朝武装的袭击。二月，兀术声称已完成“搜山检海”的预定目标，开始北撤。一路上纵火焚城，掳掠奸淫，明州、临安、平江府都是数日烟焰不绝。
三月，兀术军队从平江府撤军，准备在镇江渡江北上。宋将韩世忠率水师从长江口兼程西上，埋伏在镇江焦山寺附近的江面上，截断了金军的归路。双方展开激烈的水战，韩世忠妻梁氏（宋代史料中只知其姓梁，红玉之名后出，或是传说附会）亲自击鼓助战。金军无心恋战，损失严重。世忠拒绝兀术以财货名马借道的要求，将金军水师逼入建康东北七十里处的黄天荡。这是一条死港，宋军堵住其出口，使金军屡次突围均告失败。金军最后掘开老鹳河故道通秦淮河，让战船驶入长江，以火器击退前来堵截的韩世忠水师，才得以安然撤退。与此同时，岳飞打败了从陆上撤退的兀术部队，收复了建康。在黄天荡之战中，韩世忠以八千水师包围十万金军，两军相持达四十余日，虽未最后取胜，却使金军从此不敢渡江。
高宗获悉金军北撤，才从温州泛海北上，回到越州，结束了长达四个月的海上亡命生活。次年，高宗改元为绍兴元年（1131年），寓有“绍祚中兴”的意思。虽然这年十月升越州为绍兴府，但这里作为行在，在漕运上有诸多不便。次年正月，高宗把小朝廷迁回临安。
临安有作为都城的经济优势与地理条件：既有长江的天然之险，又不像建康那样濒临长江，易于受到攻击；地处太湖流域与宁绍平原两大鱼米之乡的交汇处，物产丰富；大运河与浙东运河在这里接头，明州作为外贸港也近在咫尺，漕运、海运都很方便；经唐、五代与北宋的长期建设，杭州已跃升为东南最繁华的都会。
大体以绍兴二年高宗驻跸杭州为标志，南宋小朝廷基本在江南站稳了脚跟，宋室南渡也宣告完成。其后，高宗虽然也短暂驻跸过建康，但那不过是做抗金的姿态而已。当然，也为了做姿态表示自己不忘恢复中原，临安始终称为行在。