刘宋建国之初，北方除北魏外，还有北凉、西凉、西秦、夏、北燕五国；此外，阴山以北，还有强大的柔然部落。其中夏和柔然都是魏的劲敌。刘宋虽只有半壁江山，对外却可专注，形势比较有利。其时，宋在河南还占有洛阳、虎牢、滑台、碻磝（今山东茌平西南）四个重镇，往东包括今山东省的大部分，济南、淄博、青州等城市都在宋的境内，建康离北方边境较远，所以比起东晋初年，它的局势要安稳得多。
宋永初三年（422年）刘裕死后，魏明元帝（拓跋嗣）便命奚斤等攻陷滑台，进逼虎牢；另遣叔孙建等从平原（今山东平原西南）渡河，攻陷泰山（治今山东泰安东）、高平（治今山东巨野南）、金乡（治今山东嘉祥南）等郡，东进青州境内，东阳（今山东青州东）危急。景平元年（423年）正月，魏于栗磾攻陷洛阳金墉城；叔孙建陷临淄。在魏军的攻势下，宋只有东阳、虎牢两地的抵抗比较有效。在东阳，青州刺史竺夔动员居民尽量迁入东阳城，又使不进城的依山据险，实行坚壁清野。魏军攻城不下，又筹不到粮食，困难很大。但是叔孙建军有三万之众，城中却只有一千五百人，又四重壕沟，已被魏军填没了三重，城墙也被冲车撞毁了多处，形势很是危急。虎牢方面，毛德祖也领兵死守，他在城内掘地挖地道，直达魏军背后，用四百名敢死队掩袭魏军后方，焚毁攻城车具。然而，魏军毕竟势大，尽管一时溃乱，很快又重新集合，攻打得更急。
宋檀道济从彭城（今江苏徐州）率军北上。他一支人马无法兼顾司、青二州（指虎牢方面和东阳方面），两难之下，遂因青州路近，东阳兵弱，便决定先救东阳。四月初，檀道济军进至临朐（今属山东），已距东阳不远。其时，叔孙建因军中疾疫流行，病号占了半数以上，便主动烧营撤走。檀道济到了东阳，因粮食接济不上，不能追击。竺夔也因东阳城垣损坏得太厉害，就移屯至不其城（今山东青岛）。
虎牢却没有得救。闰四月下旬，它在苦战两百天后终于陷落，守将毛德祖被俘。但魏军也付出了惨重的代价，损失了十之二三的兵力。
战争结束后，宋丧失了湖陆（今山东鱼台东南）、项城（今河南沈丘南）以北的土地。然须提及的是：在虎牢失守的前夕，湖陆的檀道济军、项城的刘粹军、高桥（今地不详）的沈叔狸军都不敢救援，可见此时刘宋的力量，与刘裕北伐时相比，已经差得多了。
这年十一月，魏明元帝死，太子拓跋焘（字佛狸）嗣位，是为世祖太武帝。太武帝初年（即宋元嘉初年），魏与夏、与柔然的战争连绵不断，宋文帝利用这时机，于元嘉六年（魏神䴥二年，429年）向魏要求归还河南各地，声称否则要用武力夺取。太武帝听了，付之一笑而已。元嘉七年，宋文帝果然命到彦之率军北伐。四月，到彦之率五万之众，走水路由淮河入泗水，至七月才到须昌（今山东东平东），然后溯黄河西进。魏因碻磝、滑台、虎牢、金墉四镇兵少，主动撤出。到彦之军不费吹灰之力，便轻易收复四镇，又进屯灵昌津（在今河南延津县北）的南岸，使先头部队西进直抵潼关。宋军将士皆大欢喜，只有曾从檀道济作战的旧将王仲德不以为然，他料定魏军有计，一定是在等待冬季河上冰冻时反攻。魏崔浩更看穿到彦之的弱点：把几万人排成东西二千里的一字长蛇阵，每一处只有几千人，力量非常薄弱。
到彦之沿河布防后，就带着王仲德回东平须昌的大本营去了。到了冬天，十月，魏军渡河反攻，攻下洛阳、虎牢。十一月，宋文帝命檀道济率兵伐魏。但是到彦之失了洛阳、虎牢，先已胆怯，引军从水路撤退，到了历城（今山东济南），便烧掉船只，丢掉铠甲，徒步退往彭城。魏兵追到历城。济南太守萧承之只有几百个兵，他命部下大开城门，做出毫无戒备的样子。魏军大队人马到了城下，见了这等模样，估计必有伏兵，不敢进城而去。这是真正的空城计。后来讲三国故事的人，说不定就是从这件实事得到启发，再拿去装在诸葛孔明身上的。宋军这次冬季失败，损失惨重，府藏、武库为之一空。
檀道济略为挽回了一点颓势。元嘉八年（431年）正、二月间，他北上救滑台，进至历城，二十多天中，打了三十多仗，重创敌军。魏叔孙建用骑兵小部队袭击他的运输线，焚烧草谷。檀部缺粮，不能前进，滑台终于失守，守将朱脩之被俘。檀道济粮尽退兵，部下有人叛逃，把虚实告诉魏军，魏再发兵追击，宋军恐惧，随时可能溃散。檀道济在夜间宿营时，唱筹量沙（筹是记数字和计算的工具），把剩下来的一点米铺在沙上，装出存粮极多的模样。魏军探知，以为降兵骗人，把他杀了。道济又故作镇静，命军士披甲，自己只穿便服，坐了轿子，慢吞吞地行走。魏军见了，以为是诱敌之计，不敢再追，檀道济方得全军而归。
宋军北伐至此完全失败。这次，魏同时还在与夏交战，仍绰有余力。宋的实力比魏弱得多，是非常明显的事实。
以后宋魏之间平静无事了多年。到了宋元嘉二十六年（魏太平真君十年，449年），其时已在魏统一北方之后的好几年，宋文帝却又想要北取中原。古人说得好，“上有好者，下必有甚也者”，于是，自有那些既不知彼、又不知己的群臣纷纷献计，其中最起劲的是王玄谟。王玄谟字彦德，出身著名大族太原祁县王氏。他倒并不是少不更事之流，当时年龄已在六十以上，可就是喜欢空谈兵事。他喜欢谈，宋文帝喜欢听，听得入神时还对左右说：“听玄谟所陈，令人有封狼居胥意（汉霍去病大破匈奴军，封狼居胥山而还）。”御史中丞袁淑会拍马屁，便说：“陛下席卷赵魏之后，定要封禅泰山，臣逢千秋难得的机会，愿意写上一篇《封禅书》。”文帝听了大为高兴，似乎中原已经回到了宋朝的版图。
魏太武帝倒是给过宋文帝醒悟机会的。元嘉二十七年（魏太平真君十一年，450年），从二月到四月，魏以十万之众，对南方发动了一次规模不大的战役。魏军围攻悬瓠（今河南汝南）四十二天，守将陈宪兵不满千，杀伤敌军在一万人以上，城池始终没有陷落。然而此外好几个地方的守臣都弃城逃走。宋人多有畏魏情绪，是显而易见的事实。
宋文帝在这种情况下，还是一心一意要大举北伐。丹杨尹徐湛之、吏部尚书江湛、彭城太守王玄谟支持文帝最积极。富有军事经验的太子步兵校尉沈庆之反对得最坚决。他说步兵难以抵敌骑兵，引檀道济无功、到彦之失利的先例为证。文帝却认为两将失利，各有原因，檀道济是不肯尽力，到彦之是中途患病。今年夏季水大，河道畅通，便于用兵。沈庆之再三强调不可，文帝即命徐、江二臣和他辩论。庆之说：“治国譬如治家，种田该问家奴，织布该问婢女。现在陛下要出兵打仗，却和白面书生商议，如何办得好事情！”徐湛之是刘裕的外孙，是个生活奢华的文士，饮食服饰都极讲究，在建康很有名气。江湛家贫，生活俭约，为人公正，长于文辞。两人情况不同，然而都是文士，对军事一窍不通，所以沈庆之说他们是白面书生。文帝不认真思考沈庆之说得是否有道理，见老将军（沈庆之时年六十五岁）讲得气咻咻的样子，倒哈哈大笑，不想再同他争辩。
七月，文帝下诏大举北伐。这次的部署相当复杂，如果照旧史所载来写，反觉眼花缭乱，不容易让读者看明白，我想还是拣紧要的说得细些，次要的只说个大概，比较便于阅读。
王玄谟率沈庆之、申坦等水军入黄河，受青冀二州刺史萧斌指挥。这一路是主力，也是最东面的一路。行军路线就是元嘉七年到彦之走的路。当年因水浅，通航困难，一天只能走十里路。二十七年水量充足，航行不会发生困难，进入黄河，可以直取碻磝。
雍州刺史随王刘诞（文帝子）指挥西面的一路，使柳元景等从襄阳北上，取弘农（今河南灵宝北）。东西两路之间，大体上相当于今江苏省徐州以西到河南省中部京汉线两侧地区，另有几支向北进攻的军队，这里就不逐个讲它了。
这次北伐需要庞大的人力、财力，人民负担很重，已见上篇。
北伐开头似乎很顺利。魏碻磝、乐安（今山东博兴东北）守将都弃城而走。萧斌留沈庆之守碻磝，使王玄谟进兵围滑台。这支军队兵力充足，器械精良，但王玄谟是个庸才，误了大事。滑台城中，茅屋极多。部将建议用火箭，他怕烧了房屋，破城后缴获不到多少东西，不肯使用。城中发觉了自己的弱点后，就自行拆掉了茅屋。中原人民见宋军来到，自行纠合，带了武器来投军，每天都有上千人。王玄谟不用义兵的首领，把义兵队伍拆散了分配给自己的亲信，还要他们每家缴纳一匹布、八百只大梨。中原人民大失所望。他围攻滑台几个月，还打不下来。九月，天气转凉，魏太武帝亲自领兵南下救滑台。王玄谟军的先锋将垣护之驻兵滑台西南一百二十里的石济（今河南延津县东北），得到魏救兵将到的消息，急报王玄谟，劝他不惜代价，赶快拿下滑台。王玄谟大营里的众将也劝他赶紧建立车营，以作防御。王玄谟却一概不听。十月，魏太武帝到达枋头（今河南浚县西南，即石济对岸），先派几个人利用夜色掩护，潜入滑台，安慰守军，并登城观察宋军营垒，然后回营报告。太武帝得报后，随即引兵渡河，来救滑台。魏军号称百万之众，击鼓之声震动天地。王玄谟急得六神无主，仓皇之中，只说得一个“走”字，顿时全军溃散。魏军追击，杀死将士一万余人，缴获的军资器械堆积如山。王玄谟走后，魏军把缴获的船用三道铁锁联结起来，封锁河面，截断垣部退路。垣护之利用水大流急，行动迅速，每到铁锁面前，命兵士用长柄斧劈断通过。魏兵无法拦阻。他带的一百条船，只损失了一条，其余都安全撤回。
萧斌得到兵败消息，派沈庆之带五千人去救王玄谟。沈庆之说：“玄谟所部已经疲劳，不堪战斗，敌军已近，没有几万人无法迎敌，派小部队去没有丝毫用处。”萧斌坚持要他去救，争执之间，王玄谟已经逃到碻磝。萧斌发火，要斩玄谟，沈庆之又劝他不必，说：“佛狸威震天下，岂是王玄谟所能抵敌，而且临阵斩将，绝不是好办法。”萧斌听谏，王玄谟才得保全性命。
萧斌想坚守碻磝。沈庆之又劝他不要坐守穷城，以免蹈朱脩之守滑台的覆辙。萧斌想要依他，朝廷使者又到，传达文帝不准退兵的命令。萧斌再和众将商议。沈庆之说：“将在外，君命有所不受。将军有一个范增而不能用，空谈有何益处！”众将知道这个老头子是个文盲，见他引证史事，都笑起来说：“沈公现在大有学问！”庆之厉声答道：“列位虽则通晓古今，其实还不如下官靠耳朵听来的有用！”萧斌接受他的意见，只留王玄谟守碻磝，申坦、垣护之扼守清口（在今山东梁山县东南，参见第十九篇桓温北伐时事），自己率军还历城，以防魏军东进青州。后来因碻磝的位置过于突出，无法防守，又命王玄谟撤出。
笔者再掉转笔头来写西面的战事。
雍州诸将打得有声有色，比王玄谟强多了。有个七十多岁的老将庞季明，出身关中土豪，他主动提出到关中去发动各族人民起兵。他从襄阳北上，穿过今豫西山区到卢氏县（今属河南）。卢氏人赵难起兵响应。薛安都等军利用这条件，通过卢氏以东的熊耳山北上，柳元景等军跟踪前进。闰十月，柳元景、庞法起等都到了卢氏。接着，庞法起等进兵攻克弘农，留薛安都守弘农，法起等进攻潼关。十一月，诸军攻陕城（今河南陕县西南），与魏援军激战。薛安都是员猛将，他打得性起，丢掉头盔，脱去铠甲，马也去掉护身的具装，怒目挺矛，单骑冲杀。矛断了，换一根再打。两军恶战两天，宋军大胜，斩援军主将洛州刺史张是连提等三千余人，俘降二千余人。柳元景到后，宣布：“今王旗北指，当使仁声先路。”把俘降的兵士全部释放。宋军随即攻克陕城，又攻克潼关。关中豪杰闻风而起，山区的羌、胡各族也派人与宋军接洽，愿意归降。在西路军的东面，宋梁坦、刘康祖等也攻克长社（今河南长葛东），进逼虎牢，他们也打得很不错。然而王玄谟败了，魏兵南下，宋文帝认为柳元景等不宜单独进军，下诏班师。他们只得放弃所得各地，退回襄阳。
北伐失败了。魏太武帝大举南侵。
魏军分成好几路，其中永昌王拓跋仁的一路从洛阳向寿阳进军，很快就攻占悬瓠、项城。宋文帝怕寿阳有失，赶紧召刘康祖军回寿阳。刘康祖军只有八千人，走到离寿阳只有几十里的尉武（在今安徽寿县西），被拓跋仁军追上。拓跋仁有八万骑兵，人数为十与一之比，又有以骑兵对步兵的优势。刘康祖的副将胡盛之主张绕道，走山路回寿阳。康祖不肯，还结车营前进，并下令：“回头看的斩首，改变走路方向的斩脚。”魏军追到，四面围攻。刘部殊死苦战，杀敌一万余人，康祖身受十伤，仍坚持战斗。魏军人多，一分为三，轮番作战。战斗打了整整一天，最后，康祖颈部中箭，落马而死。其余部溃散，几乎全被魏军所杀。这是异常惨烈的一战。拓跋仁军进抵寿阳，宋豫州刺史南平王刘铄（文帝子）关上城门，不敢出战。魏兵也只在周围各地烧杀掳掠。
魏太武帝亲自统率的主力军进迫彭城（今江苏徐州）。宋江夏王刘义恭（文帝弟）、武陵王刘骏（文帝子，即后来的孝武帝）都在城里。刘义恭听见魏兵将到，想弃城逃走。长史张畅说一动脚军民便各自逃散，决不可行。刘骏也说叔父要走，只能听便，自己决心与此城共存亡。义恭才息了逃走一念。
魏军打彭城，久攻不下，太武帝便主动歇手，于十二月初，引兵南下。宋文帝命臧质领兵一万人救彭城。他到盱眙（今江苏盱眙东北）时，魏军已经渡过了淮河，两军相遇，他这一万人怎能抵敌北魏大军，一交战即被歼灭，臧质只带了残部七百人进得盱眙城。盱眙太守沈璞是个有主见的人。王玄谟在滑台时，他就修缮城垣，浚深壕沟，积储粮食矢石。魏兵南下时，地方官多弃城逃走。有人劝他回建康，他却说：“敌人如果以为城小犯不着攻，当然不须忧虑，如果来攻，这是我报国之秋，诸君立封侯之功的机会，为什么要走？诸君见过几十万人聚在小城之下而不败的事例吗？昆阳（刘秀破王莽军）、合肥（张辽破孙权军）的战例可为明证。”大家听了这一席话，情绪才比较稳定。他集结了两千精兵，臧质来后，力量更加充实。臧质见城中粮食器械都很充足，大喜过望，便和沈璞同心协力，守卫城池。
魏太武帝果然不攻盱眙，只留几千人马监视，自引大军继续南下。十二月十五日，到达瓜步（今江苏六合东南，当时在江边），他下令拆民房，结筏子，扬言要渡长江。建康顿时陷入空前紧张的状态，在丹杨尹管辖区域内征发全部丁男，王公以下的子弟一律不得免役，自采石（今安徽当涂）至暨阳（今江苏江阴），沿江水陆布防。宋文帝登石头城，对江湛叹道：“檀道济若在，怎么会使胡马到此！”
半个月很快过去了。元嘉二十八年正月初二，魏军烧毁房屋撤走，居民也尽被掳去。
魏军转回到盱眙，太武帝向臧质索取美酒，臧质封了一瓶人尿给他。太武帝大怒，下令攻城。魏军从附近的山上运来泥土石块填塞壕沟，造浮桥截断水陆通道。太武帝为了泄怒，不惜断送大量兵士的生命，他在威吓臧质的信中说：“我用的兵不全是我国人（按指鲜卑人），城东北是丁零人和匈奴人，南面是氐和羌。丁零人死了，正可减常山、赵郡贼；匈奴人死了，可减并州贼；氐、羌人死了，可减关中贼。你杀他们，对我并无不利！”臧质绝不示弱，回信痛骂，并把朝廷所出赏格写给他看，内容是：“斩佛狸首，封万户侯，赐布、绢各一万匹。”
魏太武帝更怒，令将士猛攻。魏军用钩车把钩子抛到城上，钩住城楼，想把它扳倒。守军用又粗又长的绳子缚住钩子，几百人用力把它往里面拉。钩车扳不倒城楼，也无法后退。到了晚上，守军用绳子把木桶吊将下去，桶内藏人，到了下面，截断钩上的索子，让钩子落到城里。绳子一拉，藏人的木桶又到了城上。魏军又用冲车撞城。因城墙的垒土夯得坚实，撞击的力量虽大，每一下只能撞落不多一点土。魏军不惜代价，驱使兵士攀登城墙，把死人的尸体当台阶，到了后来，尸体堆积得同城墙一般高低。到正月底，差不多一个月了，还是打不下来。太武帝说得嘴硬，不怕死人，但是死伤越来越多，病号也越来越多，加之彭城还在宋军手里，他不能不担心。二月初一，他下令烧掉攻城器械，解围撤走。盱眙保卫战是宋军大获全胜的战役。
魏军经过彭城时，刘义恭不敢出击。等到建康使者赶到，送交追击的命令，魏军已经觉察，把走得慢的掳来的一万多人杀掉后，长驱而去。彭城的追兵白赶一阵，连敌兵的影子也没有见到。
战争完全结束了。刘宋军民死伤被掳的不知有多少，魏军的人马也损失了一半以上，南朝和北朝其实都是输家。然而，南北对比，南朝愈弱也是不可否认的事实。南宋词人辛弃疾的名句“元嘉草草，封狼居胥，赢得仓皇北顾”（《永遇乐·京口北固亭怀古》），说的正是这段史事。