晋朝的时候，胡人已杂居中原内地了，而且有许多胡人在中国受了官职，建立过不少的功业。大约在汉族强盛的时候，胡人是很归顺的，一到汉族不振作时，胡人便崛（jué）强起来。晋朝自八王之乱，国内纷扰，成了胡人兴起的好机会。这时胡人最大的有五种：一叫匈奴，一叫羯（jié），一叫羌（qiāng），一叫氐（dī），一叫鲜卑。这五胡把一个晋朝扰乱得破裂不堪，就是史家所称的“五胡乱晋”。
五胡乱晋的第一声，就是匈奴人刘渊的称帝。刘渊本是匈奴冒顿的后裔，因为汉高祖和匈奴和亲，把宗女给冒顿做妻子，后来冒顿的子孙，就跟着母姓也姓刘氏。刘渊在晋朝时，已居住到山西的汾河边地了，做过晋朝将军的官职，受过封侯的爵位。八王之乱时，成都王颖劫了惠帝，被各方义兵打得大败，成都王颖便命了刘渊去召集各方的义兵。刘渊不到两三天的光景，就集合了五万多兵，他便对人说道：“做帝王的，岂是天定的吗？我不当做一个汉高祖，也应当做一个魏武帝（曹操）。并且汉朝的恩德很厚，我是汉朝的外甥，从前约了结为兄弟的，我应当继续兄的帝业来做皇帝。”就据了河东，攻破平阳、蒲阪（bǎn），建都于平阳，自称皇帝，国号叫汉。到他的儿子刘聪接着为帝时，发兵攻破晋朝的国都洛阳，把晋怀帝活捉回去了。回军之后，大宴群臣，逼着晋怀帝穿了奴仆的青衣，执壶行酒，把中国的皇帝，当做奴仆看待。后来又攻破了长安，把晋愍帝又活捉回去了。晋朝的天下，到此要算灭亡了，等到司马睿在建业称帝，保持晋朝的名号，不过只保守了江南一角，中原的势力，统归胡人了。后来刘渊的族子刘曜（yào）接着为帝，改国号叫赵，不久，刘曜被羯人石勒所灭。
石勒本是羯种人，起初做一个部落的小帅，很不为人所齿，后来被晋朝的官吏捉了，带至山东地方，卖给人家为奴。石勒在做奴隶的时候，因善相马，便交结了一位牧马的牧帅。成都王颖召集义兵时，石勒和那牧帅带了几百匹马，投到成都王的部下，就做了一个都尉的官职。后来又投到刘渊的部下，刘渊封他做将军，便带兵去攻打晋朝，很是骁勇，打了许多胜仗，权势就大起来了。等到刘曜接着为帝时，他便夺取平阳，把刘曜赶走，自己称为皇帝，国号叫赵。
石勒死后，本是传位于他的儿子大雅，但是石勒有一个侄儿，名叫石虎，自小就为石勒养着，生性残忍，少时专好田猎，开弓射箭，无论左右手都是很熟惯的，遇着他发怒时，拿了弹子打人，立刻可以打死，石勒很恶厌他的残暴，本想杀了，以除祸患。石勒的母亲说道：“快牛做犊（dú）子的时候，常要弄破车子的，现在稍为忍耐，日后可有用处呢。”等到石虎长成，果然骁（xiāo）勇异常，攻城陷阵，没有人能敌得他过，但是最好杀人，凡经他攻破的地方，不论好歹，杀得满坑满谷，对待兵士，也异常严酷，动辄（zhé）砍头，所以军纪很严，他的军队也就所向无敌了，石勒便倚赖他做军事的人才，大加宠爱。到石勒死了，大雅继续为帝时，石虎心中不服，以为赵家的天下，是由他征伐得来的，便把大雅杀了，自己称为皇帝。后人说石勒真是“养虎留祸”。
石虎做皇帝不久便死了，他的儿子继位，被汉族人冉（rǎn）闵所灭。冉闵灭了赵国，改国号叫魏，大杀胡羯人，但是不久又被鲜卑族慕容氏灭了。
慕容氏为鲜卑种，先是住在辽东地方，到慕容皝（huàng）时，便强大起来，打败了高句丽，兼并了许多地方，国势很盛。听得中原的石氏，内政很乱，就兴兵入关；这时石氏已被冉闵所灭，慕容皝就攻破了冉闵，自称皇帝，国号叫燕。他的疆域，占了河北、山东、山西、辽宁几省的一部分，后来被秦苻坚所灭。
这时汉族人占得北方势力的，除冉闵以外，还有张重华。张氏本是从前在晋朝做凉州刺史的，自晋朝迁到江南以后，张氏仍然保持他在凉州的势力，和一些胡人对抗，后来他竟自称凉王。他的疆域，包有甘肃、新疆、宁夏几省的一部分，不久，也被秦苻坚灭了。
苻氏本是氐种，他的先祖是历来在西戎做酋长的，到匈奴人刘渊扰乱中国时，苻氏也入了中原，投到刘渊的部下，后来又投到石勒的部下，做过将军的官职，很得石勒的信任。苻氏既有了兵众，就攻取了长安，据了关中，自称皇帝，国号叫秦。传到苻坚继位，把国家的内政，大加整理，用了汉族人王猛做丞相，很是信任，苻坚常说道：“我得了王猛，好比刘备得了诸葛亮。”一切朝政，尽由王猛治理。氐种人樊世在苻氏是很有功劳的，见了王猛用事，很是妒忌，曾当着众人辱骂了王猛几次，苻坚知道了，即刻把樊世杀了，由是朝里公卿没有一个不惮（dàn）服王猛的；王猛得着这样的信任，也就竭力尽忠，把秦国的政事，治理得很好。
在一班胡人扰乱中国据了中原的时候，他们本不知道政治的，只知道田猎游牧，杀人打仗，是他们的惯技，所以他们虽然立国称帝，不久就起争杀，至于灭亡。只有苻坚知道注重内政，用了王猛，借重汉族的文明，来治理国事，由是苻秦的国势很振兴了，灭了慕容氏，吞并了凉国，中国北方尽归苻秦统一了。
苻坚既然统一了北方，就想吞并江南的晋室，统一中国，于是发兵百万，东西万里，水陆并进，自夸兵士众多，说是丢了马鞭可以塞断河流，以为一定可以把弱小的东晋，即刻灭掉。
这时候晋朝用了谢安做宰相，听得秦兵众多，也很惊恐，就命了谢石、谢玄领兵八万前去御敌。谢安是一个儒雅风流从容不迫的人，谢玄领兵出发的时候，向谢安去问退敌的计划，谢安的态度很冷静，和没事人一般，还邀了谢玄去游山水，又要和他下棋，谢玄不敢违拗（ào），本来下棋的程度是谢安不及谢玄的，这次谢玄因为边境紧急，哪里有下棋的心思，便输却一盘。
晋兵出发和秦兵相遇的地方，正隔着一条淝（féi）水，两方都靠着河岸摆成阵势，没有一个敢先渡河。谢石使人对苻坚说道：“你们自远方领兵前来，这样靠水列阵，是持久之计，怎能打仗呢？不若你们稍为退却，使我们得渡过河来，和你们决一胜负，岂不好吗？”苻坚就令兵士后退，想乘晋兵渡了一半的时候，大举前攻，不料退兵的号令一下，兵士以为打了败仗，便拼命地后退，不能制止，晋兵渡过河来，奋勇追杀，把苻坚的兵打得大败，苻坚也被流矢所中，狼狈退回，路旁听得风吹声和鹤唳（lì）声，都以为是晋兵追赶来了，苻坚的百万军队尽行溃散。
晋兵既得了胜，谢安接到了报捷的信，这时谢安正在和人下棋，看完了信之后，没有一点喜色，等到棋局终了，客问：“有什么消息？”谢安慢慢地回答道：“小儿辈已经破贼了。”但是回到室内的时候，因喜得忘了神，把所着木屐（jī）的齿，被户限撞断了。所以有人说：“谢安表面上装出镇静的模样，其实心里未尝不急呢。”
中国北方自苻秦在淝水一战失败后，局势大变，从前为苻秦所兼并的都乘势恢复起来，苻秦就一蹶（jué）不振，到苻坚死后，被部下乞伏国仁所灭了。
乞伏国仁是鲜卑种，原做苻秦的将官，淝水之战后，就据了陇西，自立为王，国号也叫秦，称为西秦。慕容皝的儿子慕容垂，也在苻坚部下为将官，淝水战后，据了中山（今河北省定县），恢复燕国，自称燕王。还有氐种人吕光，据了前凉的地方，又自称凉王。后来羌种人姚苌（cháng）灭了后凉、西秦，自称秦王，叫做后秦。又有匈奴人沮渠（qú）蒙逊据了甘肃的一部，自称北凉。
淝水战后，新兴的国家，前仆（pū）后继，约有十多国，中国北方又入了胡人相扰的混乱状态中，经过数十年的光景，才有鲜卑种拓跋（bá）氏把北方诸国统一，和南朝的汉族对峙。
拓跋氏起先也是一个部落，到拓跋珪（guī）的时候，征服了代北诸部落，自称代王，国号叫魏，后来灭了后燕，破了西秦，降了北凉，把中国北方统一了，自称为皇帝。中同南北朝的局面，魏就是北朝的代表。北魏的孝文帝很注意政治，仰慕汉族的文明，把都城迁到洛阳，废止胡人的言语，仿行汉族的姓氏，禁着胡人的衣服，一切制度尽采用汉族的，大兴学校，胡人的子弟一律受汉族的教育，奖励胡汉人互通婚姻，从此胡人便和汉族同化了。所以胡人虽然扰乱中国百余年，汉族没有吃一点亏，反把胡人同化了，这是汉族文化的力量。