在司马家族统一三国后，中国重新出现短暂的大一统局面。但是好景不长，西晋由于八王之乱及其它的内忧外患，很快就灭亡。于是中国的北方就成为了匈奴、鲜卑、羯、氐、羌等少数民族的乐园，生活在中国北方的汉人饱受欺凌和杀戮。特别是在由奴隶出身的石勒建立起的后赵所生活的汉人，生活更是水深火热，苦不堪言。
石勒（273—333），字世龙，羯族，上党武乡（今山西榆社）人。十四岁时，跟随同乡去洛阳做买卖，不幸被乱军捉去，最后被卖到被卖到茌平（山东茌平县）的财主师欢家为奴。师欢家临近牧场，由于石勒祖上靠放牧为生，所以石勒对如何养马很有经验，所以就结识当地的牧民首领汲桑。
晋怀帝永嘉元年(307)，汲桑发动起义，自称大将军，以石勒为扫虏将军，攻打郡县，释放囚徒，攻占邺城(今河北临漳西南)，杀新蔡王司马腾。汲桑死后，石勒投靠了前赵的刘渊被任命为辅汉将军，封平晋王。
前赵是由匈奴人刘渊建立的国家，在刘渊的扶持下，石勒很快完成自己军队实力的积累。到刘渊去世时，石勒已经成为了前赵首屈一指的人物了。而此时的前赵在刘渊死后，陷入了皇位之争，这样就给了石勒有机可乘的机会。公元330年，石勒正式登基称帝，建立后赵。历经近30年的时间，石勒终于完成了由奴隶向皇帝的华丽转变。
由于羯人等少数民族所信奉的是“弱肉强食”的自然法则，所以他们对弱者从不会怜悯。五胡十六国时期，在中国北方屠城之事时有发生。在《晋书·列传第二十九》中记载：“石勒追击襄阳王，于苦县宁平城下激战，将军钱端出兵拒勒，军溃战死。石勒命军士屠城，“于是数十万众，勒以骑围而射之，相践如山，王公士庶死者十余万，王弥弟璋焚其余众，并食之。”石勒羯族军队在苦县一口气屠杀了十余万已经放弃抵抗的汉族士兵和无辜百姓，还让部下王璋把剩余的人全部烧熟烤食。
在石勒死后，石勒的侄子石虎成为了后赵实际的掌权人。紧接着，石虎杀石勒的儿子石弘篡夺了后赵的帝位。成为皇帝后的石虎，其暴行与石勒相比，有过之无不及。在他当政期间，汉人的性命沦为草芥。羯族军队在行军打仗时，因军粮短缺，常常会掳掠汉族女子作为军粮，羯族称汉族女子为“双脚羊”。夜间奸淫，白天则宰杀烹食。冉闵灭后赵政权后，一次解放被掳掠的汉族女子达二十万，其中有五万多少女无家可归。
正是由于石虎的暴行，激起了汉人的激烈反抗。特别是在武悼天王冉闵发布了《屠胡令》之后，汉人纷纷起来响应，在武悼天王冉闵在率领下，羯人基本上被屠杀殆尽。经此之后，羯族已经从历史上消失。
