刘牢之有太多与吕布相同的地方，同样是身处乱世的猛将，同样掌握着一支闻名天下的军队，同样二度叛主，同样死于无处安放的野心。但比起吕布，刘牢之的却要更好运一些，他有着将门世家的出身，有忠心自己且才能出众的儿子，有着平步青云的仕途，但很可惜，他最终没有像一名武将一样死在战场上。
一、战祸将临，投身北府
东晋孝武帝太元二年（377年），志在“混六合以一家，同有形于赤子”的前秦天王苻坚成功统一中国北方，只剩下据有江南地区的东晋，打败它便可成为正在的中原正统，于是苻坚挥师百万南下，决意一战功毕，东晋王朝受到空前的军事压力，因此诏求良将镇御北方。
为了拱卫皇室，当时辅政的重臣谢安任人不避亲，推荐了自己的亲侄子谢玄镇守广陵，这个任命就连互为政敌的中书侍郎郗超都不得不心服口服，“安违众举亲，明也。玄必不负举，才也”。谢玄在日后果然不负重托，带领北府军挫败了前秦的进攻，为东晋王朝又续上一口气。
北府军草创时由徐、青、兖三州流民组成，这些流民大都因为失去北方的故土又无力继续南下，只得盘踞在京口、广陵等地，组建匆忙不说，一无精良装备，二无正规训练。但作为最早加入北府军的成员，刘牢之并非和大多数南下的流民一样为了活命而加入军队，将门出身的他更渴望的是战功和封侯拜将的机会，这注定了他将来会被卷入门阀的倾轧之中。
刘牢之能迅速崛起，被谢玄看着并任命为参军，还能率领精锐部队作前锋，靠的便是自己在老家的家世背景和勇猛的作战能力，但这并不代表刘牢之没有实力。太元三年（378），前秦宣昭帝苻坚派长乐公苻丕等人南下，先后攻破襄阳、彭城、盱眙，朝廷为之震动，谢玄带领北府军救援，在正面击败前秦军的同时，刘牢之率军夺取前秦军的辎重及运输船只，最终夺得大胜。
二、世间瞩目，淝水大捷
一次小小的失败并未让苻坚失去信心，这一次他带领百万大军再度南下，太元八年（383），苻坚之弟苻融及猛将张蚝攻陷寿阳，苻坚部将梁成又率五万兵马进驻洛涧，意图占据前线脚跟，苻融甚至写信给苻坚让他迅速出兵，于是苻坚秘密自率八千轻骑直抵寿阳。
而东晋的军队拼凑在一起也仅有八万，这一场双方兵力极度不平等，东晋这一战要是输了可真就要亡国了，但无论是谢玄还是刘牢之，皆未有惧色，刘牢之率五千精锐夜袭洛涧，揭开了淝水大战的序幕，他临斩梁成并几乎全歼前秦先头部队，晋军为之一振，刘牢之的大名响彻东晋与前秦的军中。
此前降于前秦的梁州刺史朱序被苻坚任命前来劝降谢玄等人，不料朱序只是假意投降，他向谢玄高密所谓前秦百万大军大都还在集结中，力劝谢玄与苻坚进行决战，于是谢玄写信邀请苻坚决战，请求先放晋军渡过淝水，苻坚本想采取“半渡而击之”的战术而令自己的军队稍稍后撤，没想到朱序等人又在前秦军中散布前军战败的谣言，导致阵脚大乱，连苻坚也中流矢受伤，单骑败走。
淝水之战以晋军的全面胜利告终，刘牢之挟大胜之余威，率领北府军北伐，一度打到了长乐公苻丕镇守的邺城。苻丕在邺城并不好过，父亲苻坚在前线战败不知所踪，父亲非常信任的慕容垂反了，自己势穷粮竭，只得向谢玄求援。但苻丕并未向东晋臣服，察觉到这一点的刘牢之打算等双方耗惨后自己再出兵来个双杀。
三、沉浮之间，背主求荣
但刘牢之小觑了天下英杰，被他看不上的苻丕困兽犹斗，甚至差点反杀慕容垂；而屡战不克的慕容垂抓住晋、秦不合，假意逃跑留下辎重，在北府军因为抢夺乱作一团时杀出，刘牢之仅以身免，若非苻丕接纳，他可能就此死在了战场上，但他也因为此败被召回。
从此刻开始，刘牢之与北府军的命运发生了改变，淝水之战最大的两位功臣也是北府军的靠山：谢安、谢玄先后去世，晋孝武帝用皇后之兄王恭执掌北府军。但刚经历了外患后的东晋又迎来内忧，晋孝武帝与自己的弟弟司马道子相争，他们先是推出同属太原王氏的王恭与王国宝打擂台，后面更是双方亲自下场，可惜晋孝武帝因为酒后失言被杀，司马道子这一派得以掌握朝政。
王恭清操过人，但过于自傲，看不起刘牢之，尤其是在他用一篇檄文使得司马道子杀了王国宝后，王恭自认为有功于天下而更加傲慢，而刘牢之自负有才，心中怨恨。隆安二年（398年），王恭二度起兵，刘牢之劝说无果后，暗地接受司马道子之子司马元显的许诺，临阵倒戈害死了王恭。
司马元显信守承诺，将王恭的一切权势给了刘牢之，由他接管兖、青、冀、幽、并、徐、扬七州及晋陵的军务，但刘牢之一下子却成了众矢之的，桓玄、杨佺期等皆不服，不过有司马元显的信任和北府军这支强军，刘牢之还是维持住了自己新得手的权势。
四、一人三反，世所共疑
司马元显志气果锐，“有明帝神武之风”，他一上台就想重振司马帝室，然而好心却办错了事，先是引发了孙恩之乱，后又因轻率讨伐桓玄而殒命。司马元显的死也是因为刘牢之的背叛，但也不仅仅是因为刘牢之，他在明知桓玄势大谋划诛杀桓玄，却不懂保密导致桓玄早有准备；他轻信刘牢之不会背叛自己，亦未迅速出击占据先机，导致桓玄势如破竹打入京城，自己事败身死。
至于刘牢之为什么不愿讨伐桓玄，是因为这件事对他可没有好处，桓玄有盛名，如今又全据荆州，打不打得过都难说，他早已不是那个敢以五千精锐直冲数倍于己的北府军先锋了；况且就算打过了，桓玄死后司马元显还会忍受有威胁的自己吗？在桓玄的使者来劝降时，刘牢之再三思索后选择了再度背叛。
和贪恋权势的父亲不同，刘敬宣力劝父亲不要向桓玄投降，认为若是迎桓玄入京将后患无穷，“董卓之变，将生于今”，但刘牢之不听。后来果然如刘敬宣所担忧的那样，桓玄在杀了司马道子、司马元显后，就立刻将刘牢之调离京口，打算夺去其对北府军的掌握。
眼见桓玄过河拆桥，刘牢之召集部下想再度起兵，怎料参军刘袭一番话让他心灰意冷，“事不可者，莫大于反，而将军往年反王恭，近日反司马元显，今复欲反桓玄。一人而三反，岂得立也。”此话一出，北府军皆离刘牢之而去，失去立身之本的刘牢之无路可退，上吊自尽。
人无信不立，刘牢之二度叛主，导致自己信义全失，最终殒命，但他的死亡并不是简简单单一句“背叛”和“报应”就能说清的，东晋政堂上的门阀倾轧，刘牢之本可以靠着北府军扭转改变的，但他只是作为一把尖刀，先后被陈郡谢氏、太原王氏、司马皇族把握，以至于他似乎什么都没做便败于政治。
