在古代出身家奴后来被拜为将军的人以西汉时期的大将军卫青最为知名，然而在唐朝也有一人的出身和卫青相同，他在唐朝立国前后曾建立了不少战功，后来受到了唐高祖李渊和唐太宗李世民的礼遇。这个人就是唐高祖李渊的女儿平阳公主的家奴马三宝。
《旧唐书 平阳公主传》记载：“义兵将起，公主与绍并在长安，遣使密召之。”原来李渊打算在太原起兵反隋，而当时他的女儿也就是后来的平阳公主和女婿柴绍在长安居住，所以在起兵之前李渊曾派人去秘密召回平阳公主和柴绍。而柴绍见到李渊的使者后却担心全家突然从长安搬回太原去会引起隋朝朝廷的怀疑，而他独自前去和李渊会合而丢下家眷又担心他们会被加害。平阳公主得知柴绍的顾虑之后力劝自己的丈夫前去太原和自己的父亲会合，而她则自有打算。
柴绍听了平阳公主的话偷偷的离开了长安前往了太原。在柴绍走后平阳公主尽散家财招募了数百勇士准备在长安响应李渊起兵。然而仅仅靠着区区数百人和当时长安守备的隋朝军队对抗显然是不可能的，为了能和隋朝军队抗衡那势必就要扩大军队的规模。随后平阳公主通过兼并长安附近的盗贼组建了一支战斗力可观的军队，这支军队由于是平阳公主创立因此当时人们也称呼其为“娘子军”，而“娘子军”的筹建和平阳公主的家奴马三宝是有密切的关系的。
柴绍离开长安后，平阳公主散尽家财也仅仅招募了区区数百人。当时为了扩大义军规模平阳公主便派马三宝去说服占据司竹园的盗贼首领何潘仁。在马三宝的说服之下何潘仁带着自己的部下归附了平阳公主，当时长安附近的盗贼李仲文、向善志、丘师利等各拥兵数千占据一方，这些人也都成功被马三宝说服归附了平阳公主。《新唐书-卷八十八》记载：“潘仁入谒，以百兵为主卫。三宝自称总管，抚接群盗，兵至数万。”
在马三宝的协助之下平阳公主一下成了拥兵数万的军阀，其实力膨胀之迅速引起了隋朝朝廷的注意。《旧唐书》记载：“时京师留守频遣军讨公主，三宝、潘仁屡挫其锋。”当时长安留守的隋朝军队曾多次征讨平阳公主，但是却每次都败在了马三宝和何潘仁的手上。后来马三宝又协助平阳公主攻克了盩厔、武功、始平三郡此时平阳公主的部队发展到了七万人。后来马三宝追随平阳公主参与了唐军围困长安的战役，长安攻破后唐高祖李渊加封马三宝为太子监门率。
长安平定之后马三宝因为参加了平定西秦薛仁杲的战役立下战功被加封为了左骁卫将军。之后他在自己的故主柴绍帐下效力与吐谷浑大战于岷州，两军交战时马三宝冲锋陷阵不避强敌斩杀了吐谷浑名王并且抓获了数千战俘。后来唐高祖李渊巡视竹林园的时候对马三宝说道：“这里就是你们曾今起兵的地方吗?看来卫青生活的地方很不错啊！”（尝从幸司竹，高祖顾谓三宝曰："是汝建英雄之处，卫青大不恶！"）唐朝朝廷累计马三宝的战功，又将其提升为了左骁卫大将军。唐太宗李世民即位三年后马三宝病逝，李世民特意为他废朝一日。
