就在马谡兵败街亭的当年12月，诸葛亮决定再次出兵北伐， 他之所以选择这个时间段第二次兵出祁山，与当时曹魏军事形势的变化有直接关系。
原来，太和二年（228年）5月间，吴主孙权授意鄱阳太守周舫写信给魏朝扬州牧曹休，骗他说自己得罪了吴主，欲献郡降魏，请曹休率军接应。曹休不疑有诈，信以为真，欣然率步骑10万南下寻阳（古地名，在今江西九江附近），以接应周舫叛吴降魏。
魏明帝曹叡派大将军司马懿率军由宛城（今河南南阳）向荆州江陵进发，派豫州刺史贾逵率军由西阳县向濡须口之东关进发，从两路配合曹休。
8月，孙权亲自到皖口督军，派陆逊指挥诸军在石亭猛攻曹休大军，大破之，斩首万余，掳获牛马车乘万辆，缴获的军资器械堆积如山。“休果信鲂，帅步骑十万，辎重满道，径来入皖。鲂亦合众，随陆逊横截休，休幅裂瓦解，斩获万计。”多亏贾逵率部拼死救援，曹休才侥幸得以生还，不久即背上生痈（炎性皮脂瘤）而死。
魏国在曹休惨败石亭后，领教了孙权的厉害，为了加强东线的防御力量，与孙吴抗衡，便将西线的兵力大量抽调至东线的淮南一带，以至关中空虚。
正是这种情况，诸葛亮这才抓住机会迫不及待地兵出祁山，进行第二次北伐的。
得知诸葛亮的企图后，曹魏大司马曹真判断，诸葛亮鉴于第一次街亭、祁山之败，这次不会重走老路，“后出必从陈仓”，以切断关中与陇西的联系，于是未雨绸缪，派镇西将军（杂号将军）郝昭等人在陈仓筑城挖壕以固守，严阵以待。
此次北伐，诸葛亮果然没走祁山老路，而是挥军经故道（金牛道），出大散关（宝鸡市南郊，秦岭北麓），直逼陈仓（今宝鸡东）。数万蜀军很快便包围了陈仓，但诸葛亮一开始并未督军发起强攻，而是派魏军守将郝昭的太原同乡靳详（任蜀军军使 ）在城外遥劝他献关投降。
郝昭虽然骁勇善战，但在名将辈出的魏国只是一个杂号将军，却对曹魏忠心耿耿。面对小老乡靳详的劝诱，他不为所动，在城楼上朗声答道：“魏国律法，君所熟悉，吾之为人，君所深知。吾受国恩多而门户重，只知死守城池。君勿再言，请还告诸葛亮，便可攻城。”
靳详无奈，只得怏怏退去。他把郝昭的话原封不动地传给诸葛亮，诸葛亮并未恼怒，而是又派靳详再去城下劝降。“详以昭语告亮，亮又使详重说昭，言人兵不敌，无为空自破灭。昭谓详曰：‘前言已定矣。我识卿耳，箭不识也。’详乃去。”
诸葛亮见劝降不成，自以为拥军数万，而守陈仓的魏军仅千余人，一举荡平应非难事，他还预估魏军从东线发来救兵短时间无法赶至，遂下令攻城。诸葛亮用尽了各种攻城办法，郝昭也相应地使尽了各种守城之术。蜀军架云梯、用冲车以破城；郝昭则督率守军用裹着油布的火箭猛射云梯，用抛绳连着石磨击砸冲车。诸葛亮又令将士架设高百尺的木城（架）俯射城上守军，担土填平壕沟；郝昭就指挥守城军民“于内筑重墙”，给城防加上“双重保险”。诸葛亮令蜀军在城外挖地道，欲穿城而入；郝昭就在城内挖掘横向深沟，使蜀军无法得逞。
蜀军经20个昼夜的轮番进攻，魏军以一当十，顽强抵抗，重创蜀军，城下遗尸累累，热血横流，诸葛亮方法用尽，却未取得明显的进展。
魏大司马曹真得知诸葛亮挥军猛攻陈仓，急令将军韦耀等率军救援。 与此同时，魏明帝曹叡也派袭夺街亭、“虎步关右”的名将张郃率部驰援陈仓。张郃在街亭之战中大破马谡、逼退诸葛亮后，本来奉命驻守关中，后因曹休在石亭被陆逊攻破，他便被迁调到东线镇守方城（今南阳市方城县）。
张郃以谋勇兼具著称，常能料敌如神。当张郃奉命率部从方城赴援陈仓路经洛阳时 ，魏明帝特意召见他，询问道：“迟将军到，亮得无已得陈仓乎！”张郃很清楚蜀军孤军远出，因山遥水远，军粮转运不便，必定很难持久，便答道：“比臣未到，亮已走矣；屈指计亮粮不至十日。”话毕，张郃拜辞明帝，率军马不停蹄，昼夜兼程，衔枚西进。
果不出张郃所料，诸葛亮久攻陈仓而不下，而军粮即将吃尽，又打探到曹魏援军正源源不断开过来，只得撤围而还。
见蜀军后撤，魏将王双立功心切，率骑兵跟在蜀军后面紧追不舍。《三国志・蜀书・诸葛亮传》记载：“冬，亮复出散关，围陈仓，曹真拒之，亮粮尽而还。魏将王双率骑追亮，亮与战，破之，斩双。”
魏将王双率骁骑追赶诸葛亮，诸葛亮中途设伏大破其军，混战中，王双被蜀军悍将魏延斩杀。
诸葛亮第二次北伐，除击杀魏将王双外，一无所获，而围攻陈仓20余日而不克，兵力占绝对优势的蜀军损兵折将，伤亡不小。所以，这已是一次失败的战役，只是不像首出祁山北伐曹魏那样败得惨重而已。
