1949年，解放军和平解放新疆，新疆军区成立，甘祖昌担任后勤部副部长。当时，敌特支持投机倒把分子新疆扰乱物价，大肆垄断黄金银圆，妄图从经济上困死解放军，甘祖昌低价将银圆投入流通市场，打击奸商气焰，稳定市场，稳定新疆政局。其后，敌特分子为报复甘祖昌制造车祸，令他头部重伤。1955年甘祖昌被授予少将军衔，和他同村同时入伍的李保山则授校衔。李对甘很嫉妒，违纪后被解职回乡。甘祖昌脑震荡后遗症严重，自觉不在适合服务军队，加之回家后看到家乡虽解放但生活仍贫困，自请辞职，解甲归田，回到老家江西莲花县沿背村。回乡后，他不辞辛劳，继续为家乡经济建设做贡献。他排除万难，修整水旱田，修建水库，创建公社农科所等，使农民生活大有改善。甘祖昌不恋高位而选择奉献，不图享受而甘于奋斗的精神成为领导干部的楷模，时代的先锋。
