太平军在长沙城下屡屡受挫后，便计划放弃长沙城，绕城而走继续北上。于是，太平军夜渡湘江，随后又攻占了岳州。太平军北上之后，长沙之围自然解除，左宗棠决定继续协助张亮基专心整顿本省治安。
张亮基曾说，他只有三个人可以完全依靠，其中就包括左宗棠。左宗棠因功，得旨以知县用，并加同知衔。在清廷将张亮基升调代理湖广总督后，左宗棠选择随张亮基离开长沙，赴武昌湖广总督衙门，仍做张亮基的幕僚，助张亮基筹划湖广地区的军事并整顿当地的吏治。
骆秉章调任湖南巡抚后，因左宗棠此前谋划有功，请旨将他以同知直隶州选用。左宗棠大力推辞，因而未获官职。左宗棠拒绝就任的原因有很多，也许他认为以自己的能力去就任那个职务颇有些大材小用了。毕竟，左宗棠总爱自比"今亮"，认为自己就是具有经天纬地之才的当世诸葛亮。
在张亮基奉命调补山东巡抚一职后，左宗棠辞归湖南，归居湘阴县东山白水洞。左宗棠与张亮基私交甚笃，在同治十年张亮基病故后，左宗棠特为其作《云贵总督张公墓志铭》。