后谢氏家族于朝中之人尽数逝去,他才东山再起,历任征西大将军司马、吴兴太守、侍中、吏部尚书、中护军等职。简文帝逝后,谢安与王坦之挫败桓温篡位意图。桓温死后,更与王彪之等共同辅政。在淝水之战中,谢安作为东晋一方的总指挥,以八万兵力打败了号称百万的前秦军队,使晋室得以存续。
战后因功名太盛而被孝武帝猜忌,被迫前往广陵避祸。太元十年(385年),谢安病逝,享年六十六岁。获赠太傅、庐陵郡公,谥号“文靖”。谢安多才多艺,善行书,通音乐。性情闲雅温和,处事公允明断,不专权树私,不居功自傲,有宰相气度。
他治国以儒、道互补,作为高门士族,能顾全大局,以谢氏家族利益服从于晋室利益。齐人王俭称其为“江左风流宰相。”。