東山再起的典故出處是《晉書·謝安傳》。
《晉書·謝安傳》：「謝安少年既有名聲，屢次徵辟皆不就，隱居會稽東山，年逾四十復出為桓溫司馬，累遷中書、司徒等要職，晉室賴以轉危為安。」
東晉謝安，才學過人，但在朝廷遭到一幫小人的嫉妒，使得皇上一刻兒用他一刻兒貶他。謝安一氣之下就辭官來到土山隱居，邀人下棋，落個耳根清靜。他人在外，心念家，就模擬浙江會稽東山景色，在土山上大興土木搞建築，並改土山為東山。
公元383年8月，前秦符堅率百萬大軍南下伐晉。此時的皇帝想起了謝安，決定重新啟用他，就派員到東山，封他為征討大都督。宰相肚裡能撐船救國要緊，謝安沒有推託，他回到朝廷調兵遣將，上下整頓，賞罰分明，官兵一心，要與符堅決一死戰。
不多久，符堅的人馬打到了淮河、淝水，只要一過江，東晉難保，謝安心中有數，憑東晉的八萬官兵跟符堅硬拼尤如雞蛋碰石頭，他坐陣東山，臨危不亂，精心排兵布陣，並把自己的侄兒謝玄也派到前線去打仗。他侄兒臨走前想探聽這個仗怎麼個打法，謝安只說了一句話「朝廷自有安排」。謝玄心裡沒底，第二天又派人來聽口風，謝安呢，就拖來人下棋，一直下到天黑，打仗的事一字未提，到了當天半夜時分，才掏出將帥名單，擺出了他的「八卦陣」。
淝水那裡戰事拉開，謝安仍穩坐東山跟人下棋，敵人果真中計，大敗而逃。喜報傳來，謝安接過一看，二話沒說，還下他的棋。客人等不及了，都圍過來聽訊息才知道前方打了勝仗，謝玄立了大功，在場的人無不佩服謝安沉得住氣，這就是歷史上著名的以少勝多的戰役「淝水之戰」。
淝水一仗，救了東晉，謝安被封為三公之上。因為他東山閒居以後，又出來做了一番大事業，後來人們都稱謂他「東山再起」。