檀道济是南朝高平人。宋武帝北伐时，道济当先锋，仗打得很艰苦，占领洛阳时，抓了四千名俘虏。众将想杀了他们示威，道济说：“我们是来吊民伐罪的，怎么能滥杀无辜呢？” 全都放了，为南宋军赢得了民心。
宋文帝七年，南宋军在滑台受挫。文帝派道济去救援，在寿张大破北魏军，20多天打了30多场仗，终于進抵历城（山东济南）。这时滑台已经失守，而且道济部队的粮食没了，有人报告了北魏军，大家都很害怕。道济却不慌不忙，命令士兵夜里在大帐中用斗量沙子，在沙子上洒上仅有的粮食，这样量了一夜，第二天命令众将士身穿重甲南撤，自己穿着布衣，坐在马车上，谈笑自若跟在最后，南宋军安全返回。自此北魏军很怕他，士兵们用他的像来避邪。
后来文帝听信谗言把道济杀了。死时，道济瞪圆着眼，把头巾摔在地上，说：“你们不是在毁自己的万里长城吗？”
道济死后十四年，北魏军打到江北的瓜步。在一江之隔的石头城上，宋文帝感慨地说：“如果檀道济还活着，不会让他们这样的。”