檀道济，高平金乡人士，是左将军檀韶（刘宋开国名将）、右将军檀祗（东晋名将）的弟弟。其叔父是檀凭之，与刘裕（刘宋开国皇帝）关系密切，交情甚密，曾一同密谋讨伐桓玄，后战死沙场。
檀道济年少时父母双亡，居丧期间，极尽礼数，事奉兄姐，以和蔼谨慎著称。
元兴二年（年,东晋司马德宗年号）十二月，桓玄篡位，建立桓楚。
元兴三年（年）二月，刘裕在京口举兵起义，讨伐桓玄。檀道济跟随家人投奔刘裕，击败桓玄，攻入东晋（桓楚）都城建康，桓玄挟持晋安帝司马德宗败逃江陵。檀道济当时任刘裕的建武参军事，之后转任为征西参军事。
桓玄回到江陵后，当时已人心崩离。桓玄无心与刘裕一战，欲投奔梁州刺史桓希。之后受毛修之诱骗，改入蜀地，最后遭遇益州刺史毛璩的数百人军队，被益州督护冯迁斩杀身亡。
桓玄死后，其子桓振逃到华容的涌中，重新召集追随者数千人，袭取江陵，再度控制了司马德宗。檀道济跟随讨伐军，讨平鲁山（位鲁阳县，属南阳郡），击败桓振。因战功任辅国参军、南阳太守。因跟随刘裕起兵建有功勋，被封为吴兴县五等侯。
义熙六年（年），趁刘裕北伐南燕之机，卢循、徐道覆（卢循的姊夫）发动叛乱。一时间东晋境内盗贼纷起，郭寄生等聚集在作唐。刘道规任檀道济为扬武将军、天门太守前去讨平贼寇郭寄生，救援建康。
西蜀谯纵借卢循叛乱之机，派遣桓谦，联合后秦东犯东晋，后秦姚兴派遣苟林为之响应。刘宋荆州刺史刘道规派遣王镇之、檀道济、到彦之等人前去讨伐。在寻阳，东晋与后秦相遇，檀道济带领厉文武，身先士卒，所向披靡。不过此战仍以东晋告负而收场。
卢循调拨兵马给苟林，让其进攻江陵，苟林与桓谦两军汇合。刘宋雍州刺史鲁宗之率军相助。刘道规认为只要战败桓谦，苟林可不战自胜。于是率军在枝江与桓谦大战。檀道济率先攻入敌阵，桓谦大败。
没过多久，苟林、桓谦被刘道规、鲁宗之联军击败。
不久后徐道覆率三万兵马进逼江陵，刘道规亲自率主力迎击，将其击败。此战檀道济居功甚多，升安远护军、武陵内史。又为太尉参军，拜中书侍郎，转宁朔将军，参太尉军事。以前后功绩封作唐县男，补太尉主簿、咨议参军。
刘裕世子刘义符为征虏将军镇守京口时，檀道济是他的司马、临淮太守。此外还担任刘义符的西中郎司马、梁国内史，之后又被任征虏司马，加号冠军将军。
义熙十二年（年），刘裕趁后秦易主，朝政内乱之际，决意北伐。任檀道济为大军先锋，攻击淮、肥两地。檀道济所到之处，后秦各城守备望风而降。只有新蔡太守董遵不愿投降，檀道济攻拔其城，杀死董遵。之后檀道济攻克许昌时，俘获后秦颍川太守姚坦及大将杨业。檀道济到达成皋时，后秦兗州刺史韦华投降。进军洛阳时，后秦平南将军陈留公姚洸归顺。攻拔城池，俘获四千余人。
此时有人向檀道济建议，应当把这些俘虏都杀了，推成“京观”（古代为炫耀武功，聚集敌尸，封土而成的高冢。）檀道济却说：“伐罪吊民，正在今日。”于是将这些俘虏全都释放了。各族人民倍感檀道济的宽仁，因此许多人相继来投奔。
之后檀道济攻克潼关，与东晋大军一同作战，击破后秦姚绍，攻占旧都长安。战后檀道济被封为征虏将军、琅邪内史。
刘义符镇守江陵时，又任檀道济为他的西中郎司马、持节、南蛮校尉。又加号征虏将军，升迁为宋国侍中，兼任世子中庶子、兖州大中正。
义熙十三年(年)，檀道济、沈林子自陕北渡河，攻克后秦襄邑堡，秦河北太守薛帛逃往河东。之后檀道济在蒲阪又进攻后秦并州刺史尹昭，不克。
沈林子便对檀道济说：“蒲阪城坚兵多，不可急于攻克，攻得急，我方伤亡就很多，而对方有得是时间和我们耗。现在王镇恶在潼关，势单力薄，不如与王镇恶汇合，一同攻打潼关。如果潼关被攻克，尹昭就不战自溃了。”檀道济听从了沈林子的建议。
三月，檀道济、沈林子到达潼关，后秦姚绍出兵迎战，被檀道济、沈林子击败。姚绍退守定城，对手下将领说：“檀道济他们兵力不多，又是孤军深入，现在不过是坚壁以待援军。我们分兵断他的粮道，那么就可以手到擒来。”于是派遣姚鸾驻兵在大道上，以断檀道济的粮道。
沈林子趁夜杀入姚鸾兵营，斩杀姚鸾，及数千后秦兵士。姚绍又派遣姚赞屯兵河上，以断檀道济水道。沈林子再次出击，将姚赞击败。
元熙二年（年），刘裕代晋称帝，即刘宋武帝。檀道济转为护军，加散骑常侍，兼领石头戍事。准许他直入殿省。又因他辅佐创业的功劳，改封檀道济为永修县公，迁官为丹阳尹，护军不变。刘裕身体不适的时候，赐给檀道济班剑（有纹饰的剑，晋易以木，谓之班剑，取装饰灿烂之义。后用作仪仗，由武士佩持，天子以赐功臣）二十人。
永初三年（年）三月，檀道济出京任南徐兗之江北淮南诸郡军事、镇北将军、南兗州刺史。
同年五月，刘裕病重，任司空徐羡之、中书令傅亮、领军将军谢晦、镇北将军檀道济为顾命大臣。
景平元年（年，刘义符年号），北魏叔孙建率三万大军围攻东阳城，青州刺史竺夔告急。刘宋朝廷加任檀道济为使持节、监征讨诸军事。
檀道济到达彭城时，青州东阳城已岌岌可危。而与此同时司州也告急。檀道济领兵不多，不足以分兵救援司、青二州。檀道济认为青州比较近，而且竺夔兵弱，便与王仲德一同解救东阳城
当时叔孙建久攻东阳城不下，又时逢天热，伤者、疫情在军中蔓延。刘宋大军兵至临朐时，北魏军已经点烧军营，将攻城器具焚烧殆尽。
檀道济欲追击北魏军，但此时东阳城内无粮，只能去开窖取出以前存放的谷物，但窖深数丈，出谷作米，已是过了一夜，此时北魏军已远去，再也追不上了。于是檀道济这才止兵回师，镇守广陵。
之前，刘裕死后，因当时刘义符年仅十七岁，因此以傅亮、徐羡之、谢晦共同辅政。三人成为刘宋权臣。
景平二年（年）正月，徐羡之等人欲废刘义符。那么刘义真则成为第一顺位继承人。又而徐羡之之前与刘义真不和，因此想先废除刘义真，便将这个想法告诉檀道济。檀道济不同意，多次陈述不可废刘义真，但徐羡之并不听劝，以刘义真与少帝刘义符不和睦为罪名，将刘义真废为庶人。
刘义真被废后，徐羡之等人开始谋划废除刘义符的事。
四月，徐羡之等人认为檀道济是先朝旧将，威服殿省，而且又手撑大军，于是召檀道济、江州刺史王弘入京，并将要废除刘义符，另立刘义隆之事告诉了檀道济。在刘义符被废的前一夜，檀道济到领军府谢晦处住宿。谢晦因明天要废除皇帝而转辗不能入睡，但檀道济躺到床上便睡着了，因此谢晦十分佩服他的从容。
刘义隆还未入京时，檀道济入内守卫朝堂。等到刘义隆即位后（刘宋文帝），檀道济进号征北将军，加散骑常侍，给鼓吹一部，进爵为武陵郡公。檀道济推辞不受爵位，又另增督青州、徐州之淮阳下邳琅邪东莞五郡诸军事。
同年，谢晦任荆州刺史，因担心刘义隆会记恨杀兄（刘义符、刘义真）之仇，所以刻意结交刘义隆的亲信王华，以及心腹大将到彦之。
檀道济与王弘交情深厚，当时王弘受刘义隆知遇正深（王弘其弟王昙首受刘义隆宠信，王弘因此爱鸟及乌），檀道济更加拉拢攀附，经常连通徐羡之等人，王弘也非常依靠他。刘义隆在将要诛杀徐羡之等人，召见檀道济，想让他率兵西讨。王华阻止道：“不能让檀道济带兵。”
刘义隆说：“废杀刘义真、刘义符之事，檀道济只是跟从了别人，当时的事不是他出的主意，慰抚任用他，用不着担心。”
元嘉三年（年），刘义隆以擅杀少帝刘义符及刘义真的罪行，诛杀徐羡之、傅亮、谢世休，并收捕谢皭（谢晦弟）、谢世平、谢绍等谢氏子弟。谢晦知道刘义隆有诛杀自己之心，于是以“清君侧”的名义起兵谋反。刘义隆命雍州刺史刘粹、南兖州刺史檀道济、中领军到彦之先行出兵。檀道济作为到彦之的后继之兵。
临行时，刘义隆向檀道济询问策略，檀道济答道：“我之前与谢晦一同从征北伐，如果有十条入关的策略，那么谢晦所出的就要占其中的九条。他的才能谋略精明干练，几乎难以敌对。但是他从不曾孤军决胜，兵戎之事恐怕不是他之所长。我知道谢晦的智慧，谢晦也明白我的勇猛。如今我奉王命前去讨伐，必定是未等到对方列阵整齐，就将他擒获。”
到彦之被谢晦击败，退守隐圻，不久后檀道济到达，与到彦之汇合。谢晦本来以为檀道济和徐羡之等人一起被诛杀了，现在突然听到檀道济前来，一时间人心惶惶，军心大乱，不战自溃。
谢晦之乱被平定后，檀道济被升至都督江州之江夏、豫州之西阳、新蔡、晋熙四郡诸军事、征南大将军、开府仪同三司、江州刺史，持节、常侍如故。
景平元年（年）北魏趁刘裕去世，大举南侵，占领了刘宋的虎牢、洛阳及滑台等刘宋地处河南的洛阳盆地。
元嘉八年（年），经过“元嘉之治”后，刘宋有了盛世任气象。刘义隆有了生举兵北伐，收复失地的念。于元嘉七年（年）三月，刘义隆以到彦之为主帅北伐，一度夺回洛阳、虎牢、碻磝、滑台四镇。
同年十月，北魏展开反击。洛阳、金墉、虎牢关相继失陷，滑台被围攻。而此时到彦之眼疾发作，加上刘宋军中出现疫情，不得不选择退兵。刘义隆改派檀道济率军支援滑台。
檀道济军至东平寿张县，遭遇北魏安平公叔孙建（）。檀道济率宁朔将军王仲德、骁骑将军段宏奋击，大破叔孙建。随后转战至高梁亭，北魏悉颊库结与叔孙建前后夹击。檀道济分别派遣段宏和沈虔之等人，出奇兵袭击，斩杀悉颊库结。
之后檀道济进军济水，连战二十余日，前后与北魏交战三十余场，最后被叔孙建断其粮道，无奈撤军，以至于滑台失守。
当时投降北魏的人说，檀道济军粮已罄，因此士卒忧虑恐惧，都没有了坚强的斗志。檀道济趁夜间喊报时辰，聚量沙土，用所余下的少量米撒在上面。到了早晨，魏军认为储备的粮食有余，所以不再追赶，以为投降的人是胡说，将他们斩首抵罪。
此时檀道济兵少力弱，军中十分恐惧。檀道济就命令军士全都披挂盔甲，外穿白衣服，坐着车子慢慢地出去到外面走动。魏军恐怕有埋伏，不敢逼近，才得全身而退。檀道济虽然没有平定黄河以南地区，但是保全了军队安然返回，雄武的名声大振。魏军对他十分害怕，画他的像用来祛除恶鬼。
最终刘义隆此次北伐以失败告终。北伐结束后，檀道济晋升为司空，持节、常侍、都督、刺史并如故。还镇寻阳。
檀道济在前刘裕为帝时立功颇丰，威信名望都特别的高，左右以及心腹，都身经百战，几个儿子也都有才气，因此朝廷怀疑畏惧他。当时也有人这样看他，说：“怎么能知道他不是司马仲达呢？”
刘义隆卧病多年，并且多次病危。领军刘湛贪图执掌朝政，恐怕檀道济有不同说法，彭城王刘义康也担心刘义隆一旦病逝，檀道济将不受节制。
元嘉十二年（年），刘义隆再次病重，恰逢此时北魏侵犯刘宋边境，朝廷召檀道济入朝。檀道济的妻子向氏说：“功勋高于世人，这是道家的忌讳，现在无事而相召见，该是灾祸到了。”等檀道济到京城的时候，刘义隆病好了。
元嘉十三年（年）春，朝廷让檀道济回寻阳镇守。当时檀道济已经上船，但还未出发，有一群好似鹪鹩的鸟聚集在船上悲哀地鸣叫。
不巧的是刘义隆再次发病。刘义康伪造诏书召檀道济入宫，说是为他饯行，把他逮捕交给廷尉。刘义隆的诏书上说：“檀道济机缘逢时，在过去受了皇恩，因此得到了很多宠信与信任，无人能及。但他不对这殊荣有所感动，没想着去报效皇恩，反而凭空多疑，怀有不二之心，而且在这条道路上越走越远。元嘉以来，猜疑多结，不义不亲，经常做出公些欺上瞒下的事，这已经为大家所知道，暴露无遗。谢灵运经常说一些忠的逆言，但檀道济却赞同他的邪说，常为他隐瞒。还偷偷散发钱财，招揽诱狡猾之徒。逃亡的人前来投奔的越来越多，日夜窥测谋划，企图达成那些非分之想。
镇军将军王仲德入朝，多次陈说此事。朕因为他位居台鼎高位，预先赏赐封土，希望他心中的欲望，使他或许能革面洗心。可是他怙恶不悛，终于发动反叛，因为朕生病，就规划实现其阴谋。前南蛮行参军庞延祖了解了他的全部阴谋，向我密报。对天子和父母的叛变，刑罚是不能赦免的。何况檀道济罪孽深重，应当逮捕交付廷尉，按刑处斩。此事只限于首恶，其余都无所追究。”
于是收押檀道济及他的儿子檀植、檀粲、檀隰、檀承伯、檀遵等八人，并于廷尉伏诛。当时的人们唱道：“可怜《白浮鸠》，枉杀檀江州。”檀道济死的那天，建邺地震，有白毛生长。
又搜捕司空参军薛彤到建康处死。檀道济的儿子檀夷、檀邕、檀演及司空参军高进之也被捕斩首。薛彤、高进之都是檀道济心腹，勇敢而有武力，当时人把他们比作张飞、关羽。
之前檀道济被捕之后，十分愤怒，目光如炬，拿酒来顷刻间喝了一斛，然后脱下头巾掷到地上说：“这是自毁长城啊！”北魏人听到檀道济被杀的消息，都说：“檀道济已死，吴地小辈们（指刘宋）不值得再害怕了。”从此连年南下攻伐，有饮马长江的志向。
刘义隆问殷景仁曰：“谁可以为檀道济的后继者？”
殷景仁说：“檀道济是因为屡建战功，所以才树立起威名，其余的人只是没有被任用罢了。”
刘义隆说：“并不是这样的，过去有李广在朝中，匈奴不敢向南侵犯，而后继者又有几人呢？”
元嘉二十七年()，魏军到达瓜步，刘义隆登上石头城远望，脸色非常忧愁。慨叹道：“如果有檀道济在世，哪会弄到这种地步！”
