蒋济字子通，是楚国平阿人。年轻时他就顺利地参加工作在本郡当了“公务员”。建安十三年，曹操赤壁大败后孙权进攻合肥，面对援军不到的情况，合肥守军士气低落。此时满宠公开宣称救兵将至，还把援军的人数和动向编造出来，故意泄漏给孙权部。孙权得知曹操援兵将至，综合考虑时局后选择撤退，合肥城池得以保全，满宠也得以入了曹操的法眼。
第二年，曹操面对孙权对江北虎视眈眈的局面，就打算将南方军事缓冲区的百姓全部迁徙到内地。对此事，曹操征求蒋济的看法，蒋济以民心为由建议曹操收回成命。但曹操坚持迁徙百姓，以致于很多军事缓冲区的百姓反而投入了东吴。不久后蒋济来到邺城，曹操给蒋济升官并侧面承认了自己的小失误。
后来，蒋济担任扬州刺史温恢的别驾时出了一档子事，当地百姓有人诬告蒋济是当地叛乱的幕后主谋。曹操听闻此事，立刻找到于禁指出可能是谣言，不过还是将蒋济召回身边工作。关羽水淹七军之时，曹操就有了迁都的想法。但此时司马懿和蒋济一起建议联合孙权以解此危机，帮曹操躲过此次大难。
曹丕称王及称帝后，蒋济分别有所升迁，正是此时蒋济呈上了传至今日且著名的《万机论》。曹丕称帝后，由于为了平衡宗室利益等原因，曾经给夏侯尚下了一道圣旨指出，你是我的心腹重将，我赐给你生杀大权。夏侯尚接旨后就给蒋济显摆，蒋济得知赶紧找到曹丕，直接了当的说自己听到了亡国之音。曹丕大怒问怎么回事儿，蒋济把曹丕赐给夏侯尚圣旨中生杀大权的不妥表明后，曹丕赶紧勒令取回送到夏侯尚处的诏书。
黄初三年，曹仁讨伐东吴，蒋济参与局部战役。当曹仁和蒋济第一阶段获得小胜之后，曹仁打算进攻主要军事目标下游的东吴军队家属所在的地方，以图彻底扰乱东吴军心。蒋济得知后赶紧联系曹仁指出，敌军战船在上游，我们如果贸然攻击下游，会自取灭亡。曹仁并没有听从蒋济的建议坚持进攻，结果遭到了曹仁的否决。这波强开让曹仁战败而归，不久后就去世了。在短暂统帅曹仁军队稳定军心后，蒋济又回到了朝中任职。
鉴于东吴和曹魏的矛盾，曹丕决定亲征广陵，蒋济使出浑身解数也没有打消曹丕这不切实际的举动。最终因水道不通，曹丕亲征路线受阻。曹丕虽然在蒋济不断的劝谏和事实打击下决定撤退但把大队船只处理的烂摊子留给了蒋济，蒋济命令开凿河道，经过一番复杂的引流，船只得以入淮。
曹叡继位后，蒋济终于有了爵位。在石亭之战前夕，蒋济坚定地反对曹休贸然进攻。出兵后蒋济又根据形势向天子上表请求援军。只可惜曹休大军已经到达前线，曹军大败。回朝后，蒋济结合曹叡身边近臣等情况，上书天子建议留意重臣，谨防权臣专权等行为。曹叡看后对蒋济大加赞赏并将其封为护军将军、散骑常侍。
景初年间，曹叡开始大修宫殿，导致曹魏经济下落，民不聊生。蒋济针对此情况上书天子让百姓不失农时，应优先考虑到大敌环绕等情况。曹叡下诏指出蒋济说得对（但我们知道其实并没有太多改善）。
曹叡驾崩后曹芳继位，蒋济被加封为领军将军，进爵昌陵亭侯，不久后又被封为三公之一的太尉。在曹芳初年，曹爽等人专权并擅改国法。蒋济借着一次天子因为太空异象开大会时，蒋济上书指出国家法度不可再由平庸之辈乱改，自此公然抨击曹爽及其党羽。
曹爽带着曹芳前往高平陵之时，司马懿发动政变。此时蒋济对于限制曹爽的方针是与司马懿一样的，于是主动给曹爽写信希望曹爽尽快认罪，并保证只免官，可留曹爽一条命。但曹爽认罪后，司马懿以谋反的罪名杀掉曹爽及党羽三族，蒋济羞愧难当，于同年去世，谥为景侯。
蒋济去世后，他的儿孙仍在魏晋做官。