蔡廷玉，幽州昌平人。他和朱泚是同乡，小时候相互间很亲近。朱泚任幽州节度使，上表让他在幕府中任职。

  蔡廷玉深谋远虑，善于与人交往，内外之人都和他很友好。朱泚经常向他咨询事情，还多次派他到京城去。这时候，幽州的军队最强大，将士骄横，每天总想吞并别人，不知道上下间应当有的礼法。

  蔡廷玉私下对朱泚说：“自古以来没有为臣不守礼法而能够把福禄传给子孙的。您南与赵、魏相接，北面有奚虏，虽然兵多地险，但是不是久安之地，有一天赵、魏反咬一口，您就成了鼎中之鱼了。不如拥戴天子，铲除诸多灾难，这样功勋可以铭刻在鼎彝之上，怎么样？”朱泚赞同他的建议。

  蔡廷玉暗中想消耗朱泚的力量，就劝朱泚拿出金银财物来礼待士人，又劝朱泚进献贡赋以助天子的费用，因而进献的牛马在路上络绎不绝。于是又劝朱泚进京朝见，朱泚想听从他意见，但属下部将被激怒了，把蔡廷玉捆绑起来并侮辱他，蔡廷玉没有丝毫屈服的言词，朱泚不忍心杀他，囚禁一年多之后把他放回来，并问他说：“你后悔了吗？”蔡廷玉说：“如果引导你做违逆的事情就感到后悔，我用忠义来劝勉你有什么可后悔的呢？”又被拘禁了一年多，问他说：“能不能反省你的错误？”蔡廷玉回答说：“不杀我，您将得到名誉。杀了我，我将得到名誉。”朱泚不能使他屈服，待他又像当初那样。

  还有个朱体微，也是朱泚的心腹。蔡廷玉有建议时，朱体微就想方设法帮助他，所以朱泚更加相信，桀骜之气稍有改变。蔡廷玉终于完成朝廷的任务。朱泚内心惧怕弟弟朱滔逼迫自己，朱滔也劝朱泚入朝，于是朱泚把军队委托给朱滔。蔡廷玉、朱体微一起告诉朱泚说：“您入朝就是第一功臣，以后的任务也很重要，必须是诚实可靠的人，才可以把军队交给他。朱滔虽然是您的弟弟，但为人多变而无情，如果把军队交给他来代管，就是把灾难转嫁给他。”朱泚不听从。他们二人跟随朱泚来到朝廷，德宗做太子时，就知道蔡廷玉，见到他对他尊重眷顾十分优待。朱泚统领幽州行营任泾原凤翔节度使，皇上下诏令蔡廷玉以大理少卿的身份任司马，朱体微任要籍。

  朱滔向朱泚有所请求时，有不理法时，蔡廷玉就要批评他，使他遵循旧有的律法。朱滔打败田悦后，逐渐骄傲放肆自以为是。左右有憎恨蔡廷玉的人，胡乱说：“蔡廷玉一向诋毁朱滔，要把燕分成四部分，都是蔡廷玉的倡议，朱体微响应赞同的。朱滔上表说这二人离间他们的骨肉之情，请求有关部门杀掉他们二人。又给朱泚写了同样内容的。

  朱泚怨恨朱滔夺去了他的军队，没有听从朱滔的话。适逢朱滔在幽州反叛，德宗出示朱滔的奏表，而朱泚也披露了朱滔来信的内容，于是归罪于蔡廷玉、朱体微二人，贬蔡廷玉为柳州司户参军、朱体微为南浦县尉来安慰朱滔。朱滔派间谍到朝中打探，并说：“皇上如果不杀蔡廷玉，就应该把他们贬谪出京城，他们会向东到洛阳，我将把他们捆绑到帐下肢解了他们。”将出发时，德宗慰劳蔡廷玉说：“你姑且走吧，为国家受些委屈，年内就能回来。”

  蔡廷玉到了蓝田驿，有人告诉左巡使郑詹，说：“去商于的道路太危险，不能经过那里。”郑詹追上他们让他们取道潼关。蔡廷玉告诉儿子蔡少诚、蔡少良说：“我为天子不动一刀一枪就拿下幽州的十一个城池，打算分裂朱氏管辖的地区，使他们服从朝廷，却在快要成功的时候失败了，这是天助逆贼吗？官吏让我取道东都洛阳，这大概是朱滔的计谋我不能使国家受辱。”得到到了灵宝，就投黄河自杀了。

  宰相庐杞当时正憎恨御史大夫严郢，想把他赶出朝廷，得知蔡廷玉死去的情况，就使郑詹抵罪，而把严郢驱赶出朝廷。德宗怜悯蔡廷玉的忠诚，下令运回他的灵柩，赐给丰厚的财物帮助办理丧事。李晟平定朱泚，蔡少诚正好守丧期满，李晟上表请求追赠蔡廷玉的官职，并建议给他两个儿子官职。而德宗正在招抚朱滔，就将李晟的奏章压下了，此事也就作罢了。