此前，蔡邕在东观与卢植、韩说等人为《后汉记》补充材料，此次遭受迫害，被流放至边郡，不能完成《后汉记》。蔡邕向灵帝上书，坦诚撰写《后汉记》的愿望，奏书有十个著述要点，列出条目，附在奏章下。灵帝看了，很欣赏蔡邕的才华，第二年大赦天下，让蔡邕从流放地返回家乡。前后九个月，蔡邕从流放地返回，将要离开时，五原郡太守王智为蔡邕饯行。酒酣耳热，王智起舞助兴，蔡邕坐在席上，不为所动。王智，是中常侍王甫的弟弟，素来骄横，旁边又坐着其他宾客，王智恼羞成怒，对蔡邕讲：“刑徒焉敢轻慢我！”蔡邕遂起身，拂袖而去。王智愈发恼怒，向朝廷密报，说蔡邕在流放地怨恨朝廷，多有诽谤之言。宫内宦官、宠臣对此颇为忌惮。蔡邕看到终不能免受祸殃，遂流亡江湖，隐居在吴地会稽郡。蔡邕与泰山郡人羊氏多有交往，前后十二年，蔡邕一直住在吴地。

有一次，蔡邕看到有一位吴人在用桐木炊饭，从燃烧的桐木噼啪声中，蔡邕辨认出这是一块制琴的良木，蔡邕向炊饭人讨要这块桐木，斫成古琴，音色优美，琴尾由于烧得焦黑，被人称为“焦尾琴”。最初，蔡邕在陈留郡，有邻人设宴，召蔡邕来饮酒，及至蔡邕走到邻居家，众客人正酒兴阑珊。有客人在屏风后弹琴，蔡邕走到门口，试着聆听琴音，说：“噫！召我来饮酒，酒宴上奏乐，竟然透露出杀气，这是为何？”遂转身离去。去请蔡邕的仆人告诉主人：“蔡君刚才来过，走到门口，又返身回去。”蔡邕素来被乡里人敬重，主人马上追赶蔡邕，问蔡邕为何要转回，蔡邕告诉主人实情，大家莫不感到惊讶。弹琴者此时说：“我刚才在弹琴时，看到有螳螂欲扑向鸣蝉，鸣蝉将去而未飞，螳臂为之一前一后。我心中耸然，惟恐螳螂错失良机，或许这就是杀气，形于琴音者乎？”蔡邕知道原委，莞然而笑，说：“这就足以透出杀气了。”

灵帝中平六年，灵帝驾崩，董卓担任司空。董卓久闻蔡邕名气，特地征召蔡邕。蔡邕坚称身体有病，不肯应召。董卓大怒，骂道：“我能杀你和你的族人，再要延宕，祸不旋踵。”董卓责令州郡，一定要让蔡邕到司空府来，不得已，蔡邕只好上路。董卓任命蔡邕为祭酒，对蔡邕很敬重，又举荐蔡邕为高第，补为侍御史，转任持书御史，担任尚书。三日之内，历任三署。蔡邕又受命担任巴郡太守，后又留在宫中，担任侍中。

献帝初平元年，献帝拜蔡邕为左中郎将。蔡邕跟随献帝迁都长安，受封为高阳乡侯。

董卓的门客、部将商议，尊董卓为太公，号称尚父。董卓咨询蔡邕的意见，蔡邕答：“当年，姜太公辅佐周室，受命征伐殷商，因此才有‘尚父’的称号。而今，明公有武德，巍巍然，不可侵犯。以‘尚父’为尊号，臣愚以为，为时尚早。待关东平定，皇帝车驾返回旧京，再考虑不迟。”董卓接受蔡邕的谏言。

献帝初平二年六月，发生地震，董卓向蔡邕询问原因。蔡邕回答：“地震，是表明阴盛，侵犯阳气，臣下僭越礼制。前年春天，郊祀上天，公奉命引导皇帝车驾，公乘坐金华青盖车，两边车轓上画有金龙，张牙舞爪，远近士人皆以为，此画不妥。”董卓改乘皂盖车。

董卓很欣赏蔡邕的才学，给予蔡邕优渥礼遇，每当召集群臣宴饮，董卓即令蔡邕在酒宴上鼓琴，歌功颂德。蔡邕也会找准机会，向董卓提出谏言，对朝政有所裨益，董卓刚愎自用，很少采纳。蔡邕看到难以匡正董卓的恶行，对堂弟蔡谷说：“董公性情刚烈，又执拗，不肯改过，难以成就大事。我欲东行投奔兖州，路途遥远，难以成行；又欲逃往崤山以东，无论何地，以俟良机，如何？”蔡谷答：“君的相貌异于常人，每当出行，都会有围观者。如此相貌，欲隐居，岂不是很难？”蔡邕这才没有付诸行动。

及至董卓被杀，蔡邕坐在司徒王允的旁边，不经意间，谈到董卓的下场，蔡邕长叹一口气，脸上露出哀其不幸的神色。王允看到后，勃然大怒，呵斥蔡邕：“董卓乃国之巨贼，几乎颠覆汉室。君作为汉室大臣，应该同仇敌忾，而今，竟然怀其私恩，忘记为臣之节！今天诛杀一罪人，君竟然为其难过，莫不是欲与董卓一样谋逆？”王允将蔡邕交予廷尉署治罪。蔡邕极力辩解，恳求判以黥刑或刖足，让自己完成《汉史》写作。朝中士大夫大多同情蔡邕，纷纷谏言宽宥，王允终不为所动。太尉马日磾骑快马赶来，对王允讲：“伯喈乃旷世奇才，对汉史颇有研究，应该让其续写《汉史》，作为一代典籍。而且，伯喈一向以忠孝闻名，如今所获罪名，查无实据。诛杀伯喈，恐怕会失去众心！”王允答：“在往昔，武帝没有诛杀司马迁，让其完成谤书《史记》，流传于后世。而今，国祚衰微，神器不稳，岂能让佞臣执笔，在幼主身边侍候，这样做，无益于圣德，也会让我日后受其毁谤。”马日磾退下，告诉他人：“王公性命，恐怕难以长久！善人，乃国之纲纪；史书，乃国之典籍。灭纲纪，废典籍，能长久吗？”最终，蔡邕死在狱中。此时，王允已经后悔，然而一切都晚了。蔡邕死时，终年六十一岁。当朝缙绅、儒生莫不为蔡邕过早离世哀泣悲悼。北海郡人郑玄听说后，叹息道：“汉家一代历史，该由谁来续写！”兖州、陈留郡的儒生，为蔡邕画像，以资纪念。

蔡邕撰写、整理的汉史，没有留存下来，补充后汉史。蔡邕编写《灵纪》，其中有十个著述要点，还补充了列传四十二篇。因为李傕之乱，大多湮没不存。蔡邕生前所著诗、赋、碑、诔、铭、赞、连珠、箴、吊、论议、《独断》、《劝学》、《释诲》、《叙乐》、《女训》、《篆埶》、祝文、章表、书记，共计一百零四篇，流传于后世。

评论如下：情意感人，士人难以忘怀。伯喈蒙受髡钳，被流放至边郡，身遭逆境，仰望日月，不见明烛照耀，风霜肆虐，难以躲避祸殃。伯喈是否想过，平生心怀凌云之志，此时该如何保全性命！及至伯喈解开刑衣，窜逃于欧越，荡舟于江湖，难以顾其幽远；漫步于树林，犹恐其不密；但愿狐死首丘，归骸骨于先人墓地，能达其所愿乎？董卓入朝，征召之书下达，礼聘贤士。伯喈多次升迁，匡扶朝廷，尽其所能，劝谕董卓，以免对社会造成更大的危害，犹如《易经·同人》所言：先号啕，后大笑。塞公失马，焉知后福。对董卓的优渥礼遇，伯喈不能无动于衷。君子面对卷宗审案，不忍举起酒杯，更何况国家处于危难。仓促间，伯喈被处以极刑。伯喈并无谋逆之心，对董卓的死，心中五味杂陈，不免动容，王允竟然以同党诛杀！还说司马迁所著《史记》为谤书，流毒于后世，这就是王允要诛杀伯喈的理由！从未听说过这样杀人。

赞辞如下：季长戚氏，才通情侈。苑囿典文，流悦音伎。邕实慕静，心精辞绮。斥言金商，南徂北徙。籍梁怀董，名浇身毁。