当时，大将军袁绍盘踞在冀州，袁绍派使者来请郑玄。袁绍大会宾客，郑玄最后来到，袁绍请郑玄坐在上座。郑玄身高八尺，饮酒可达一斛，长得眉清目秀，仪容伟岸。袁绍的客人中，有许多豪俊士人，都很有才学，看到郑玄是一个儒士，并未把郑玄当作一位通学大儒来看待。在酒宴上，有些士人向郑玄提出疑问，用诸家观点诘难郑玄。郑玄来者不拒，按照提问的问题，逐条答辩，甚至答问超出提问，使得在座儒生莫不惊讶，均认为前所未闻。在当时，汝南郡人应劭也在袁绍处，自我介绍：“原泰山郡太守应中远，北面拜师，愿做先生的弟子，如何？”郑玄笑道：“仲尼收学生，考试四科（注：德行、言语、政事、文学），颜回、闵子骞、子贡等人做学生，从来不称自己的官衔。”应劭面露惭色。此后，袁绍举荐郑玄为茂才，上表朝廷，拜郑玄为左中郎将，郑玄推辞，不肯就职。公车府征召郑玄，朝廷拜郑玄为大司农，还送上一辆安车，令沿途郡县官员迎送。郑玄以身体有病，乞求返回家乡。

建安五年春天，郑玄梦到孔子，在梦中提醒自己：“起来，起来，今年是庚辰年，明年是辛巳年。”醒来后，郑玄以谶纬解梦，知道自己来日无多，过了一段时间，郑玄患上重病。当时，袁绍与曹操在官渡对峙，袁绍让儿子袁谭派使者逼迫郑玄随军，不得已，郑玄带病坐车来到元城县，因病重不能前行。当年六月，郑玄去世，享年七十四岁，留下遗言薄葬。从郡太守以下，凡受过郑玄教诲的，皆穿上缞绖丧服，前来为郑玄送葬，有一千余人。

郑玄的学生聚集起来，把郑玄生前教导学生、以《五经》解答学生疑难的内容，编辑成书，按照《论语》模式，编写成《郑志》八篇。郑玄生前注释《周易》、《尚书》、毛氏《诗经》、《仪礼》、《礼记》、《论语》、《孝经》、《尚书大传》、《中候》、《乾象历》，亲自撰写《天文七政论》《鲁礼禘祫义》《六蓺论》《毛诗谱》《驳许慎五经异义》《答临孝存周礼难》，共计一百余万言。

郑玄特别擅长于辞意训诂，一般的儒生常讥讽郑玄过于烦琐。然而对于古代典籍、经典传纪，郑玄可谓博学洽闻，无愧一代儒宗。齐鲁的学者认为郑玄是一代宗师。郑玄的学生山阳郡人郗虑，后来官至御史大夫，东莱郡人王基，清河郡人崔琰，都是有名的学者。还有乐安郡人国渊、任嘏，当时还很年轻，郑玄称国渊为国之大器，称任嘏有道德风范，其余的学生大都得到过老师的评价，评价都很高。郑玄只有一个儿子郑益恩，孔融在北海国担任国相，举荐郑益恩为孝廉。及至孔融被黄巾军围困，郑益恩前去营救，不幸遇难，留下一个遗腹子。由于这个孙子的手纹与自己相似，郑玄为孙子起名字叫“小同”。

评论如下：自从始皇焚毁《六经》，圣人的文献典籍灰飞烟灭。汉建国，儒生们继续研究《六经》。及至东汉复兴，学者云集洛阳，又有许多名家。那些墨守成规的儒生，常受到儒家学说的束缚。一时间，各种学派著书立说，相互诘难，众说纷纭。经学又出现多家学派，每家对于经学的解释，章句多者，动辄上百万言。学生费尽心机，钻研学问，劳而无功，后来的学者对此多有疑问，莫衷一是。郑玄囊括诸家学说，兼收并蓄，删繁就简，订正谬误，刊刻遗漏。从此，学者对经学的学习渐入正轨。我的祖父豫章君（注：范晔的祖父范宁，字武子，晋朝孝武帝时担任豫章郡太守，所学经义以郑玄校订的经书为准），每当考证先辈儒学大宗对于经学的训诂，常肯定郑玄的解释，祖父说，即使仲尼的学生，也不过如此，及至祖父后来教授学生，也是以郑氏注解为依据。

赞辞如下：富平之绪，承家载世。伯仁先归，厘我国祭。玄定义乖，褒修礼缺。孔书遂明，汉章中辍。