徐元文出生于明崇祯七年（1634年），字公肃，号立斋，江苏昆山（今江苏省昆山市）人。

小时候便“端重有大志”，喜好读书，所读书籍以六经为主，其他诸子百家的著作进行选择性的阅读。

清顺治四年（1647年）为诸生。当时吴中地区文社尤为盛行，徐元文与徐乾学、徐秉义两位兄长常常参加慎文社，提倡古学，主张文学根柢六经，明理致用。

顺治十二年（1655年）为贡士，顺治十六年（1659年）状元，当时他才二十六岁。徐元文被顺治帝宣召于乾清门外，被赏予冠带、蟒袍、裘靴，并让他担任翰林院修撰一职。

顺治帝回宫之后对太后说，今年得到一位极佳的状元。他在翰林院时，经常被皇帝宣召，也曾在便殿被赐饭。

他跟随顺治皇帝到南苑时被赐驾御马，顺治皇帝让学士折库纳为他牵马，他虽拒绝了，但顺治帝对他的喜爱可见一斑。

徐元文任职翰林院时，遵照皇帝指令写了一篇《孚斋说》，深得皇上的欢心。

这个时期他志得意满，有多首诗歌留下，如《南苑阅武应制》《西苑赐宴观荷诗四首》等。

官场沉浮

徐元文虽早早入仕，但他的仕途并非一帆风顺，他在宦海沉浮，三入三出。顺治十八年（1661年），在他入职翰林院的第三年，江南奏销案起，徐元文被贬为銮仪卫经历，乞假归乡。这是他第一次离开官场。

四年之后即康熙四年（1665年），事情大白于天下，徐元文官复原职，但是还未到任，听到父亲徐开法去世的消息，回乡执丧三年。

徐元文于康熙八年（1669年）被任用为国史院修撰，不久后奉命主试陕西，后又擢升为秘书院侍读。

当他主试陕西时，被他录取的大多是贫困穷苦出身的学子。康熙九年(1670年)，被当朝大臣推荐为国子监祭酒，多次上疏谈论教育问题，强调“养士莫大于太学”的观点。

康熙十年(1671年)，担任经筵讲官。康熙十三年(1674年)，快速晋升为内阁学士兼礼部侍郎。康熙十四年(1675年)，被调任为翰林院学士兼礼部侍郎，并担任日讲起居注官。

在任起居注官期间，他讲述内容切中事理，没有虚假的文句，也没有歪曲事实的议论。康熙十五年(1676年)，徐元文历任殿试读卷官，武科会试主试官，武科殿试读卷官，与这一年的科举考试联系密切。十一月，母亲去世，归籍守孝。这是他第二次离开官场。

康熙十九年（1680年），徐元文服满之后被破格提拔为左都御史，很快又被任命为经筵讲官。

担任左都御史时，他多次上疏请求治理三藩叛乱之地，并根据实际情况，制定了一套行之有效的对策。

康熙二十二年（1683年）十二月，徐元文因王垓、胡悉宁事连降三级。康熙二十三年（1684年），专职监修《明史》。

康熙二十七年（1688年）七月，擢用为左都御史。十二月，任刑部尚书。十日后，改任户部尚书。

康熙二十八年（1689年）五月，被任命为文华殿大学士兼掌翰林院事。他敢于直言，从不谄媚，先后参劾堪泰、萧鸣凤等人。

九月，许三礼上奏，对徐元文进行弹劾。康熙二十九年（1690年），徐元文又因他所推荐的御史李时谦条奏失旨，被降职二级留任。

五月，傅拉塔以子侄豪横乡里之名，参劾徐乾学和徐元文，致使徐元文辞官还乡。这是他第三次离开官场，也是他政治生涯的终点。

修史编书

《明史》的纂修工作，历经四朝，耗时九十五载，终于在历经四次开馆，更换五任监修、七任总裁之后完成。

康熙十八年（1679年），徐元文被任用为监修后，他上疏请求搜集民间藏书，并奏请黄宗羲、姜宸英、曹溶等人进入史馆，共同编纂《明史》。

徐元文监修史局后实施的一系列具体措施，使得朝野上下，通力合作，为修史工作提供了良好的条件，奠定了坚实的基础。

康熙二十三年（1684年），徐氏重领史局，亲自编纂。当时的纂修状况是“糠麸杂糅，嵌罅分裂，记述失序，编次不伦”，还有很多稿子需要删削改定。

徐元文回到了史馆之后对草稿进行整理、修改与审定。徐元文监修《明史》正处于起例发凡的重要节点，在徐元文的主持下，于康熙二十四年（1685年）形成《修史条议》，这是修《明史》纲领性的文件。

康熙十八年（1679），清廷开始大规模修史，徐元文分别于康熙十八年（1679年）、康熙二十三年（1684年）先后两次总领史局，完成“纪传十之六七，谨先缮写本纪七卷，列传十五卷”。

徐元文对《明史》编纂工作起到了很大的推动作用，他请购遗书，举荐遗逸，发凡起例，裁定审核，核定各稿，协调各方。

此外，徐元文还曾任《政治典训》《平定三逆方略》《三朝国史》总裁，《太宗实录》《大清一统志》副总裁。

康熙二十五年（1686年）三月，康熙皇帝下令编写《大清一统志》，并说这件事必须由徐氏兄弟来完成，指派徐元文、徐乾学为副总裁。徐元文的史学才能得到充分的认可。