夫子庙始建于宋景祐元年（1034年），由东晋学宫旧址扩建而成，称文宣王庙。

南宋建炎时为兵火所毁，绍兴年间重建，为建康府学，同时建科举考场江南贡院；元朝为集庆路学，明初为国子监，后为应天府学；清朝成为江宁、上元两县县学，同治八年（1869年）重建之后，于1937年遭侵华日军焚烧而严重损毁。1984年，市、区人民政府为保护古都文化遗产，经有关专家科学论证和规划，几度拨专款，历数年的精心维修和复建。如今的夫子庙已焕然一新，再展辉煌。被誉为秦淮名胜而成为古城南京的特色景观区，也是蜚声中外的旅游胜地。1991年被国家评为“中国旅游胜地四十佳”之一。