中国科学院国家天文台的历史可以追溯到1958年，当时北京天文台作为其前身在北京成立，并成为首批国务院学位委员会批准的学位授予单位。作为天文学科的重要基地，它还设有博士后流动站。
在1999年4月16日，中国科学院决定重组其所属的天文研究机构，成立了“国家天文观测中心”，包括北京天文台、上海天文台、紫金山天文台、云南天文台、陕西天文台（现为国家授时中心）、乌鲁木齐站、长春人卫站和广州人卫站（并入广州能源研究所）。同年4月23日，国家天文观测中心在总部北京天文台举行成立大会和挂牌仪式，艾国祥被任命为首任主任。
2001年4月21日，中国科学院进一步整合资源，正式成立了国家天文台，总部设在北京，下辖云南天文台、南京天文光学技术研究所、乌鲁木齐天文站和长春人造卫星观测站。南京天文光学技术研究所则由原南京天文仪器研制中心改制，成为科技型企业，并加入了知识创新工程的天文光学实验室。
紫金山天文台和上海天文台因其深厚的历史底蕴和在国际上的影响力，继续保持中国科学院直属事业单位的地位，接受国家天文台在学术上的协调与指导。国家天文台还与多所高校合作设立了多个研究中心，致力于科技创新和国际地位的提升。在国家的大力支持下，国家天文台的目标是建设一个具有国际影响力的高水平天文台，成为中国天文学界的重要代表。
中国科学院国家天文台，由原北京天文台、云南天文台、乌鲁木齐天文观测站、长春人造卫星观测站等台站及南京天文光学技术研究所和国家授时中心（原陕西天文台）于2001年合并而成，总部位于原北京天文台总部，在河北省兴隆县建有观测基地，该基地拥有一台直径2.16米（85英寸）的光学望远镜。国台正在开展的项目包括：FAST、LAMOST以及探月工程等。总部设在北京市朝阳区大屯路。在太阳物理方面颇有建树。