1888年（清朝光绪十四年）10月2日，美国基督教美以美会在清朝江苏省江宁府干河沿创建汇文书院。书院内设博物院（文理科）、医学馆（医科）、圣道馆（神学），并设有附属中学、附属医院等。
1890年，汇文书院创办成美馆，正式设立中学部。
1892年，书院授课分为大学堂、高等学堂、中学堂、小学堂四级，每级学制均为四年。
1888年-1898年间，汇文书院先后建造了钟楼、图书馆（青年会所在地，亦作琥珀厅）、口子楼（亦作考吟堂）、东课楼、西课楼等建筑。
汇文书院设立之时，中国的科举制度尚未完结。书院的创办对中国近代高等教育的产生发展、培养新兴高级人才具有积极而深远的影响。
20世纪初，由于中国社会风气的转变，教会学校逐渐引起人们的注意，汇文书院开始与地方官员有所接触。学校举行毕业典礼时，许多地方官员曾应邀出席，这而其中包括两江总督张之洞、端方、张人骏等。 1910年，汇文书院与宏育书院合并为金陵大学堂（1952年合并于南京大学），中学堂更名为金陵大学附属中学（简称金大附中）。
1921年，金陵大学迁入鼓楼新校区，原汇文书院和金陵大学建筑群交由金陵中学使用至今。
1924年，因收回教育权运动，刘镜澄任金陵中学代理校长。
1927年，南京国民政府提出“收回教育主权”，规定大中小学校长必须由中国人担任。金陵中学由刘靖夫出任第一位华人校长。
1929年，耶鲁大学硕士张坊先生担任金陵中学校长，直至1951年金陵中学易名。
金陵中学早期按照教会的办学宗旨，推行基督化教育，培养了大批优秀人才，促进了中西文化交流。 1937年12月，因抗日战争爆发，金陵中学张坊校长带领部分教员西迁至四川万县沙河子镇办学。
1941年9月，万县金陵中学在四川成都开设驻蓉分班。
1937年12月，日军占领南京时期，德国友人约翰·拉贝将金陵中学做为国际红十字会南京安全区（在南京大屠杀期间前后收留了约二十五万难民，其详情可见《拉贝日记》）。
金陵大学、金陵大学附属中学西迁前，美籍教授贝德士、史迈士、林查理及中国籍教师陈嵘、齐兆昌组成“留京护校委员会”，支持金大校友开办“金陵补习学校”。
1939年冬， 南京留守人员恢复办学，金陵补习学校定名为鼓楼中学，由陈嵘先生任校长。
1942年，鼓楼中学改名为同伦中学，由金陵大学原址迁回金大附中原址。
1945年秋，日本投降后，同伦中学改名为南京金陵中学。
1946年，万县金中及其驻蓉分班迁回南京，与南京金陵中学合并，恢复校名为金陵大学附属中学，校长仍为张坊博士。 1951年，金陵大学附属中学与金陵女子文理学院附属中学合并，改名为南京市第十中学。
中华人民共和国成立后，广大海外华侨将子女送回国内培养，学校成立了华侨学生生活委员会，专司华侨学生的生活管理工作。1952年-1966年学校共培养华侨学生400余名。
1956年，南京市教育局确立南京市第十中学为南京市重点中学。
1960年，南京市第十中学被确立为实行五年制教改试点学校之一。
1961年， 南京市教育局继续确立南京市第十中学为南京市重点中学。
1966年，文化大革命开始后，学校行政机构和党组织基本瘫痪，教学完全停止，连续两年未招新生。
1968年10月和1969年9月，初中、高中先后恢复招生开始上课。
20世纪60年代，学校毕业生不断上山下乡。1966年-1968年的老三届学生，几乎全部上山下乡。
1970年5月，学校高中学生在南京东郊参加青龙山矿校。 1988年5月，经南京市人民政府批准，学校由南京市第十中学更名为南京市金陵中学。杨祖恒校长邀请著名书法家、全国政协副主席赵朴初先生题写了校牌，同时聘请了陈裕光先生为名誉校长。
20世纪80年代，金陵中学建立了包括必修课、选修课、劳动技术课、社会实践和课外活动在内的比较完整的教育体系的探索和实践。
20世纪90年代，学校新建了曹隐云科学馆、行健楼、汇贤楼、汇智楼等建筑。
1996年10月，金陵中学在初步建立起教学体系的基础上，制订了《以学分为制约和激励机制的高中全面素质教育改革方案》，努力探索一条高中素质教育全面探索的改革之路。
1997年，金陵中学开始开设高中、初中实验班。
2000年1月，金陵中学率先于全国在高一、高二年级开设研究性学习课程。
2002年11月，金陵中学与南京河西新城国资集团在奥体中心旁征地230亩，共同建设了金陵中学河西分校（南京市建邺区梦都大街60号）；2003年9月正式开学。
2006年，学校取消初中部。
2008年9月，金陵中学与鼓楼区教育局、拉萨路小学投资1亿，联合创办的金陵汇文学校（南京市鼓楼区清江路19号）正式开学。该校拥有优秀先进的设备，幽雅的环境，尽职尽责的老师，是鼓楼区最大的初级中学。
金陵中学与南京市建邺区教育局创办了金陵中学实验小学（南京市建邺区松花江西街6号）。
2008年，金陵中学与南京实验国际学校（南京市高新区高新路10号）联合创办了“金陵中学课程改革实验基地学校”。
2008年9月30日，金陵中学举行了南京市金陵中学建校120周年庆典活动。国家教育部、中国教育学会、江苏省教育厅、江苏省委书记、北京大学、清华大学、同根同源的南京大学、复旦大学、美国亚利桑那大学校长等发来了贺信，江苏省副省长何权出席并代表省政府向金陵中学表示热烈祝贺。
2012年3月，金陵中学与南京市栖霞区人民政府、南京市仙林大学城管委会、南京市教育局、南京大学联合创办的金陵中学仙林分校（小学部）（南京市栖霞区仙林大道188号）正式招生开学。
2014年9月，金陵中学仙林分校（初中部）、金陵中学岱山分校、金陵中学龙湖分校正式招生开学。
