从20年代初到40年代末，李书华在国内从事科学教育和科学研究的组织管理工作，对于20世纪上半叶中国科学的发展起了促进作用。
1922年9月，李书华来到北京大学，任物理系教授。当时物理系主任是颜任光，教授有何育杰、夏元瑮、丁燮林（兼任预科主任）。李书华在历年教学中，曾分别讲授一年级普通物理学（包括物性、热学、热力学、音学）、初等力学和普通物理实验；二年级普通物理学（包括光学、电磁学）和普通物理实验；三、四年级的近代物理学（当时称为“放射学及X光线”，包括离子、电子、阳射线、X光和放射学等内容）；预科物理、初等物理实验和本科四年级的专门物理实验。1925年和1926年，李书华当选为全校教授会评议员。1926年11月，被选为物理系教授会主任，即今日的物理系主任，但他仍然担任一年级普通物理学和普通物理实验、四年级的专门物理实验课程。由于一批新教授（先有颜任光、丁燮林，后有李书华、温毓庆、杨肇燫）来到北京大学物理系，使20年代的北京大学课程水准大为提高。
1925和1926年间，北洋政府经常拖欠教育经费和教师薪金，教授们一年只能领到5个月的报酬。因此，教师离校、改从他事者日益增多。这使学校不仅不能开展科学研究，甚至连维持正常上课和实验都感到困难万分。李书华任系主任时期恰遭此厄运，他勉力维持系里工作，殊为不易。
1926年“三一八”惨案后，中法大学代理校长李石曾被段祺瑞诬为“假借共产主义，啸聚群众，率暴徒闯袭国务院”，而被下令通缉。又是在这艰难时刻，李书华出任代理中法大学校长之职。撰写了中国的指南针、中国纸的起源与传播、中国的印刷术等论文或专著，对于传播中国的传统科学文化起了一定作用。
1928年6月张作霖退出北京，国民党中央政治会议决议直隶省改为河北省，北京改为北平。6月下旬，大学院院长蔡元培派高鲁接收北京原有国立学校，李书华被邀为襄助接收人之一。9月国民政府会议通过“北平大学区组织大纲”，北京原有的9所国立大学和天津国立北洋大学合并为国立北平大学，李石曾任校长，李书华任副校长。撤销河北省教育厅，河北省教育行政归北平大学管理。不久，李书华又兼任北平大学代校长。在北平大学区时代，李书华虽忙碌异常，但他仍然像往常一样，在物理系每周讲授两小时物理课，直到1929年夏大学区制被撤销，李书华参与北平研究院院务工作时方离开北京大学。
北平研究院筹备成立与北平大学同时，起初该院是作为北平大学的一个研究机构，由北平大学校长李石曾和副校长李书华总其成。1929年7月正式确定其为地方研究院，由李石曾任院长，李书华任副院长襄理院务。北平研究院和中央研究院几乎同时成立，它们标志着中国近代科学的建立。李书华参与创建北平研究院，从该院成立到1949年的20年间，为该院的建设、组织和发展起了极其重要的作用。从1929年到1936年，该院为院、部、所三级结构，共有10个部（如天算部、理化部、出版部、海外部等）、17个研究所级机构（如物理研究所、化学研究所、生物学研究所，以及博物馆、图书馆和出版委员会等）。1936年后该院为院、所二级结构。起初，李书华除负责全院日常事务外，还兼任出版部部长、理化部部长、物理研究所主任、理化部水利研究会干事。1930年严济慈博士回国，任物理研究所主任兼镭学研究所主任，李书华的所级事务才稍有减轻。1936年起，各研究所主任名称改为所长。“七七”事变前后一二年，为北平研究院的疏散及内迁，李书华做了大量的组织工作。1938年8月，他在昆明设立办事处，安排各研究所相继迁入昆明等地。又由于战事影响，停发数月经费，在极端困难的条件下，他维持了全院研究工作和日常事务。在整个抗日战争的特殊环境和特殊时期，北平研究院得以存在和发展，是和李书华的辛勤工作与组织管理才干分不开的。
1943年9月，李书华接替叶企孙出任中央研究院总干事。在抗战的艰难时期，他身兼两个研究院的日常行政事务，并且着实下功夫要将它们办好。在他任总干事期间，1943年11月修订了中央研究院组织法和该院评议会条例，1944年又制定了中央研究院研究所组织规程。他先后还具体操办了动植物研究所分为动物研究所和植物研究所，地质研究所、物理研究所和心理学研究所3个研究所搬迁事务，筹备成立医学研究所和其他一些所改名问题，等等。
除了教学和繁杂的行政事务外，李书华还在国内各报刊上发表了大量的科学评论，其中包括科学史、科学教育、科学与抗战、国际合作等方面的精辟见解，为策划和推动中国科学的发展而呐喊。他言行并重，尤其在创建北平研究院期间，上下奔走，筹措经费，推举人才。就中国科学发展问题，他的设想是，应当吸取洋务运动失败的教训，要竭尽全民之力兴办自己的科学教育和研究机构。抗战期间，他极力主张“科学研究应注重实际应用问题，以利于抗战之急需。”长期以来，他始终认为，“科学研究乃工业进步之基本，科学研究恰如水源，科学应用恰如河流。如无水源，便无河流”；“如仅在应用方面学习与摹仿他国，必致望尘莫及，永落人后。故欲在应用方面迎头赶上各国先进，惟有提倡科学研究。此则吾人所应充分认识与积极倡导者也。”40年代中期，他提出工业化与科学研究相结合的必要。他说：“我国战后最需要者为工业化。故工业应与科学研究取得密切之联系，此又吾人所应特别注意者也。”就科学研究的组织系统问题，他提出了英、美、法、苏四种模式，供大家评述取舍。而他自己则认为，“无论何种方式，吾人均应注意科学研究与工业之联系”。这些虽是半个世纪前的言论，今日看来仍不失远见卓识。
李书华平时严于律己，思路开阔。由于他具有相当的组织能力和行政管理能力，也由于他在30年代初曾一度出任南京国民政府教育部长和立法委员，因此在当时科学界有一定威望和影响。他还是中国物理学会的创建者之一，曾任该会第一、二届会长（1932—1934）。1948年，因其出色的科学研究组织管理才干而被选为中央研究院院士。1949年，他受谣传与恐吓之裹胁，流离欧美，心怀故土。虽曾一度任联合国教科文组织的中国代表，但长期在美国哥伦比亚大学东亚图书馆默默地度过晚年。其时，他不仅以研究和撰写中国科学史来表达他思乡之情，还写下了《碣庐集》和《李书华游记》两本自传体传记文学。
