合肥工业大学数学学院的历史可以追溯到其前身，即合肥工业大学基础部数学教研室。1985年，数学与力学两部分合并，催生了最初的数学力学系。随着1996年合肥工业大学与安徽工学院的合并，这两所学校的数学和力学专业合并，形成了新的数学力学系。
1999年的院系调整中，数学力学系的数学部分与物理系合并，成立了理学院。2007年，理学院进一步拆分，专门成立了数学系。然而，仅仅两年后，即2009年4月，数学系被整合并更名为数学学院。这一系列的变革反映了学院在教育改革中的不断优化和专业细分。
在多年的建设与发展中，合肥工业大学数学学院在学科学位建设和师资队伍建设上取得了显著的进步。学院注重提升教学质量，培养了一大批具备深厚数学理论基础和实践能力的人才，为学校和国家的科研与教育事业做出了重要贡献。