1939年9月1日，德国进攻波兰。9月3日，英法对德宣战，二次大战爆发。此时该团的兵认为他们这支背负国家荣誉称号的部队有责任参加首战。最高统帅部原本计划在9月6日将其空投到波兰作战，但是这个计划因为苏军发兵波兰东部而取消。在随后的整个战役期间。“大德意志”步兵团仍然留在本土进行编制和训练。
9月15日，该团的士兵得到一条绣有哥特字母“大德意志”字样的绿色袖章，这对德国军队来说是一项至高无上的荣誉，因为在德国历史上只有精锐部队才有资格佩戴袖章。但是他们却觉得不满意，因为这条袖章的颜色和邮递员的一样（这一情况直到1940年才解决）。为了和党卫军区别，官兵们都把袖章戴在右臂。
10月1日，最高统帅部下令该团抽调一个连负责柏林的警卫工作。25日，大德意志团的车辆上开始正式采用“铁盔”标志（Stahlhelm)。 此时的大德意志团的实力已经远远超过一个普通的步兵团，最高统帅部也意识到是该让其参加实战的时候了。而他们的初战就是黄色计划（Fallgelb)--对西欧的入侵。
至1940年5月，全团编制如下：
第1步兵营
第2步兵营
第3步兵营
第4重装备营
（每个营都下属三个步兵连，一个重装备连。第4营是重装备营，下辖一个轻炮连，一个重炮连，一个反坦克连以及第640突击炮连）
大德意志步兵训练营（原第99机械化步兵训练营）
卡车连
第43机械化工兵营
机械化侦察连
第40后勤支队
1940年5月10日，隶属于古德里安第19装甲军的“大德意志”团在第10装甲师炮兵和工兵支援下，穿越卢森堡向比利时的要塞前进。同时大约400名该团第三营的士兵乘运输机从比特堡（Bitburg）和德肯多夫（Deckendorf）起飞伞降至比利时，12日，该团在萨莫依斯（Samois）首次和敌军轻微交火。次日既占领了横跨色当（Sedan）的马斯河（Maas）。随即暂属于第1装甲师，开始突破法国边境上的马奇诺防线（Maginot）。在接下来的5天里，“大德意志”团一直在法国境内的波尔松（Bolson）和斯通尼高地（Stonne）激战。
5月20日，该团向敦刻尔克（Dunkirk）以南的圣·奥玛（St.omar）挺进，当天德军已切断了法国西北部和比利时境内英法联军主力与法国中，南部地区的联系。21日，英法联军为了打破包围，截断德军先锋与后卫部队的联系，在康布雷-阿拉斯-亚眠三角地域对德军细长的封锁线突然发起了南北对进式进攻，全线德军在这一带的兵力十分薄弱，陷入了空前苦战。在阿拉斯（Arras），“大德意志”团遭到了英国远征军和法军的顽强阻击。但是在德国空军的强大支援下，地面部队与22日下午粉碎了英法联军的反攻企图。
从24日开始，战场重心移到了法国西北海岸的佛兰德尔地区（Flander）。24日-26日，“大德意志”团在敦刻尔克以南和英国远征军交战，并且在圣·皮尔布鲁克（St.Pierre Brouck）建立了桥头堡。
接下来2天，该团向霍特（Wormhoudt）和赫滋勒（Herzeele）进攻，围绕着敦刻尔克的激战一直持续进行着。29日，贝格尼斯（Bergnes）被“大德意志”团攻陷。6月4日，敦刻尔克被德军占领。随即德军开始实施法国战役的第二阶段作战“红色方案”（Fall Rot）向法国中南部推进。
6月6日，“大德意志”团奉命调往亚眠桥头堡（Amiens）。2天后，德军全面进攻威甘德防线（Weygand），6月8日，德军开始向奥依瑟河（Oise）追击法军。6月11日，由于奥依瑟河上的桥梁被破坏，德军转向东南进入圭斯卡德地区（Guiscard）。15日，横渡塞纳河（Seine）的战斗打响，次日开始沿克卢梭特（Creusot）和马隆（Maron）继续追击向里昂（Lyon）退却的法军。6月17日，法国政府被迫投降。
6月19日，德军终于占领了港口重镇—里昂。
从6月20日-7月4日，“大德意志”团一直驻守在里昂地区，一边担任占领军的角色，一边进行休整。7月5日，全团开入巴黎（在10日，该团吸收了一个摩托车连，成为其第17连）。
很有意思的是7月19日，全团还在巴黎圣母院（Notre Dame Cathedral）做了一次弥撒。 随后从7月27日-10月26日的三个月里，“大德意志”团一直在瑟尔萨斯（Celsace）训练，为入侵英国的“海狮计划”做准备。在这段时期内，他们进行了整编和补充：8月1日，第17连至第20连编成一个重运输营。9月5日，加入了第400机械化炮兵营。10月7日，对于该团官兵们来说是一个重要的日子：他们终于得到了一条黑色的袖章，替换下了原来的绿色袖章，戴在右袖口。10月12日，一个新的机械化工兵连成为其第18连。
也在同日，希特勒秘密下令停止执行“海狮计划”。因为从7月10日至10月底，德国空军在不列颠空战中已经损失了飞机1688架，飞行员6000余人，而对手英国皇家空军损失飞机915架，飞行员414人.飞机损失比接近2比1，人员损失比是6比1.到10月底，德国从空中制伏英国的企图已基本被挫败.而海军还没有足够的实力将陆军运过英吉利海峡。
10月27日，“大德意志”团被送往靠近瑞士边境的瓦尔达宏（Valdahon）训练场，为突击直布罗佗的“猫科动物计划”（Fall Feline）作准备.他们在这里度过了1940年剩下的日子.期间得到了新的补充：11月29日，加入了1个机械化防空连成为其第20连。12月16日，第99机械化步兵后备营被改名为 “大德意志”机械化步兵后备营。
1941年4月5日-10日，全团由火车运至维也纳，再经包伯（Baub），布达佩斯（Budapest）和塞格丁（Szegedin）抵达罗马尼亚。在这里编入第41机械化军序列。 1941年6月22日，巴巴罗萨正式开始，“大德意志”步兵团划拨给博克的中央集团军群，隶属古德里安的第2装甲集群。6月27日，“大德意志”步兵团越过布格河正式踏上苏联国土，。这时第2装甲集群与霍特的第3装甲集群回合，完成了对苏联西方面军的合围，“大德意志”步兵团赶上了这场著名的围歼战——明斯克战役。到7月9日德军以抓了32余万苏军，缴获坦克3000多辆。
明斯克战役后，“大德意志”步兵团被划拨给第10装甲师。后来这支部队先后在叶利尼亚、基辅和莫斯科作战。12月5日该团被苏军的反击驱逐出莫斯科城外。 1942年3月，东线战场陷入沉寂之中。这时“大德意志”步兵团也接到了扩编的命令，该团被撤往奥廖尔地区休整，并成为该师的第1步兵团，第2步兵团在柏林组建完毕，正向东线赶。此外，该师还获得一个装备3号坦克和4号坦克的装甲营、一个突击炮营、一个侦察营、一个反坦克营、一个通讯营和一个防空营。扩编为师的“大德意志”师在武器方面获得了前所未有的优待，装甲营获得了48辆3号及4号坦克，其中一半是长身管的4号坦克（Pzkpfw-Ⅳ，75mm L/43）。
扩编完成后，该师加入肯普夫将军指挥的第48装甲军，参加“蓝色”行动，其目标是攻占斯大林格勒，然后向高加索进军。
6月28日，该师作为先锋，一举突破了苏军第40集团军的防线。7月4日，“大德意志”师在顿河上游强渡成功，两天后突入沃罗涅日。庆幸的是该师并没有被派往斯大林格勒。8月，该师退往顿涅茨河北岸进行防御，作为集团军预备队使用。此后，该师参加尔热夫战役，与第9集团军一起死守尔热夫突出部。1942年10月初，“大德意志”师的第1步兵团被命名为“大德意志”掷弹兵团、第2步兵团被命名为“大德意志”燧发手枪团。 1943年1月13日，第13大德意志重装甲连被编入“大德意志”师，开始是接收9辆虎式和10辆3号坦克。
1943年2月，“大德意志”师所属的第18装甲军接到命令，会同武装党卫队第2装甲军前往苏联中部，抵挡苏军对哈尔科夫的进攻。2月14日，苏军西南方面军主力进攻哈尔科夫，该师与武装党卫队第2装甲军撤出该城，前往波尔塔瓦休整。一周后，该师在曼施坦因的指挥下发动反攻。3月5日，“大德意志”师加入战团。3月15日，德军重新占领哈尔科夫。
3月22日，该师再次来到波尔塔瓦休整。在这里，“大德意志”掷弹兵团1营得到83辆SdKfz251型半履带车，彻底从摩步营变成装甲掷弹兵营，师属防空营得到12门88毫米高射炮。6月23日，该师更名为“大德意志”装甲掷弹兵师。
7月1日，第13重装甲连扩编为“大德意志”重装甲营，第2连和第3连分别来自国防军第501重装甲营第3连和国防军第504重装甲营第3连。8月14日，第2连和第3连与第1连会和。此后，该营一直战斗在残酷的东线战场，直至战争结束。1945年3月，该营在巴尔加口袋被歼灭，但在该营近两年的战史中，该营摧毁了1036辆坦克和各种装甲车辆以及300门各类火炮，创造了5.76倍的交换比。
在完成换装后，“大德意志”师加入第4装甲集团军的第48装甲军，为“堡垒”行动做准备。7月初，“大德意志”师再次迎来“强援”——一个连的黑豹被划拨给该师。
7月5日凌晨，第48装甲军与武装党卫队第2装甲军在库尔斯克凸角南线进攻，但德军第1天进攻就损失了200辆以上的坦克。到7月15日，“大德意志”师已经损失全部的3号坦克和半数的黑豹坦克及4号坦克，该师被迫撤出托马洛夫卡。
7月30日，中央集团军群放弃奥廖尔突出部，“大德意志”师的使命就此完成。
8月3日，该师参加哈尔科夫—别尔哥罗德战役，该师的任务是与其他两个装甲师在波戈杜霍夫以南发动进攻，但苏军巨大的兵力优势像海绵一样吸干了“大德意志”师的动能。
后来，该师被分为几个战斗群，分批在第聂伯河防线上救火，反击时充当先锋，后退是负责殿后。到11月底，“大德意志”师在乌克兰南部的克里沃罗格与苏军作战。 在1943年11月之后，该师从一个防线转向另一个防线，从一场寡不敌众的战役转向另一场寡不敌众的战役，麻木、悲观的情绪在士兵中蔓延。
1944.1.27曼陀菲尔接替将GD师由“阅兵部队”带成王牌师的霍尔雷恩少将成为GD师师长。
1944.2.1曼陀菲尔晋升中将。
1944.2.27希特勒下令对GD师进行结构重组，目标是在增强作战能力的前提下削减兵员。
1944年3月，“大德意志”师跟着残破不堪的南方集团军群撤往罗马尼亚边境。4月，该师在边境城市雅西同苏军作战，以掩护友军撤往萨拉比亚。
1944年5月，GD师的防线总体比较平静，他们获得了宝贵的休整时间。刚刚组建不久的1029掷弹兵团（由班德罗夫上校指挥，兵员主要来自GD师预备役部队）被解散，被分配到GD师各部，部队战斗力得到了极大的恢复。1029团的1、2炮兵连成了炮兵团的10、11连，并在此基础上重建炮兵团第4营。1029团的防空营被加强给师属防空营，防空营成了六个连的庞大编制。此前遭受重创的燧发枪兵团2营也得有重建，而贝瑟斯上尉的燧发枪兵团一营则回本土换装为一个全机械化的SPW营，放眼德军一个师级单位中只有GD师和装甲教导师一次有两支SPW营。整编历时一个月，1944.6归建。同时重点加强补充的还有侦察营，得到足够的补充兵，还有大量装甲车辆，甚至包括捷克制38吨坦克，重建后的侦察营缩编为4个连，减少一个，但各连全部满编。虽然1029掷弹兵团的补充使得GD师实力得以重新恢复，兵员减少了，为确保战斗力，两个主力装甲掷弹兵团都从4个营缩编为3个，每营由5个连缩编为4个。
GD师的结构性重组进行了好几个月，同时也补充了许多装备。例如在2月，GD师除了补充了45辆装甲运兵车外，还陆续接收了17辆四号、16辆豹和16辆虎式坦克。装甲团基本满编，有四号和虎式坦克各40辆，豹式坦克80辆。两个步兵团也拥有数量众多的装甲运兵车。对这样一支拥有160辆坦克、40辆突击炮、总兵力两万左右的部队，曼陀菲尔曾不无自得的说：“.....我拥有的大量豹式和虎式坦克都是那时的主战坦克，它们在性能、射程和装甲等方面都属绝对顶尖......我的机械化步兵团有3营之众，而其他装甲师只有2个营......我师的军士和士兵大多是来自希特勒青年团的志愿兵，这些年轻人周身洋溢着自信和无与伦比的责任感”。
在1944年4-5月间的特尔古—弗鲁莫斯防御战中，GD师隶属于沃勒将军第8集团军麾下的57装甲军（军长是吉青纳），与友邻的骷髅师、46步兵师和24装甲师密切协同，以自身损失不到10辆坦克的微小的代价击毁苏军超过350辆坦克和200辆装甲车，几乎打残了科涅夫的乌克兰第2方面军麾下的装甲部队。此战是为科涅夫的耻辱，战后回忆录中对1944年4、5月间的罗马尼亚北部战场只字未提。而貌不惊人、资历不深的曼陀菲尔则借此战脱颖而出，作为东线能员干将的声誉牢牢树立起来，也成为二战后期德军装甲部队的一颗耀眼战星。此战也成为闪电战防御层面的一个经典战例，战后被美英诸多军事历史学家推崇，沃勒、吉青纳和曼陀菲尔对此战的胜利也都倍感自豪。
1944.5.30被称为“东线德军1944年唯一的一次主动进攻”作战正式发起，计划分成两个阶段，第一阶段由23、24装甲师担任主力，第二阶段由GD师和24装甲师。德军进攻初开始比较顺利，迫于后劲不足，苏军迅速增援，6.6沃勒下令中止进攻，他认为雅西北面和西北一系列高地均已攻克，自身的防御态势因纵深增加而有利。曼陀菲尔领导的GD师丢失了一些地盘，不过防线并未崩溃。6.8开始，GD师陆续从前沿撤出，享受一段难得的休整时间，并接着完成之前中断的结构重组共组。就连6.22苏军发起的规模宏大的巴格拉季昂攻势似乎也与他们很遥远。整个6月，GD师的装甲团得到了40辆豹式坦克和6辆虎式坦克，其它单位得到了140余辆装甲运兵车。完成休整补充没多久的GD师即将派往最危险的地方充当消防队的角色。
.7.25希特勒亲自打电话给曼陀菲尔询问罗马尼亚北部战况，以及GD师是否绝对有必要留在雅西和塞列特河之间。不等曼陀菲尔回话，希特勒就告诉他说安东内斯库每天打电话询问是否会调走GD师。显然安东内斯库认识到GD师极端重要的支柱作用。曼陀菲尔也认为所部足以左右此间战场，但认为还是有必要开往更需要的地方，那就是正面临苏军威胁的东普鲁士！前一天的7.24时候，GD师就接到调往北乌克兰集团军群的命令，但一天后要求迅速调往东普鲁士。
8.8，GD师意外接到了要其进攻距离东普鲁士不远的立陶宛重镇维尔卡维什斯基的命令，GD师和曼陀菲尔对此大为不满和意外，因为大本营根本无法提供任何详细的信息，而且GD师并未完成集结就又被拆开使用。结果自然可想而知，虽然成功突入城池，也完成了任务，并摧毁了苏军69辆坦克突击炮和61门火炮，但离开罗马尼亚时齐装满员的GD师也损失惨重，其中装甲部队自身一个小时就损失80辆以上坦克，其中彻底报废23辆。此战惨痛的损失震惊了参谋总长古德里安和希特勒，8.10曼陀菲尔被召往大本营解释，最后澄清了GD师损失惨重的原因，是因为副统帅凯特尔误把希特勒的一个尚未形成命令的想法当成了命令，命人下达，导致事起仓促，损失惨重。
8月中旬，GD师作为主力部队参加了双头作战，虽然实现了部分战术目标，但自身损失也很惨重。
9.1，GD师的装甲掷弹兵团团长卡尔.洛伦兹上校完成了师级指挥官的近一个月培训，接替曼陀菲尔出任GD师师长，之后他晋升了少将，而曼陀菲尔则被越级晋升为第5装甲集团军司令官，而排在他前面的资深将军有至少9位，包括他的老上级原第7装甲师师长丰克。洛伦兹一直指挥GD师直至战争结束。
