上海男排的历史可以追溯到1996年，当时随着中国排球联赛的开展，上海男排改制成俱乐部队。在1999-2000赛季，上海队首次问鼎全国男排联赛冠军。上海队在决赛中与拥有卢卫中和施海荣等名将的江苏男排对决。上海队在比赛中表现出色，以3-1战胜对手，首次获得联赛冠军。尽管当时的上海队并不具有绝对的实力，但他们把握机会能力较强，在半决赛中就终结了卫冕冠军四川队对中国排坛连续三届联赛的垄断。
在2003-2004赛季的男排联赛总决赛中，上海队凭借“双子星”沈琼、汤淼以及老将徐文斐的出色发挥以3-1力挫浙江男排。时隔四年再次在联赛中夺魁，开启了“七连冠”霸业的序幕。2004-2005赛季，上海队遭遇了辽宁队的有力挑战。他们首回合落败、次回合一度以0-2落后的情况下实现大逆转，最终卫冕成功。2005-2006赛季，上海队与江苏队在决赛中遭遇，攻击力更胜一筹的上海队在客场和主场分别以3-2和3-0获胜，荣膺“三连冠”，成为了继四川队之后第二支在联赛中获得“三连冠”殊荣的球队。
在2006-2007赛季，上海队依靠沈琼、汤淼等人的稳定发挥在总决赛中先后以3-1和3-0击败辽宁队获得“四连冠”。整个赛季15胜1负，主场8战全胜的骄人战绩显示了该队无人可敌的霸气。2007-2008赛季，因为汤淼的受伤让上海队不得不变阵，方颖超先后担纲接应和主攻的重任，新人李春晖也崭露头角。上海队第三次在总决赛中遭遇辽宁队，技高一筹的他们在总决赛四场较量中以3-1胜出，斩获“五连冠”。
在2008-2009赛季，上海队在常规赛中接连受挫于辽宁和江苏，一度跌落到积分榜第八位。好在名帅沈富麟重新出山后让球队精神面貌获得极大改观，上海队在总决赛中成功击败河南队荣膺“六连冠”。2009-2010赛季，上海队虽然在常规赛中也屡次遭遇挑战，但是他们在总决赛中把握机会能力更强，先后以3-1和3-2战胜八一队连续第七次登顶成功。
在2010-2011赛季，上海男排在得到了强力赞助的情况下，全队的精神面貌得到了显著提升。常规赛获得第一后，顺利杀入决赛，在决赛中零封江苏队获得最后冠军。2011-2012赛季，上海男排在两阶段的小组赛中获得常规赛第一，并且在半决赛和决赛中分别以2:0大比分横扫北京和八一队，小将詹国军在本届联赛中冒头。上海男排由此成就十冠王伟业。此外，上海男排俱乐部的球员作为主力代表上海参加了2005和2009年两届全运会，均夺取冠军，使得上海在历届全运会上男排冠军次数达到3次，高居各地之首。
亦称作上海男排。1996中国职业男排联赛开展以来，至2012年为止上海男排共夺得10次联赛冠军，多次全国锦标赛和大奖赛冠军，是中国男子排球联赛中的“巨无霸”球队。