1959年，第一届全国运动会在首都北京成功举办，全国上下兴起了一股体育热。上海原有体育场馆或规模有限，或远离市中心，极大制约了上海体育运动的发展。在1959年建国十年国庆前夕，上海正式向国务院提请上海体育馆建设方案，并于次年获得批复。
20世纪60年代，徐家汇地区还只是一片荒僻之地。漕溪北路附近“地区适中，交通、集散方便，结合城市发展远景，有扩建余地”的优良条件，成为上海体育馆选址于此的依据。
上海体育馆由国人自行施工建造，所有材料和设备均由我国自行设计生产。当时上海市民用建筑设计院（现上海建筑设计研究院有限公司）承担设计任务，待地址和设计方案都审定完毕后，1960年3月1日动工兴建。可惜当时遭遇困难，仅完成了部分打桩作业，工程就偃旗息鼓。
1972年上海市体委提出重建万人体育馆的报告。次年3月，乘着乒乓外交掀起的来访热潮，体育馆工程重新启动。经过两年的奋斗，上海体育馆于1975年8月竣工，一座当时中国规模最大、设施最先进、功能最齐全的体育馆屹立在上海西南。因容纳观众数量达到1.8万人，所以也被上海人亲切地称为“万体馆”。之后很多年，这座圆润剔透似水晶宫殿的体育馆成为上海人民心头的骄傲。
上海体育馆的设计出自中国工程院院士、建筑设计专家魏敦山之手，他也有着“上海体育建筑之父”的称号。他以北京天坛为灵感，将上海体育馆设计成由宽阔台阶高高托起的一座圆形建筑，这种对称和轴线的设计具有鲜明的中国传统建筑特征，蕴含着中国智慧。已经九旬高龄的魏老，至今难忘设计、建造上海体育馆的过程，大家排除万难、攻克技术难关，发扬了独立自主、自力更生的民族创新精神。
20世纪70年代的中国，尚处在计划经济体制模式下。国内物资匮乏、缺少外援，建造如此一座“庞然大物”需要举全国、全行业之力，其难度可想而知。
上海体育馆的巨大圆形屋顶顶盖直径达110米，重量超过600吨，如何安装它成为当时的一个世界性难题。工作人员反复研究试验，最终通过“中西结合”的方法，在地面完成顶盖拼接，并整体吊装以提升高度，再通过旋转使其精确落位。此外，万体馆外立面采用的是上海耀华玻璃厂在国内首次试制成功的浅蓝色隔热玻璃，场内照明则采用了605只“满天星式”碘钨灯，让万体馆的穹顶如星空般熠熠生辉。
上海体育馆代表着20世纪70年代体育建筑的最高水平，也是国内首座尝试观演结合，可以实现舞台和体育竞技转换的场地。1988年7月1日“世界建筑日”前夕，上海体育馆作为新中国成立以来43座优秀建筑之一，和上海游泳馆一起被列为全球范围建筑史上的成功之作，首次载入英国皇家建筑学会出版的权威著作《世界建筑史》，这标志着我国当代体育建筑走向了世界。
![]()
一座建筑，因为一个个历史性时刻，被赋予特殊的意义。
1976年9月19日，在“友谊第一，比赛第二”的热烈气氛下，上海国际乒乓球友好邀请赛在上海体育馆拉开帷幕，馆内座无虚席。在为期4天的比赛中，来自日本、瑞典、南斯拉夫、德意志联邦共和国、罗马尼亚、法国、中国的选手，以球会友，一时传为美谈。当年由张充仁先生为赛事创造的雕塑作品“友谊第一”今天依然矗立在上海体育馆前，见证了这段光辉历程。
小球推动大球。中国打开了大门，与世界有了更多交流。如今已是耄耋老人的陈鸿康收藏了上万件体育纪念藏品，这些藏品还在国内以及境外多次展出，在世界各地传递着中国体育的辉煌与梦想。
2005年4月30日，小小的乒乓球再一次把全世界的目光聚焦到了中国上海。第48届世界乒乓球锦标赛在上海体育馆拉开帷幕，共有147个国家和地区的1500名运动员、教练员、官员参加，规模创历届新高。上海世乒赛也是继1961年北京世乒赛、1995年天津世乒赛后，中国作为东道主第三次承办乒坛盛会。上海以“办成乒乓运动的盛大节日”的全新理念，没有辜负世界的期盼，举办了一届成功的世乒赛。在这届世乒赛上，中国乒乓球队包揽了5枚金牌，实现金牌破百的伟大壮举。
赛前，时任国际乒联主席沙拉拉在视察世乒赛主赛场上海体育馆时，被深深地震撼，他不断地重复两个词：“漂亮”“难以置信”。当时建成30年的上海体育馆为了承办世乒赛经历了一次“换装”。工人日夜奋战109天，把体育馆底层和二层的外墙面全部换成玻璃幕墙；为提供更舒适的观赛环境，在全馆内都装上了空调；原先的木质座椅可能会钩住女观众的裙子，全部更换成桔红色的塑料座椅；馆内两侧加装了大屏幕，还加装了残疾人专用电梯、通道、轮椅平台。
陈设在上海体育博物馆第一展厅的英国早期乒乓球单打套装
1904年，上海四马路（今福州路）一家文具店的老板从日本购回10套乒乓球器材，并在店内作表演，于是买乒乓球、打乒乓球的人逐渐增多，各大城市也先后推广这项活动。1918年，上海率先成立全市的乒乓球联合会，同时其他组织、球队纷纷建立，并于1923年首次举办了比赛。同年，全国乒乓球联合会在上海诞生，中国乒乓球运动得到了初步的发展。新中国成立后，乒乓球运动得到了飞速发展。特别是在20世纪50年代，全国范围内开展的群众性乒乓球运动，使乒乓球技术水平得到了很大提高。
上海是乒乓球世界冠军的摇篮。上海乒乓球运动的强大不仅因为拥有一个个世界冠军，更因为这支队伍的传承，在数十年的发展史上，前辈们克服了无数困难，将成功的经验传授给一代又一代的年轻队员。
今年的乒超总决赛，由樊振东、许昕、周恺、赵子豪等组成的上海地产集团俱乐部主场作战，是夺冠热门。此前在10月的全国乒乓球锦标赛，樊振东、许昕携手队友周恺等为上海队捧起男团冠军奖杯，实现了全锦赛三连冠，捍卫了上海男乒的荣誉。
改造升级后的上海体育馆，现在也是上海大鲨鱼男篮的主场
今年的乒超总决赛是上海体育馆完成升级改造后迎来的首个乒乓球比赛，翻开新的历史篇章。
2017年，徐家汇体育公园整体改造工程启动，上海体育馆本着“修旧如旧”的原则，进行更新升级。改造后的上海体育馆建筑面积近4万平方米，增设可移动看台，可容纳近1.2万观众，其中活动座席2000余座，具备承办国内外顶级赛事和活动的条件，为上海加快建成全球著名体育城市聚力赋能。
