1952年12月21日，上海博物馆正式开馆，面向公众开放。博物馆选址在南京西路325号，新古典风格的“跑马厅”大楼，曾经是1949年前权贵们风花雪月、觥筹交错的地方。也正因如此，建筑的内部格局符合展厅的需求，够大，挑高够高。在把一些房间打通后，二楼三楼正式成为博物馆的陈列室。

上海博物馆的文物收集是从零开始的。建馆初衷并非是建一座地方性博物馆，而是全国性的中国古代艺术博物馆，这就意味着藏品的数量、质量都必须达到国家级标准。当时的上海市长是陈毅，他对文博事业的支持，让上海博物馆的筹建有了保障。解放战争时期，陈毅就命令作战部队在挖战壕时注意收集和保护地下文物及流散文物。在第三野战军主管这件事的是历史学家李亚农，在他的主持下，一共收集保管了“两卡车”文物，计2853件，它们成为入主上海博物馆的第一批文物。

在这之后几年，社会捐赠成了重要的文物来源。据博物馆统计，1950年有15人捐赠443件，1951年有138人（223次）捐赠13403件，1952年有36（40次）捐赠602件，暂得楼的胡惠春、大克鼎曾经的主人潘达于和捐赠过云楼书画藏品的顾公雄、沈同樾夫妇都是在这几年将家族收藏倾囊而出，献给正在筹建中的上海博物馆。

上海市文物保管委员会成立于1949年9月17日，李亚农任主任，副主任是徐森玉。徐森玉曾经是北京大学图书馆馆长、故宫博物院古物馆馆长，在全国文博界有很大的影响力。上任后不久，李亚农和徐森玉就找来了一批收藏家。在战乱年间，这些爱国收藏家既不愿意把名贵文物卖给古董商出口到国外去，又要千方百计防止外来侵略者的掠夺和盗贼的偷抢，家中文物能保存到解放后，大多是费了许多周折。

政府鼓励收藏家捐赠，部分还有资金补贴。在捐赠之外，博物馆也会设立专门的收购资金。上海市博物馆副馆长陈克伦接受本刊采访时介绍说，在上博的瓷器收藏中，9件汝窑中，有2件是海派画家、鉴藏大家吴湖帆旧藏。其中一只汝窑盘，是花了6000元购入，这个价格在当时也超出了预算，“徐森玉就跑到财政局长那儿去要钱，要不到，他又跑到陈毅市长办公室去拍桌子去，他说财政局长没给他钱，陈毅市长就把财政局长叫去，徐森玉要多少钱就给他，他不会瞎花的”。如今这只汝窑盘已很难再用价格去衡量了。

在上海博物馆的收藏历史中，私人捐赠有两个高峰，一个是上述的20世纪50年代初，刚经历过战争，一个在80年代，刚经历过“文革”。进入90年代，捐赠热潮退去。当文物越来越与资本挂钩，捐赠对于收藏家来说，就变得不那么现实了。现在上博负责捐赠工作的人员仅有两人，主要工作除了对接捐赠之外，更重要的是维系曾经的捐赠人关系，以博物馆的名义对他们的生活给予一些关照。这些捐赠人都在慢慢老去，一个一个离开。然而，文物还在这里，永远讲述着每一个捐赠人的故事。