地区时,商务印书馆及其所属东方图书馆均被炸毁,成为中国现代图书馆事业和文化事业的一场浩劫。1932年12月1日,上海《申报》馆因创办60周年而建立了流通图书馆。
随着上海城市的发展,至20世纪20年代末,上海城市人口已近350万,成为中国第一大城市,当时的上海市政府规划将江湾一带作为市中心区。与城市发展相适应,1933年8月,上海市政府拨款30万元,开始在江湾筹建一所新的市立图书馆(后定名上海市图书馆)。该馆于1935年10月竣工,1936年5月1日正式建成,1936年9月对外试行开放。但不到一年抗日战争爆发,服务活动停止。1946年10月,由宋庆龄主持的中国福利会儿童图书馆第一儿童阅览室正式开放。上海城市的发展使各类文化名人纷纷移居上海,而时局的动荡也使各类文物的交易在上海增多。为拯救中国古籍,叶景葵、张元济、顾廷龙等文化名人于1939年5月在上海创办上海市私立合众图书馆,1941年8月正式建成,成为现代上海有影响的专门从事收藏古籍与近代文献的专业图书馆。
中华人民共和国建国初期,上海首任市长陈毅元帅十分重视城市的文化建设,将原来市中心的上海跑马总会建筑划归上海图书馆,并为新建立的上海图书馆题写了馆名。1952年7月22目,上海图书馆正式建立,标志着上海图书馆事业进入了一个新的发展阶段。在上海图书馆建立的同时,颇具规模的各类专业图书馆也相继建立,如1951年10月16日建成的华东师范大学图书馆;1952年10月建成的上海第二医学院图书馆、华东化工学院图书馆、华东政法学院图书馆等;