创建于1879年,原名是圣约翰书院(Saint John's College),是由美国圣公会上海主教施约瑟(Samuel Isaac Joseph Schereschewsky)将原来的两所圣公会学校培雅书院和度恩书院合并而成,1950年12月,圣约翰大学正式宣布与美国圣公会脱离关系。1952年在全国高校院系调整中,文、理学院主要并入华东师范大学和复旦大学,圣约翰医学院与震旦大学医学院、同德医学院合并成立上海第二医学院(后改名为上海第二医科大学,2005年改为上海交通大学医学院)。圣约翰大学原校址则交给新成立的华东政法大学。
圣约翰大学是首个将西方教学风格引入中国的学校,除了极重视英语以外,宗教、体育和课外活动也十分被强调。校内的体育设施完善,这里还诞生了中国历史上的第一支足球队。其他的学生组织、活动也十分多,包括许多十分活跃的左派学生团体,曾十分活跃地参与了五四运动等政治运动。1925年五卅惨案发生后,曾有17名教职员及553名因对学校当局不满而离开圣约翰大学,于当年8月另组光华大学(今延安西路东华大学校址)。
1937年抗日战争爆发后,圣约翰大学曾将学校迁往公共租界里的南京路,与大学、东吴大学、之江大学四校组成上海联合基督教大学,但后又于1940年迁回原校址。学校的办学经费除了来自学费的收入外,也有教会和其他社会捐款。
1950年12月,圣约翰大学正式宣布与美国圣公会脱离关系,1952年在全国院系调整中被拆散并入其他多所高校,主要是华东师范大学、复旦大学和上海第二医学院。其校址现为华东政法学院所用。