学院于1995年5月由原上海大学国际商学院英语、日语系、原上海理工大学外语系、原上海工业大学外语系、原上海工业大学外语系合并而成。原上海科技大学外语系、原上海科技高级中学外语系。

前身为上海大学国际商学院，成立于1978年，是上海外国语学院的分院。1983年5月，原上海大学在复旦大学、上海机械学院、上海外国语学院、上海法律学院、上海美术学院五个分院的基础上成立，并更名为上海大学外国语学院。1986年，在原上海市市长王道涵的建议下，更名为上海大学国际商学院。1993年5月原上海大学国际商学院与原上海大学商学院合并成立上海大学国际商学院。1994年，四所学校(上海工业大学、上海科技大学、上海大学、上海科技学院)合并成立新的上海大学。英语系和日语系从原上海大学国际商学院中分离出来，并入新成立的上海大学外国语学院，改为英语系和日语系。1999年8月以前，学校位于上海市徐汇区浦西路150号。

上海理工大学外语系始建于1964年，1968年关闭。1986年，上海理工大学外语系成立。1992年更名为上海理工大学外语系，开设英语(科技英语)专业和日语专业。1994年，四所大学(上海工业大学、上海理工大学、上海大学、上海科技学院)合并为新的上海大学，外语系并入新成立的上海大学外国语学院，英语(科技英语)专业改为英语二系；日语专业并入了日语系。1999年8月以前，学校位于上海市嘉定区城中路20号。

四校合并后，其他学院外语教研部的教师将并入学院外语教研部。

1999年8月，随着上海大学新校区的建成，学院迁入新校区，英语系和英语系合并为英语系。