始建于古希腊,15世纪见于史籍。1791年并入俄罗斯。
1794年由叶卡特琳娜二世建立的,效访了彼得大帝兴建圣彼得堡,修建了这座“通向黑海的窗口”城市。 当时的俄罗斯女王认为她的国家需要在黑海边建一个港口,以用来扩展和欧洲之间的贸易往来。在今天的敖德萨的土地上曾经有一个古老的希腊殖民地,当时克里米亚的鞑靼人就居住在这里。他们后来被土耳其人代替。土耳其人在这里建立了要塞,后来又在1789年被俄国人占领了。
1819~1859年辟为商港,促进城市发展。因为得天独厚的地理位置,敖德萨成为一个贸易,工业和科技中心,在欧洲具有重要的意义。成立一百年之际,敖德萨在人口和经济实力方面成为俄罗斯帝国当中第四位的城市,次于圣彼得堡、莫斯科和华沙。
19世纪末,通向基辅和利沃夫铁路建成,港口吞吐量扩大,敖德萨成为仅次于圣彼得堡的全俄第二大港。
在第一次世界大战和俄罗斯内战期间它免于战乱,十月革命后,新建和改建了30多个工厂企业,1940年工业产值比1913年增长8倍。
1941年10月至1944年4月城市被德军占领,遭到严重破坏。
1948年已完全恢复。