大黑山之名始称于明代,明弘治三年(1490年)重修胜水寺的碑志撰称“大黑山”,但到了明嘉靖六年(1527年)重修观音阁碑志时则书“大赫山”,清顾祖禹著《方舆全图》称之为“大黑尚山”,日俄战争后开始称“大和尚山”、老虎山。到了1980年,大连市政府搞了一次地名规范化活动,统一规范命名为大黑山。