灵山街道因辖区南部的灵山得名,是一方富有灵气的山水胜境。灵山形如灵芝、远近闻名,是胶东一带民间信仰的重要区域。据清《即墨县志》记载,灵山青霄元君祠始建于西周元王五年(公元前741年),历史以来受到方圆百里居民礼敬供奉。革命战争年代,中共即墨县委成立于此,积极开展抗日宣传,发展党员队伍,建立党的基层组织,团结抗日力量,在灵山点燃了全县抗战的烽火,从此党的抗日活动基点从东到西联系起来,实现了党对即墨抗日组织的统一领导。1949年,经毛主席签令部署灵山战役打响了解放青岛的第一枪,打出了进入青岛、北方解放的决胜战。