灵山乡隶属望奎县管辖。位于县境北部，北与海伦市毗连。海望公路纵贯乡境。乡政府驻地距县城11公里。灵山乡名源于古寺名。在后头村西北1．5公里处，1923年建一座寺院，称“灵山寺”（土改时被拆毁），由此得名。东北沦陷后期，设灵山村。1945年“九三”抗日战争胜利后，设定灵山区，1951年4月改为第三区。1956年4月，设定灵山乡。1958年9月，改称红星人民公社。1980年12月，更名为灵山公社。1984年4月，改为灵山乡。