금오산성의 수축 연대는 문헌상으로 정확히 확인할 수 없다. 하지만 고려 말 왜구들의 침입이 내륙까지 빈번했고 인명 살상과 노략질이 심해지자 주민들이 천혜의 요새인 금오산으로 피난, 산성을 쌓았을 것으로 추정된다. 또한 당시 고려 말 선산·안동·개령·성주 등지의 많은 주민들이 징발당하여 산성을 수비하였을 것으로 추정된다. 조선 시대인 1410년(태종 10) 금오산성을 수축(修築)하였고 1413년에 개축(改築)이 이루어졌다. 이 무렵 성내에 3개의 못, 4개의 샘이 있었다. 군창이 있던 것으로 보아 상당한 규모로 수칙, 정비되었음을 알 수 있다. 1595년(선조 28) 비변사에서 금오산성 수축의 필요성을 상계(上啓)하였다. 즉 당시 조정에서는 금오산성에 지정학적 특색으로 인해 인동(仁同)의 천생산성(天生山城)과 함께 큰 진(鎭)을 설치하자는 논의가 이루어졌다. 두 산성은 동서로 마주 서서 낙동강(洛東江)의 험조를 끼고 바로 중로(中路)의 요충이 되니 반드시 지켜야 할 땅이라는 생각을 갖고 있었다. 이에 선조는 배설(裵楔)에게 우의정겸하사도도체찰사(右議政兼下四道都體察使) 이원익(李元翼)의 의견을 들은 뒤 보수하도록 명하고 공사를 전담케 했다. 이원익은 당시 선산부사(善山府使) 김윤국(金潤國)이 금오산성 수축 임무를 감당하지 못할 것으로 판단하고 진주목사로 있던 배설을 선산부사 겸 금오산성 별장(別將)으로 임명하였다.

다음해인 1596년(선조 29) 다시 배설에게 경상도조방장(慶尙道助防將)을 겸임케 해 산성 수축과 방어를 맡도록 조치하였다. 당대의 문신 최현(崔晛)[1563~1640]이 남긴 『일선지(一善志)』를 보면, “부사 배설은 조정의 명령으로 금오산성을 개수하는데 본부인 선산부를 포함한 9개 주현[문경·함창·상주·금산·지례·개령·성주·고령]의 민과 군을 동원했다.”고 기록하고 있다.

1597년(선조 30) 7월 왜군이 금오산성을 재침입[정유재란]해 왔으나 앞선 2년간 산성의 수축, 방책을 튼튼히 하고 병력을 강화해 왜군들이 쉽사리 공략하지 못한 것으로 전해진다. 당시 금오산성은 군사적으로 최전방 지휘부로, 행정적으로 전란시 백성들을 보호하는 한편 다각적 의병을 전개한 대관방(大關防)이라 할 수 있었다. 1592~1598년 임진왜란 당시 경상도 지역에서 금오산성의 역할은 지대했던 것으로 전해진다.

1639년(인조 17)에도 경상감사 이명웅(李命雄)이 경상도 진관(鎭管)의 속오군(束伍軍)을 동원하여 산성을 더 쌓았다. 금오산성을 축성(築城)한 공로를 인정받아 선산부사(善山府使) 이각(李恪)은 통정(通政)을 가자(加資)받았다. 1868년(고종 5)에는 금오산성(金烏山城)의 성책과 공관(公館)을 보수하였다. ‘금오산성중수송공비(金烏山城重修頌功碑)’에는 “1868년에 흥선대원군 섭정 당시 내성을 수축했는데 누각 규모가 100여 칸에 이르렀고 1만 명을 수용할 수 있는 관아와 군창을 새로 지었다.”라고 기재되어 있다.