Junto a la iglesia, en la parte alta del pueblo. Tan solo queda un lienzo y un cubo muy arruinados.
Estos restos permanecían ocultos hasta que en 1935 se derrumbó la iglesia y salieron a la luz. Consta de un lienzo de unos 15 m y una curiosa torre hexagonal. Conservan unos cinco metros de altura. Desde que aparecieron no han sido intervenidos, por lo que su pésimo estado es evidente. Incluso se integra en algunas parcelas privadas.
Fue conquistado por los aragoneses a raíz de la batalla de Cutanda, en 1120, pero se perdió con la muerte del rey Alfonso I, como sucedió con otras muchas fortificaciones. Fue reconquistado por Ramón Berenguer IV, que creó una línea fortificada desde Segura de los Baños a Torrecilla de Rebollar que incluía este castillo.