Cerca de Berlanga de Duero, en dirección a Arenillas, encontramos un desvío a mano derecha, indicando la proximidad de la ermita de San Baudelio. El sitio es realmente pequeño, apartado de la carretera, un lugar de retiro centenario.
El edificio está construido sobre una terraza de caliza, a la boca de una cueva que posiblemente sirvió para alojar a algún ermitaño al final de la antigüedad o Alta Edad Media. Esta cueva está situada al lado de una fuente que aún mana agua.
La construcción de la ermita es de sillarejo, con los módulos de planta rectangular. El mayor, que corresponde a la parte principal, está cubierto a cuatro aguas, mientras el presbiterio, zona del altar mayor, lo está a dos. La puerta, con arco de herradura, está en el lado noreste.
La puerta da acceso a un interior sorprendente, construido con un elemento sustentante principal: una columna central que se abre en ocho gajos marcados por sendas nervaduras.
En el centro, en la parte superior, hay ocho óculos con arcos de herradura que dan a un camarín en cuyo interior hay ocho nervaduras entrecruzadas, reminiscentes de las del mihrab de la mezquita de Córdoba.
Parte de la primitiva pintura del templo fue arrancada y se puede ver en el Museo Metropolitan de Nueva York. La pintura que queda se encuentra cubriendo toda la parte situada desde la parte de la puerta de acceso hasta la bóveda, excepto en la zona de la escalera interior que accede a la tribuna, en que arranca desde el suelo.
La ermita presenta una notable armonía entre arquitectura y decoración pictórica, si bien se estima que pueda haber una diferencia de ejecuciones próxima a los cien años entre una y otra.