Se empieza construir por Alfonso VII en el siglo XII, después de la reconquista de Alfonso VI, para dar protección a los mozárabes que vivían en Madrid, así como a los repobladores que venían de otras partes de Castilla.  Las obras duraron hasta la mitad del siglo XIII. Tenía un perímetro de 2.200 metros y una extensión de 35 hectáreas.

La muralla fue descubierta en 1967, y sus restos más importantes se han encontrado en la calle del Almendro números 15 y 17.  En varios sitios aparecen restos de la muralla más o menos importantes: calle de los Mancebos, calle Don Pedro, Escalinata, Plaza de Isabel II, Cava Baja, calle de Mesón de Paños.

Cuando se realizaba el aparcamiento de la plaza de Oriente aparecieron restos de la Torre de los Huesos de origen musulmán pero incorporada a la muralla cristiana. La diferencia entre las dos murallas es que las torres defensivas cristianas eran semicirculares mientras las musulmanas eran cuadrangulares. Estas torres defensivas estaban situadas a 10 o 15m unas de otras, protegidas a su vez por un foso.

Cuando en el reinado de Felipe II se establece la corte en Madrid, la muralla pierde su finalidad, y este foso defensivo termina tapándose dando origen a las cavas (Cava Alta, Cava Baja, Cava de San Miguel). También con este abandono de su misión defensiva se empieza a edificar junto a ella, derribándola para hacer calles (Calle de los Mancebos) o usándola como pared de la propia casa, así se han descubierto trozos al derribar estas casas.