La muralla árabe formaba parte de una fortaleza construida durante la dominación musulmana, entre 852 y 886, en el reinado de Mohamed I. En 1085 la fortaleza fue conquistada por Alfonso VI, quien mandó construir una segunda muralla para proteger a los barrios extramuros.  Aún se conservan restos de esta muralla cristiana en diversos puntos del Madrid de los Austrias.

La muralla musulmana rodeaba un perímetro de unas 4 hectáreas y tenía tres puertas:

• Puerta de la Vega (al oeste) en lo que hoy es el parque Mohamed I en la Cuesta de la Vega
• Arco de Santa María (al este) en lo que hoy es la calle Mayor a la altura del Consejo de Estado
• Puerta de la Sagra (al norte), delante de la fachada de la catedral de la Almudena

Los restos que hoy conocemos están en la Cuesta de la Vega, junto a la catedral de la Almudena y se pueden visitar cómodamente al aire libre.

En el parking público de la Plaza de Oriente frente a la plaza 42 están los restos de una torre de vigilancia.  En la Botillería del Café de Oriente, en los servicios protegidos por cristal se encuentran los cimientos de otra parte de la muralla.

La muralla tenía unos 11m de altura y 3-5 m de ancha. Estaba hecha con muchas piedras de pedernal, así en el asedio cuando tiraban piedras, al impacto saltaban chispas. Esto dio origen al primer lema de Madrid «Fui sobre agua edificada y mis muros de fuego son«.