Las obras de construcción de la Gran Vía comenzaron el 4 de abril de 1910 y terminaron en 1929.  Se derribaron 300 casas, se construyeron 33 manzanas y afectaron a 48 calles, con una longitud de 1.306 m.  Los edificios más relevantes de la avenida (Metrópolis, Telefónica, Capitol, Palacio de la Prensa…) no se terminarían hasta 1952.

Desde Alcalá a Montera se llamó Conde de Peñalver, tres veces alcalde; desde Montera a Callao, Pi y Margall, presidente de la Primera República; y desde Callao a Plaza de España, Eduardo Dato, Presidente del Gobierno.

En 1936, terminados los dos primeros tramos, pasó a llamarse Avenida de la CNT; más tarde, el 4 de junio de 1937, Avenida de Rusia; más tarde, el nombre fue cambiado por el de Unión Soviética. El tercer tramo se llamó durante toda la guerra Avenida de México.

El 24 de abril de 1939, los tres tramos se llamaron Avenida de José Antonio, aunque el pueblo empezó poco a poco a llamarla Gran Vía, y así quedó entre el pueblo.

Extraoficialmente, en la guerra se la conocía como Avenida de los Obuses o Avenida del Quince y Medio, en alusión esta última al calibre de los obuses que en ella caían.

Mejor era el nombre de “Broadway madrileño“ en alusión a la acumulación de espectáculos en el tercer tramo.