El nombre remite a la Calle de Segovia, que discurre junto a la plaza y que debe su denominación a la antigua calzada y al Puente de Segovia, camino hacia la ciudad castellana. El adjetivo «Nueva» distingue este espacio de la propia calle: cuando el eje viario fue trazado bajo Felipe II hacia 1570, recibió primero el nombre de Calle Real Nueva o «calle Nueva»; de ahí que la plaza formada en su entorno quedara bautizada como Segovia Nueva frente al tramo anterior, entonces ya llamado simplemente Calle de Segovia. En el plano de Teixeira (1656) la calle aparece como «calle de la Puente»; la plaza como espacio nominado no consta con nombre propio en los planos históricos conocidos, pero el uso popular del adjetivo persiste hasta hoy en el nomenclátor oficial.
La Plaza de Segovia Nueva ocupa un espacio triangular e irregular en el barrio de Palacio, distrito Centro (CP 28005), donde confluyen las calles de Toledo, Concepción Jerónima, Tintoreros, Colegiata y Grafal. Con unos 85 metros de longitud, forma un continuo urbano con la Plaza de Puerta Cerrada, de la que la separa la desembocadura de la Calle de Segovia. El espacio se configuró por el derribo de una casa que hacía esquina con la Calle de Toledo, lo que abrió ese vértice del triángulo y le dio su perfil actual de encrucijada. Su contorno irregular, acuñado por la confluencia de varios ejes históricos, es típico del Madrid anterior al ensanche: un vacío heredado de la trama medieval y de las reformas del siglo XVI. El eje de la Calle de Segovia en cuyo extremo oriental se asienta la plaza fue reperfilado a partir de 1570, cuando Felipe II ordenó despejar la antigua hondonada del arroyo de San Pedro para facilitar el tránsito hacia el Puente de Segovia, que Juan de Herrera construyó entre 1582 y 1584. Esa apertura urbana recibió el nombre de Calle Real Nueva o calle Nueva; el plano de Pedro Teixeira (1656) la llama todavía «calle de la Puente». De ese calificativo «nueva» procede el nombre de la plaza, que lo conserva para distinguirse del tramo de calle ya consolidado.
La zona inmediata tiene una vocación gremial antigua. La Calle de los Tintoreros, que arranca precisamente de esta plaza hacia Puerta Cerrada, recuerda a los teñidores de sedas que tuvieron aquí sus obradores; la Calle de los Latoneros y la de los Cuchilleros, en el entorno próximo, hablan del mismo tejido artesanal de los siglos XVI y XVII. La Calle de la Concepción Jerónima, que nace también en la plaza y llega hasta Atocha, debe su nombre al convento jerónimo fundado en 1504 por Beatriz Galindo, en terrenos antes ocupados por una viña de Francisco Ramírez de Madrid. Ese convento desapareció en 1890, pero la calle conserva el nombre y termina aquí.
En 2015 un usuario del foro Viejo Madrid constató que la plaza carecía de placa visible y que el único edificio con dirección asignada en ella exhibía aún el rótulo «Calle de los Tintoreros». El nomenclátor municipal la recoge con ambas grafías: «Plaza Segovia Nueva» y «Plaza de Segovia Nueva».
En 2015, un vecino que seguía las indicaciones del tráfico urbano hasta la plaza comprobó que no había ninguna placa con el nombre en los edificios del entorno. El único rótulo visible en el único inmueble con número asignado a esa dirección era el de la Calle de los Tintoreros, calle adyacente. La plaza existía en el callejero oficial y en los GPS, pero era invisible sobre el terreno.