Su infancia transcurre en diferentes localidades jiennenses hasta que en 1903 su familia se traslada a Granada, donde recibe clases de guitarra y cursa estudios en la Escuela Normal de Magisterio (1906-1908).
Sin haber recibido formación musical previa, desarrolla una carrera en la que prima el aprendizaje autodidacta y debuta como guitarrista en 1910 en el Centro Artístico de Granada. A partir de este momento, su guitarra sonará en recitales en otras provincias andaluzas hasta que, en 1913, ofrezca su primer concierto en el Ateneo de Madrid. A este le seguirán nuevas apariciones en ciudades como Barcelona y Valencia, y una primera gira por España en 1917.
A sus primeros conciertos en América le sigue, de nuevo en Granada, la colaboración con Manuel de Falla en la creación del Concurso de Cante Jondo (1922), donde también interviene. La década de 1920 verá pasar a Andrés Segovia por escenarios de todo el mundo (Cuba, México, Francia, Suiza, Estados Unidos), alcanzando ya gran proyección internacional y el reconocimiento de compositores españoles como Joaquín Turina o Federico Moreno Torroba, el italiano Mario Castelnuovo-Tedesco y el brasileño Heitor Villa-Lobos, entre otros.
El gran renovador de la guitarra española hizo de este instrumento una pieza insigne en la instrumentación clásica e impartió docencia en academias como la Chigiana de Siena o la de Santiago de Compostela, pasando después a numerosas universidades. Su labor como músico y como docente cristaliza en un importante número discípulos, algunos de los cuales han alcanzado fama internacional, como John Williams o Christopher Parkening.
Entre las distinciones recibidas por Andrés Segovia, destaca su designación como académico de la Real Academia de Bellas Artes de Nuestra Señora de las Angustias de Granada (1970), o el nombramiento de I Marqués de Salobreña (1981) por Juan Carlos I en atención a su contribución a las artes. Investido doctor honoris causa por la Manhattan School of Music de Nueva York, la Universidad de Oxford, la Universidad de Cádiz, la Universidad Autónoma de Madrid y la Universidad de Granada, entre otras.