Jogava como volante, líbero ou zagueiro, mas foi como zagueiro que ele se destacou. Muito seguro, rápido, com um bom toque de bola, bom nas bolas altas, e ainda melhor nas jogadas rasteiras. Sabia bem a hora de antecipar-se ao ataque adversário e era quase fatal em cobranças de bola parada, tanto que, durante todo seu tempo na Seleção Espanhola, foi nomeado o principal cobrador de faltas e pênaltis.
Começou sua carreira no infantil do Vélez, time que disputava torneios regionais e depois esteve como juvenil nas equipes do Atlético Malagueño e do Torre del Mar.
Na temporada de 1985-86, regressou ao Vélez, onde permaneceu por mais dois anos. Em 1987, transferiu-se para o Real Valladolid e estreou na primeira divisão.
Dois anos mais tarde foi contratado pelo Real Madrid, ganhando um título espanhol logo no ano de sua estreia, onde foi ídolo e capitão da equipe até 2003, quando se transferiu para o futebol árabe,jogar pelo Al Rayyan, na Temporada 2003/2004.
Foi contratado pelo Bolton da Inglaterra jogar o que seria a última temporada de sua vida. Os dirigentes do Bolton queriam que ele renovasse por mais um ano com o clube inglês pelo seu bom desempenho, o que rendeu uma vaga na Taça UEFA para o Bolton na temporada 2005-06, mas mesmo assim, ele decidiu pendurar as chuteiras.
Hierro estreou pela Seleção Espanhola em 1989, em uma vitória por 1 a 0 sobre a Polônia,e foi ao Mundial de 1990, na Itália, embora não tenha entrado em campo. Hierro fez 89 partidas e marcou 29 gols. Participou da Copa de 1994 nos EUA, fazendo um gol na Suíça, na vitória por 3 a 0. Do Mundial de 1998, onde a Espanha, que tinha uma grande equipe formada por vários jogadores do Real Madrid, foi eliminada precocemente na 1ª fase, mesmo tendo goleado a Bulgária por 6 a 1.
Com a despedida do guarda-redes e capitão Zubizarreta da Seleção Espanhola, tornou-se capitão da Espanha. Participou no mundial de 2002, marcando dois golos, contra Paraguai e Eslovênia, e onde a Espanha foi eliminada pela Coreia do Sul nas quartas-de-finais. Era o maior artilheiro da Seleção Espanhola até o dia 12 de fevereiro de 2003, quando foi ultrapassado por Raúl, outro grande ídolo do Real Madrid.
Trabalhou como dirigente da Real Federação Espanhola de Futebol e do Málaga Club de Fútbol. Em julho de 2014 foi contratado para assistente-técnico de Carlo Ancelotti no Real Madrid.[2][3] Em de junho de 2018, um dia antes do inicio da Copa do Mundo, foi chamado para substituir Julen Lopetegui para comandar a Seleção Espanhola. Porém, em 1 de julho de 2018, após empatar com a Rússia pelas oitavas-de-final da Copa do Mundo, no tempo normal e na prorrogação, a Seleção Espanhola foi eliminada pela Rússia nas penalidades, pelo placar de 4 a 3, dando adeus à Copa do Mundo.
Começou sua carreira no infantil do Vélez, time que disputava torneios regionais e depois esteve como juvenil nas equipes do Atlético Malagueño e do Torre del Mar.
Na temporada de 1985-86, regressou ao Vélez, onde permaneceu por mais dois anos. Em 1987, transferiu-se para o Real Valladolid e estreou na primeira divisão.
Dois anos mais tarde foi contratado pelo Real Madrid, ganhando um título espanhol logo no ano de sua estreia, onde foi ídolo e capitão da equipe até 2003, quando se transferiu para o futebol árabe,jogar pelo Al Rayyan, na Temporada 2003/2004.
Foi contratado pelo Bolton da Inglaterra jogar o que seria a última temporada de sua vida. Os dirigentes do Bolton queriam que ele renovasse por mais um ano com o clube inglês pelo seu bom desempenho, o que rendeu uma vaga na Taça UEFA para o Bolton na temporada 2005-06, mas mesmo assim, ele decidiu pendurar as chuteiras.
Hierro estreou pela Seleção Espanhola em 1989, em uma vitória por 1 a 0 sobre a Polônia,e foi ao Mundial de 1990, na Itália, embora não tenha entrado em campo. Hierro fez 89 partidas e marcou 29 gols. Participou da Copa de 1994 nos EUA, fazendo um gol na Suíça, na vitória por 3 a 0. Do Mundial de 1998, onde a Espanha, que tinha uma grande equipe formada por vários jogadores do Real Madrid, foi eliminada precocemente na 1ª fase, mesmo tendo goleado a Bulgária por 6 a 1.
Com a despedida do guarda-redes e capitão Zubizarreta da Seleção Espanhola, tornou-se capitão da Espanha. Participou no mundial de 2002, marcando dois golos, contra Paraguai e Eslovênia, e onde a Espanha foi eliminada pela Coreia do Sul nas quartas-de-finais. Era o maior artilheiro da Seleção Espanhola até o dia 12 de fevereiro de 2003, quando foi ultrapassado por Raúl, outro grande ídolo do Real Madrid.
Trabalhou como dirigente da Real Federação Espanhola de Futebol e do Málaga Club de Fútbol. Em julho de 2014 foi contratado para assistente-técnico de Carlo Ancelotti no Real Madrid.[2][3] Em de junho de 2018, um dia antes do inicio da Copa do Mundo, foi chamado para substituir Julen Lopetegui para comandar a Seleção Espanhola. Porém, em 1 de julho de 2018, após empatar com a Rússia pelas oitavas-de-final da Copa do Mundo, no tempo normal e na prorrogação, a Seleção Espanhola foi eliminada pela Rússia nas penalidades, pelo placar de 4 a 3, dando adeus à Copa do Mundo.