Mas tudo o que é bom tem data para acabar e em 1995 Telê Santana ficou doente se afastou até 1996, quando foi definitivamente substituído: a "Era Telê" havia acabado.^[7] Junte-se a isso a reforma estrutural sofrida pelo estádio para a colocação dos amortecedores em que o futebol foi relegado ao segundo plano.^[44] Aquele time era considerado imaturo e bastaram três vice-campeonatos no biênio 96/97 — dois estaduais e uma Supercopa — para garantir a alcunha de "viceado".^[6] Entre 1995 e 2004 passariam pelo tricolor nada menos que catorze técnicos, sem nenhum título importante conquistado nesse período.^[7]

O time até tinha bons jogadores, entre eles Rogério Ceni, França e Denílson, e ainda foram contratados Gallo, Capitão e Márcio Santos. Com esse time o clube conseguiu chegar às finais do Paulista de 1998. Mas foi com a volta de Raí, somente para jogar a final, que o clube se sagrou campeão Paulista, seu 19.º título estadual.^[6]

Cabe ressaltar que Raí já havia firmado acordo para sua volta desde 1997 e que a transferência seria concretizada em maio de 1998. Mas, como Raí já estava em São Paulo e iria assistir à final, um dos diretores do clube consultou a Federação Paulista de Futebol para saber se seria viável sua inscrição e recebeu resposta positiva. Toda a documentação foi então enviada às pressas para que depois, perfeitamente regularizado, pudesse entrar em campo. Todos os jogadores foram unânimes em aceitar sua volta e ceder lugar na equipe. A manobra foi muito boa para o time, que, com Raí em campo, bateu o Corinthians por 3 a 1, com um gol e uma assistência do meia.^[6]

O ano seguinte começou mal, com eliminações em semifinais por três vezes seguidas. O time precisou fazer modificações no elenco e trocar de treinador para conquistar os tão sonhados títulos. E então, já em 2000, o time conquistou o Campeonato Paulista em uma final que deu o último título de Raí no São Paulo. Com essa vitória, o tricolor terminou o século como maior vencedor dos estaduais de São Paulo na média, com um título a cada 3,33 temporadas, enquanto o alvinegro paulistano teve um título a cada 3,91 temporadas e o alviverde, a cada 4,09.^[6]

Até aquele ano o clube não havia conseguido dois títulos: o do Rio-São Paulo e o da Copa do Brasil, que deixou escapar na final de 2000, em um jogo em que precisava somente do empate com gols contra o Cruzeiro: sofreu a virada, 2 a 1, aos 44 minutos do segundo tempo.^[6] Logo após a eliminação, Raí aposentou-se definitivamente dos gramados.^[7]

O Rio-São Paulo sempre foi querido pelo torcedor e até 2001 o time já havia participado de 21 edições, com o vice-campeonato como melhor colocação, em 1933, na primeira edição, 1962, 1965 e 1998. E, sempre que o time tinha condições de conquistá-lo, acontecia algo que impedisse o trunfo. Em 1949 o tricolor decidiria com o Corinthians a final dependendo apenas de um empate, mas o jogo foi adiado devido à realização do Campeonato Sul-Americano de Seleções e depois acabou não sendo realizado. Em 1956 o clube chegou a ser campeão da fase nacional da disputa, mas esta não foi oficializada, pois houve desistência de todos os times cariocas.^[6]

O pugilista Popó defendeu as cores do São Paulo em 2002. (Imagem: Wilson Dias)

Porém em 2001 o São Paulo, já sem Raí, mas com Luís Fabiano, Júlio Baptista e Kaká — na época ainda escrito com C — conseguiu chegar à final do Rio-São Paulo e ganhar do Botafogo; Kaká viraria, nessa última partida, o ídolo de hoje.^[6]

Algum tempo depois, em julho de 2001, o time ficou por quase um mês órfão de um de seus maiores ídolos, Rogério Ceni, acusado pela diretoria de falsificar uma proposta do Arsenal, da Inglaterra. Porém, com a ajuda de vários funcionários, colegas e até de diretores, conseguiu dar a volta por cima. Nesse período o atual ídolo do time quase foi transferido para o Cruzeiro, que desistiu do negócio em cima da hora.^[45] A essa altura o time já contava com a experiência de Leonardo, que voltara da Itália.^[7]

Em 2002 o São Paulo teve um ano tenebroso: perdeu mais uma decisão do Rio-São Paulo, para o Corinthians, foi desclassificado da Copa do Brasil pelo mesmo Corinthians e no Brasileiro saiu após duas derrotas para o time do Santos que formou a geração Robinho.^[7] O que salvou nesse ano foi a conquista do Supercampeonato Paulista, um torneio feito entre o campeão do Campeonato Paulista de 2002, o Ituano, e os três melhores times paulistas no Rio-São Paulo do mesmo ano, o último a ser realizado. Mesmo assim, os jogadores tiveram que conviver com a fama de "amarelões".^[6]

No pugilismo, o clube conseguiu fazer o maior boxeador da época vestir as cores do São Paulo. E no dia 3 de agosto de 2002 o boxeador Acelino Freitas, o Popó, derrotou por pontos o nigeriano Daniel Attah, em Phoenix, capital do Arizona, Estados Unidos, tendo representado, nessa ocasião, as cores do São Paulo. Houve ainda a tentativa de marcar uma luta do pugilista para o estádio do Morumbi, porém sem sucesso.^[46][47]

Em 2003 e 2004 o máximo que o clube conseguiu foi uma vaga para a Libertadores, competição de que não participava havia dez anos.^[7] No mais, a equipe passou essa fase com uma crise financeira^[6], preterimento do futebol em prol do estádio^[44], equipes desequilibradas taticamente e em mudanças de elenco.^[45] Em 2003 e com a imagem já desgastada com a torcida, Kaká despediu-se do clube que defendeu por pouco tempo.^[7] Em 2004 o São Paulo perdeu, na semifinal, para o Once Caldas, da Colômbia, e foi eliminado da Libertadores de 2004. Na volta para o Brasil, foi direto para Belém, onde perdeu para o Paysandu. Na volta à capital, foi recepcionado a pedradas pela torcida^[7] e, no dia do clássico contra o Palmeiras, foi entoado o coro de pipoqueiros pelos torcedores, trajados de camisa amarela. O espírito do time precisava mudar.^[45] No segundo semestre Luís Fabiano deixou o clube órfão de ídolos, pois até então Rogério Ceni era considerado apenas um ótimo goleiro, mas não um ídolo.^[7]

No ano de 2004 o clube ainda inaugurou o o núcleo de Reabilitação Esportiva, Fisioterápica e Fisiológica, o REFFIS, para tratar os funcionários e atletas do clube ou de outras agremiações.^[39] Ele é considerado a mais moderna instalação do tipo pertencente a um clube na América do Sul, e o REFFIS é referência no Brasil, América do Sul e até na Europa.^[39][48]