En 2004, Nadal est sélectionné pour la première fois et participe avec l'équipe d'Espagne à la Coupe Davis où il gagne au premier tour contre Radek ¦těpánek lors d'Espagne-République tchèque (3-2), puis en demi-finale contre Arnaud Clément lors d'Espagne-France (4-1). En finale, face aux États-Unis, il remporte son match contre Andy Roddick lors du second match et l'Espagne l'emporte finalement 3 à 2. Nadal remporte son premier trophée majeur.
Il va jusqu'en finale à Auckland, qu'il perd face au Slovaque Dominik Hrbatý en trois manches. Il remporte également son premier tournoi majeur en simple à Sopot, sur terre battue, face à l'Argentin José Acasuso. Il devient, à 17 ans, le deuxième plus jeune joueur, après Michael Chang, à entrer dans le classement des 100 meilleurs joueurs mondiaux. Il est également le deuxième plus jeune joueur à remporter un tournoi de Masters Series, après Michael Chang.
C'est également en 2004 que Nadal affronte et bat pour la première fois Roger Federer, le numéro 1 mondial, au troisième tour du Masters de Miami. Rafael doit participer aux Internationaux de France mais une blessure l'empêche d'y prendre part. Il participe néanmoins à l'Open d'Australie et est éliminé par Lleyton Hewitt au troisueme tour et à l'US Open, il est éliminé au troisième tour par le meilleur serveur au monde: Andy Roddick
Il participe aux Jeux olympiques d'Athènes de 2004 en double avec Carlos Moyá où il perd au premier tour.