Zanetti debutó en Talleres de Remedios de Escalada (tercera división argentina), en 1992.
En 1993 fue transferido a Banfield. Su primer gol lo marcó frente Newell's Old Boys.
A "Pupi" Zanetti, reconocido hincha de Independiente, le dicen “Tractor” debido a su gran potencia física y resistencia. Es un jugador potente y con gran capacidad técnica, por lo que es capaz de sumarse al ataque con bastante rapidez. Zanetti se hizo fama en el fútbol debido a su habilidad como lateral, llegando al área para crear peligro y volviendo rápidamente a defender.
Llegó al Inter en1995. Actualmente es uno de los jugadores más queridos de este club, es el actual capitán y líder moral del equipo. Lleva más de 13 años jugando con sus colores, y desde su llegada en 1995, el Inter ha ganado 7 títulos: La Copa UEFA en 1998, donde anotó un gol desde afuera del área, la Copa de Italia de 2005 y 2006, la Supercopa de Italia de 2005 y 2006 y los Scudettos correspondientes a las campañas 2005/2006 , 2006/2007 , 2007/2008 y 2008/2009. Javier Zanetti se ha mantenido fiel al Inter rechazando ofertas de otros clubes. Por esta razón, los hinchas interistas lo consideran más que el capitán del equipo, lo ven como un "Héroe", un "General" que dirige a su equipo a la victoria. Los Tifosi del Inter han llegado incluso a considerarlo un personaje casi sobrenatural parecido a un Héroe de la mitología antigua.
Reconocido internacional argentino, posee la máxima cantidad de partidos jugados para su selección (136) (superando a Roberto Ayala) , convirtiendo 5 goles. Fue convocado por Daniel Alberto Passarella al Copa Mundial de Fútbol de 1998 donde marcó un gol a Inglaterra y por Marcelo Bielsa a Copa Mundial de Fútbol de 2002, pero José Néstor Pekerman lo dejó afuera del mundial de 2006 en una decisión que generó una gran polémica en su país, ya que no había un reemplazante natural en su puesto. Actualmente forma parte de la selección de Diego Armando Maradona, aunque el puesto del capitán le pertence a Javier Mascherano.