Vers 1900, il suit les cours de l'Académie royale des beaux-arts de Bruxelles et de l'Académie royale des beaux-arts d'Anvers. Entre 1910 et 1917, il peint dans un style figuratif qui évoluera peu à peu de l’académisme au postimpressionnisme. C'est un pionnier important de la peinture abstraite.

Pendant la Première Guerre mondiale, il rejoint en 1914 l'armée belge. Blessé, il est hospitalisé en Hollande et y passe le reste de la guerre comme réfugié à Voorburg près de La Haye, où il expose pour la première fois ses peintures en octobre 1917 au Cercle Hollando-Belge.

À La Haye, il rencontre le futuriste Jules Schmalzigaug qui lui a sans doute fait connaître l'art moderne. Peu de temps après, il rencontre Theo van Doesburg, Bart van der Leck et Mondrian.

En 1917, il devient intimement lié au magazine et mouvement artistique De Stijl.

En novembre 1918, il coécrit, avec Theo van Doesburg, Robert van 't Hoff, Vilmos Huszár, Anthony Cook, Piet Mondrian et Jan Wils, le premier manifeste du groupe.

À Voorburg, il commence à se plonger dans les mathématiques, qui selon ses convictions, permettraient de représenter le grand mystère de l'univers en des formes mesurables. Il se consacre à l'étude de la géométrie, la physique et la cosmologie et plaide pour un art conforme aux relations mathématiques pures.

À partir de 1917, il crée des œuvres abstraites purement géométriques. Ses compositions en forme de treillis paraissent de loin tout à fait arbitraires, mais la disposition des lignes et des plans est presque entièrement déterminée par certaines relations mathématiques.

La nature de la couleur est déterminée par la taille du volume chromatique. Contrairement à Mondrian, il passe graduellement d’une dominante de lignes droites et d’angles à la peinture d'autres formes géométriques telles que des cercles et des ovales. En dehors des couleurs primaires (magenta, cyan et jaune), il utilise aussi des mélanges de couleurs.

C’est ainsi qu’il s’éloigne de l’idiome puriste de De Stijl et qu’il quitte le groupe en 1921.

Vantongerloo a également introduit au sein du Groupe De Stijl la plupart des sciences exactes. Il essaye de retrouver les lois de la couleur en reliant entre elles des harmonies de sons et de couleurs. En 1919, il déménage avec sa femme néerlandaise Tine à Menton dans le sud de la France et subvient à ses besoins avec des bustes en bronze et des peintures traditionnelles.

Il rencontre Max Bill qui organisera plusieurs de ses expositions.

En 1924, il publie le pamphlet "L'Art et son avenir". En 1928, il s'installe à Paris et il y fonde en 1931, avec Theo van Doesburg, Naum Gabo et Antoine Pevsner le mouvement Abstraction-Création à Paris. Dans les années vingt et trente, il mène des recherches sur les proportions spatiales et volumétriques et les applique dans des «constructions sphériques» ou «inter-relations de masses ».

Vantongerloo a été le premier à utiliser les principes esthétiques du néoplasticisme à la sculpture. Il conçoit également des aéroports, des ponts et autres infrastructures, mais aucun de ses plans et conception architecturale n'a jamais été exécuté. En 1931, il en vient à renoncer à ses ambitions dans ce domaine.

Au milieu des années quarante, il utilise des lignes de plus en plus courbes dans des séries de sculptures très fines avec des barres courbes en fer, en nickel et en argent. Il appelle ces œuvres Espace sans fin ou Élément cosmique. Ce sont des sculptures en fil métallique qui suggèrent l'espace et la dynamique.

En 1936, il prend part à l'exposition Le Cubisme et l'art abstrait au musée d'Art moderne de New York.

En 1943, sa première exposition solo a lieu à la Galerie de Berri à Paris. À partir de la fin des années quarante, il travaille plus avec des formes organiques plus intuitives en plexiglas qui le conduisent aux concepts cosmiques d'espace, d'infini, de mouvement, etc. Il expérimente de nouveaux matériaux tels que le plexiglas, pour créer des constructions transparentes représentant des galaxies et l'infini cosmique. En 1949, il participe à une exposition au Kunsthaus de Zurich en compagnie de Max Bill et Antoine Pevsner.

En 1962, une importante rétrospective lui est consacrée par la galerie Marlborough de New London.

Son œuvre a des affinités avec le mouvement stylistique Groupe ZERO.

On retrouve ses œuvres dans les plus grands musées d'art moderne d’Europe.