Devant l'impossibilité de trouver un équivalent algébrique aux vecteurs de l'espace à trois dimensions, il inventa, en 1843, les quaternions, premier exemple d'ensemble dans lequel la multiplication n'est pas commutative. Sa théorie mathématique et déductive de l'optique, transposée ensuite à la dynamique, fit progresser le calcul des variations et la résolution des équations différentielles.