Les colonnes du temple d'Ourouk (Mésopotamie, IV^e millénaire) attestent l'ancienneté de la mosaïque.

En Grèce, elle est en usage dès le V^e s. av. J.-C., puis parfaitement adaptée au cadre architectural et à la polychromie chatoyante à Délos. La mosaïque est courante dans le monde romain. Elle est le plus souvent obtenue par l'assemblage de petits cubes polychromes (les tesselles). La mosaïque s'exécute soit directement, soit au moyen d'un carton. Celui-ci sert de support au dessin et aux cubes apposés légèrement encollés selon le tracé ; il est retourné sur le mur préalablement enduit de ciment puis retiré. Le répertoire décoratif romain évolue depuis les pavements géométriques noir et blanc du I^er s. av. J.-C. jusqu'aux mosaïques largement figuratives et polychromes du II^e s., où le panneau central (l'emblema) prend toute la place. La mosaïque gagne alors les murs des sanctuaires dédiés aux nymphes, les voûtes et les plafonds (Herculanum, Pompéi, Piazza Armerina, etc.).

Héritiers des Grecs et des Romains, les Byzantins ajoutent de petits cubes de verre argentés ou dorés, qui créent de merveilleux effets de scintillement. Malgré certaines réminiscences antiques (Ravenne, mausolée de Galla Placidia, première moitié du V^e s.), leur esprit diffère, et toutes les œuvres sont empreintes de spiritualité (Ravenne, Sant' Apollinare Nuovo ; Constantinople, Sainte-Sophie). Ce premier art byzantin connaît une somptueuse renaissance du X^e au XII^e s. avec des chefs-d'œuvre comme Dháfni, près d'Athènes, Saint-Marc de Venise, Torcello, Palerme, Monreale puis dans les créations des XIV^e et XV^e s., ultime âge d'or de la mosaïque qui cède bientôt la place à la fresque. Les mosaïques de la Coupole du Rocher portent encore l'empreinte de l'Antiquité, mais Konya, Istanbul, Samarkand et Ispahan démontrent le génie islamique dans l'art de la mosaïque.

Cet art est pratiqué avec autant de virtuosité par les préhispaniques comme en témoigne le célèbre masque de jade rehaussé de nacre trouvé à Monte Albán II.