El mosaico apareció en Mesopotomia en el 2500 aC en forma de decoraciones de muro y en las columnas adosadas del templo de Uruk (Warka), cuya ornamentación está compuesta por piezas de arcilla polícroma.

En la antigua China, se realizaban sencillos dibujos con guijarros. En Banpo, un enterramiento particularmente interesante es el de un hombre viejo, flanqueado por grandes mosaicos de un tigre y un dragón hechos con conchas de moluscos de río, primeras imágenes de estos dos animales altamente simbólicos en la cultura china.

Los aztecas se sirvieron del mosaico para cubrir objetos ceremoniales con piedras preciosas.

En Grecia se practicó la técnica del mosaico desde el s. IV aC. (Olinto). Generalmente, los pavimentos estaban decorados con un cuadro central o emblema; la gama de colores era poco variada, y la composición repetía motivos de la pintura y de la cerámica coetáneas. En el período helenístico descuellan los ricos mosaicos de las casas de Delos.
El mosaico fue introducido en Roma en el s. II aC., y en el resto del mundo romano, después del mandato de Augusto. Al generalizarse, este sistema de pavimentación perdió su carácter lujoso y exótico, para convertirse en técnica utilitaria. Apenas se conocen ejemplos del mosaico mural, que apareció en el último siglo de la República y sirvió para decorar las grutas artificiales construidas en los jardines.

La iglesia cristiana se convirtió en uno de los principales mecenas del mosaico. Obras maestras bizantinas son las decoraciones de los santuarios de Rávena (mausoleo de Gala Placidia, basílica de San Apollinare, iglesia de San Vitale) y de la iglesia de Santa Sofía de Constantinopla (s. VI), en donde generalmente aparece, en el centro de cada bóveda del nártex, el crismón sobre un fondo de oro, y, en los lunetos, salvo el central, una gran cruz ancorada.

La edad de oro del mosaico mural se sitúa entre los ss. X y XII, período en que la técnica se hizo mas precisa, el colorido más armónico y el estilo más escueto. El Pantocrátor aparece en el centro de la cúpula, rodeado por los profetas o los apóstoles; la Theotokos (la Virgen) ofrece el sacrificio; en los muros del coro están representados los sacerdotes hebreos y los padres de la Iglesia.

En el s. XIV, el estilo se renueva; ello se advierte especialmente en la dignidad y nobleza de las figuras, el naturalismo de las actitudes y la sustitución del fondo de oro por verdaderos paisajes. Una de las obras maestras de este período es el conjunto de la iglesia de San Salvador en Chora (Kariye Camii ) de Estambul. Los mosaicos que aparecen en los monumentos árabes más antiguos son obra de artistas bizantinos.

Aunque en la baja edad media la técnica musivaria cayó en desuso, ésta siguió practicándose en Venecia y en Sicilia. Andrea Taffi se distinguió en la decoración de la basílica de San Marcos, y artistas de su escuela fueron llamados a Roma por el papa Clemente VIII para el revestimiento de las cúpulas de San Pedro. Los mosaístas del renacimiento se limitaron a reproducir pinturas; tal es el caso de Ghirlandaio.

A principios del siglo XX los mosaicos recuperaron su popularidad, fruto de un creciente interés por las artes decorativas. El Art Nouveau utilizó los mosaicos como forma elevada de decoración y tanto artistas como arquitectos los integraron en sus obras. El arquitecto catalán Antonio Gaudí cubrió edificios de mosaico y el admirado parque Güell, mostrando el camino a muchos otros mosaístas.