Sono incerte le origini del nome di Chianni, forse deriva da Clanni nome di persona romano di origine etrusca (Claniu), o da Clango luogo coperto di boschi favorevoli alle cacce, o ancora da Clanum che significa china o pendio. Testimonianze della storia di questo paese ci arrivano dal 1186 quando Arrigo VI assegnò Chianni al Vescovo di Volterra, Ildebrando de’ Pannocchieschi; in seguito Chianni venne assegnata alla Repubblica di Pisa e nel 1288 è sotto il dominio di Lapo di Rosso de’ Rossi vicario del Vescovo di Volterra. Nello stesso periodo Guido da Montefeltro la riporta nelle mani dei pisani.
Nel 1325 si ribella a Pisa e a metà del secolo Carlo IV conferma il dominio di Volterra sul paese. Il 6 marzo 1406 insieme Chianni e Rivalto furonno sottomesse a Firenze.
Il Granduca Ferdinando II nel 1629 erige qui un feudo con il titolo di Marchesato e lo assegna alla nobile famiglia Riccardi di Firenze.
Nel 1776 Chianni passò sotto il controllo della Podesteria di Rosignano e della Cancelleria di Lari.
Già nel XIII secolo qui sorgeva una chiesa dedicata a Santa Maria. Nel corso del XVII secolo l'edificio ricevette il titolo di Santa Maria del Carmine ed intorno fu costruito un loggiato che è stato completamente incorporato nel 1929 ampliando l'edificio.
La Chiesa è stata costruita ad una sola navata a croce latina. Sul lato destro vi erano le lapidi delle famiglie più illustri di Chianni. La Madonna del Carmine o del Carmelo era considerata miracolosa, attestato anche oggi dai numerosi ex voti che vi sono conservati.
A metà del sec. XVIII per una epidemia di colera la Chiesa fu adibita a lazzaretto ed in questo periodo furono apportate le modifiche. Verso il 1930 la Chiesa venne nuovamente ristrutturata e ingrandita assumendo l'attuale fisionomia.
Attualmente la Chiesa viene aperta al pubblico solo in occasione di particolari ricorrenze religiose, tra cui la domenica successiva al 16 luglio, in cui si commemora la Madonna del Carmine, il 15 agosto e l'8 settembre.
Suggestivi i concerti che si tengono occasionalmente in questa chiesa di campagna, ad opera della Corale di S. Donato di Chianni.
