Costruita nel periodo del controllo, su Caldana, degli Austini, alla fine del Cinquecento, questa chiesa sostituì la chiesa precedente, oggi adibita a Casa Canonica.
Fino a qualche anno fa pareva quasi sicura l'attribuzione della Chiesa alla scuola di Antonio da Sangallo il Vecchio, soprattutto in relazione a una supposta somiglianza tra la chiesa di Caldana e il San Biagio di Montepulciano, di sicura attribuzione del Sangallo.
Il professor Mazzolai, nella sua opera Maremma storia ed arte, scrive: "La Chiesa parrocchiale di S. Biagio riecheggia nei paramenti architettonici della facciata e dell'interno i modi di Antonio da Sangallo il Vecchio". Anche l'Automobile Club Toscana nomina la chiesa nella sua guida della regione: "Effettivamente si tratta di una pregevole opera architettonica, con tutta probabilità di Sangallo il Vecchio, ben degna di essere ricordata nella nostra guida Toscana".
La facciata della chiesa è perfettamente rivolta a sud, e il meridiano terrestre passa perfettamente dal centro della porta e dell'altare maggiore. La facciata presenta otto lesene con capitelli ionici, nella parte superiore, e capitelli dorici, nella parte inferiore. La chiesa presenta anche un rosone e sopra il rosone si trova l'architrave, al centro del quale è inserito lo stemma della famiglia degli Austini.
La chiesa presenta all'interno una sola navata.
Pregevole è il fonte battesimale, costruito con il marmo delle cave di Caldana. Questo fonte è del XVII secolo ed è l'unica opera presente in Caldana costruita con questo marmo locale. Originariamente il fonte aveva una copertura a tamburo di legno dipinto, sulla cui cima si trovava la statua lignea di S. Giovanni Battista, oggi conservata nel museo della parrocchia, nel Sepolcro.
Intorno agli anni '60 furono demoliti gli altari laterali della chiesa. Ognuno di questi altari era dedicato a un santo: l'Immacolata Concezione, an Girolamo, Santa Francesca Romana, San Giuseppe, Madonna del Carmine, San Carlo Borromeo, Santa Maria Maddalena. Sopra ad ogni altarino, c'erano delle tele, però sono arrivate a noi solamente tre, due delle quali sono state restaurate nel 1994.
Dietro all'altare maggiore si trova un grande affresco, che raffigura i santi Biagio e Guglielmo in adorazione di un crocifisso ligneo di scuola napoletana del XVIII secolo. L'affresco è stato attribuito a Nicola Nasini, nato a Castel del Piano nel 1675 e morto a Siena nel 1726. E' presente anche un'iscrizione che recita:
Hoc dicatum S. S. Crocefisso
et Divo Blasio et Guglielmo
A. D. MDCCLXXIII
La nostra chiesa è stata dichiarata, insieme al castello di Pietra e alla porta di Giuncarico, uno dei monumenti nazionali del comune di Gavorrano.