Der Ursprung von Sarzana ist schwer festzustellen. Einige alte lokale Historiker zitierten im XV. Jahrhundert die Namen "Serrezzana" oder "Sergianum", eines Kolonen der Familie "Sergia". Der Name erschien zum ersten Mal in einer Urkunde des Kaisers Otto I. vom 19. Mai des Jahres 963, mit der dem Bischof von Luni der Besitz des "Castrum Sarzanae" bescheinigt wurde, welches da lag, wo noch heute die Festung Sarzanello, allgemein Castracani genannt, liegt. Jenes "Castrum", oder befestigte Burg, diente dazu, die wesentlichen Straßen des Tales zu kontrollieren.

Um das Jahr 1000 herum wurde die Gründung des wahren bewohnten Stadtkerns von Sarzana zitiert, dessen Entwicklung mit dem Untergang von Luni, das sich durch ständige geografische Veränderungenentvölkerte, in Verbindung zu setzen ist. Der Ort von Sarzana war wahrscheinlich in zwei Stadtkerne geteilt, dessen Einwohner wurden bezeichnet als: "illi de Burgo", oder "quelli del borgo" (jene des Ortes) und "illi de Carcandula", "jene die über dem alten Bett des Flusses Carcandula wohnten", in der Nähe der heutigen "Piazza Matteotti".

Im Jahre 1204 verlegte der Bischof Gualtiero II. seinen Bischofssitz von Luni nach Sarzana, mit dem er sich die Unabhängigkeit der Stadt verdiente noch bevor sie unter die Herrschaft der wahren benachbarten Herren kam. Nach dem Tod des Bischofs weigerten sich die Sarzanesen dem neuen Bischof Mazzucco Treue zu schwören bis zu einem neuen Vertrag, der im Jahre 1219 aufgestellt wurde, um diesen erneut abzulehnen, indem sie versuchten, mit der Stadt Pisa ein Bündnis einzugehen. Der Nachfolger von Mazzucco, Bischof Guglielmo, wurde während einer Reise nach Rom, wo er an einem Laterankonzil teilnehmen wollte, von den Pisanern, die mit den Sarzanern gegen den kaiserlichen Vikar Oberto Pallavicino verbündet waren, gefangengenommen. Der Bau der "Fortezza Firmafede", wo sich heute die "Cittadella" erhebt, wurde unter diesen Verbündeten begonnen.

Nach der Niederlage durch den Bund bestehend aus Lucchesern-Genuesern-Florentinern übergaben die Pisaner die Stadt Sarzana in die Hände des Bischofs Guglielmo, dessen Nachfolger, Enrico da Fucecchio versuchte die Sarzaneser einzuschüchtern, wurde aber rasch aus der Stadt vertrieben und floh daraufhin in die Lunigiana. Nur durch den Eingriff des Papstes Bonifacio VIII. waren die Städter gezwungen, den Nachfolger Enricos, Antonio Nuvolone da Camilla zu akzeptieren. Nach der kaiserlichen Oberhoheit durch Arrigo VII., ernannte Bischof Gherardino Malaspina Castruccio Castracani bis zu seinem Tod im Jahre 1328 zum Visconte der lunensischen Diözese. Danach kam die Stadt wiederum unter die Kontrolle von Pisa, um dann unter die Herrschaft verschiedener Machthaber zu fallen, bis hin zur letzten Oberhoheit durch die Republik Genua (1438).