Il Palazzo, dal 1579 al 1772, è stata la sede degli uffici dei capitani e dei commissari, a capo della Provincia della Romagna fiorentina e del Tribunale Civile e Criminale di prima istanza.
E’ un armonioso ed imponente edificio quadrangolare di 40 metri per lato, classico esempio di architettura rinascimentale, costruito in pietra locale, con elementi in pietra serena e cotto. La facciata e le logge sono decorate con numerosi stemmi, scolpiti o dipinti durante il succedersi dei numerosi Commissari. Al piano terra, con ingresso dal loggiato esterno, si trovano la Stanza del Cancelliere e l’Aula del Tribunale.
Di notevole eleganza il chiostro interno triportico, con loggiato a doppio ordine, dorico e ionico, ed il pozzo centrale, da cui si ammira una singolare inquadratura prospettica. Nel muro nord si aprono alcune piccole finestre, difese da solide sbarre, che danno aria e luce a quelle che un tempo erano le carceri. Assai originale e di invenzione leonardesca, la scala a chiocciola costruita in conci di arenaria, che si sviluppa in verticale, in una doppia elicoide su un unico perno centrale e conduce alle segrete.
Il Palazzo è anche sede del Museo dell’Uomo e dell’Ambiente, che si articola attraverso 25 sale, con una sezione etnografica e una archeologica. Il Museo è concepito come percorso nella storia millenaria degli insediamenti nella valle del fiume Montone, dalla preistoria fino ai giorni nostri, con particolare attenzione alla zona di Terra del Sole e Castrocaro Terme.