Palazzo Vischi, già Palagano, è situato in Piazza Longobardi, che quotidianamente ospita il mercato ittico cittadino. Il palazzo ha ospitato per oltre mezzo secolo la Biblioteca comunale, custodendo uno dei più preziosi patrimoni librari di tutta le regione, con oltre 100.000 unità.
Oggi la biblioteca è stata trasferita in una struttura appositamente creata, attigua alla Chiesa di San Francesco. All'interno dell'antico palazzo si puo' ammirare la "finestra di casa Ciardi" (palazzo del rabbino, vedi Chiesa di Sant'Anna) , proveniente da un edificio demolito in Via Sinagoga.