Palencia en sus inicios fue una Hacienda con el nombre de San José, comprada por don Mathías de Palencia, fue así como más tarde se le dio el nombre de hacienda de Palencia y luego solo Palencia que es el nombre que conserva hasta hoy.
En 1848 era su dueño el teniente y general Rafael Carrera a quien Mariano Rivera Paz en nombre de la orden Religiosa de Santo Domingo de Guzmán al solicitarle esta hacienda, para su fomento y adelanto, el general Carrera atiende favorablemente a su petición y vende la hacienda al gobierno, fue así como la orden religiosa de Santo Domingo de Guzmán llega a Palencia.
El general carrera les pide a los padres dar la orden de no vender las tierras que se les han proporcionado y que reúnan a sus habitantes para formar un pueblo sin ejercer violencia para que dejen la vida aislada y que los eduquen con dedicación y esmero.
Administrada por los dominicos, en ella se cultivaba principalmente la caña, la cual regaban con el agua del río los cubes y era conducida por los acueductos que aún se observan en la escuela Tipo Federación, los trabajadores eran descendientes de esclavos gente de santa Rosa Grande, Canalitos, y Aceituno, dirigidos por algunos españoles guiados por alguien de la orden religiosa según el libro del (Dr. Escobar Pérez, francisco Marzo, 1996)
Palencia es un municipio relativamente joven, Fundado así el 27 de agosto de 1836. “Mathìas de Palencia seguramente un hacendado rico que poseía 115 caballerías llamadas, Agua Caliente compró el 26 de octubre de 1674 la gran hacienda de 144 caballerías ubicadas en su vecindad y que tenía por nombre San José en la cantidad de $ 13,000 pesos de ocho reales.
En la propiedad existían dos casas nuevas de teja destinadas para la fabricación de azúcar, dos esclavos (el mulato Pedro y el Negro Miguel), 50 bestias mulares y 25 yeguas con su garañón, 5 caballos mansos, 3 yuntas de bueyes y una campana para la ermita.
Don Mathías, hasta ahora no sabemos si vino directamente de la provincia de Palencia, España; pero es de suponer que las influencias de esos viejos tiempos hicieron prevalecer la costumbre de agregar al nombre de las personas el correspondiente lugar de su origen, como apelativo, así Mathías de Palencia.”
(Alvizúris Sandoval, Temas de la Palencianidad pág. 13)