Aunque no terminó los estudios secundarios, Horacio Arredondo es autor de una obra escrita profusa y diversa, fruto de investigaciones sobre temas que van de la iconografía montevideana, la cultura material y la arquitectura hispano-colonial y criolla, a la fauna nativa. Dentro de ese corpus escribió sobre tópicos tan distintos como el transporte de tracción a sangre y los tipos de abanicos, la fortaleza de Santa Teresa y los grabados de las invasiones inglesas, los apuntes estadísticos de Andrés Lamas y la arqueología indígena en la desembocadura del río Negro. Sus escritos aparecieron fundamentalmente en las revistas de las instituciones con las que estuvo vinculado, y en algunos casos no solo escribió en ellas, sino que las dirigió, siendo su editor general.
Publicó en especial en la revista del Instituto Histórico y Geográfico del Uruguay, desde su primer número en 1920 y de forma sostenida a lo largo de esa década. A partir de 1927 comenzó a publicar también en la revista de la Sociedad Amigos de la Arqueología, institución que presidió. Estas dos publicaciones eran las principales en materia de estudios históricos, antropológicos y arqueológicos, en una época en que esas disciplinas aún no se habían institucionalizado en el país. En ellas dio a conocer sus investigaciones sobre la fortaleza de Santa Teresa, el fuerte de San Miguel y otras construcciones coloniales.
Resulta interesante cotejar los artículos que iba publicando con los asuntos en los que estaba trabajando. Por ejemplo, sus artículos sobre la obra de Juan Manuel Besnes e Irigoyen y sobre la iconografía de las invasiones inglesas coinciden con los años en que adquirió láminas de ese autor y sobre ese tema para el Museo Municipal.
Entre 1935 y 1949 dirigió la revista Turismo en el Uruguay y publicó artículos en ella. La revista era editada por la Comisión Nacional de Turismo, de la que Arredondo fue director y administrador general. Se trata de una publicación ambiciosa, que se destacaba por su calidad gráfica y cuyos números digitalizados están disponibles en Anáforas.
En 1951 el Instituto Histórico y Geográfico del Uruguay publicó su obra más ambiciosa: Civilización del Uruguay. Aspectos arqueológicos y sociológicos 1600-1900. La obra tiene dos tomos y cuenta con un prólogo de Ariosto D. González, presidente del Instituto. El primer tomo recorre la historia del país con foco en la cultura material, las costumbres y los hábitos, a partir de las culturas indígenas. El segundo reúne una bibliografía de viajeros y una contribución gráfica, con reproducciones de láminas, acuarelas y fotografías que dan cuenta de su profundo conocimiento de la iconografía vinculada a los temas tratados.
Carlos Real de Azúa reseñó el libro en Marcha en 1953. Lo caracterizó como un estudio de antropología cultural y valoró que se ocupara de la “intrahistoria”, es decir, de la vida cotidiana y popular, más que de la historia política tradicional. Destacó además como muy útil su relevamiento bibliográfico, aunque también señaló sus limitaciones interpretativas.
A estos escritos hay que sumar la publicación que apareció a fines de la década de 1950 y que fue quizás el mayor sueño editorial de Arredondo: una revista oficial del Archivo y Museo Histórico Municipal que le permitiera divulgar estudios sobre el acervo del museo que dirigió durante cuarenta años. Sus textos en los Anales Históricos de Montevideo no son recogidos en esta sección, por compartirse en un apartado específico de este sitio.