Desde muy joven, Estrada colaboró en diferentes periódicos juveniles y cuando tenía 22 años fue proclamado como "el primer escritor del país" por su libro 'Comuneros del Paraguay'.
Por sus ideas en contra de la Ley 1420 de educación, que sostenía la educación pública, gratuita, obligatoria y laica, fue destituido de sus cargos en 1884, lo que causó un gran revuelo y repudio entre sus alumnos. De hecho, muchos fueron a su casa para homenajearlo y agradecerle por sus clases, a lo que el profesor respondió: "De las astillas de las cátedras destrozadas por el despotismo, haremos tribunas para enseñar la justicia y predicar la libertad"