Fue médico, psiquiatra, legislador, historiador, sociólogo y escritor. Siendo todavía estudiante, fundó el Círculo Médico Argentino. En 1878 lideró la revuelta estudiantil que contribuyó a la sanción de la ley de autonomía universitaria, conocida como Ley Avellaneda.

Fue el primer director de la Asistencia Pública de Buenos Aires y luego presidente del Departamento Nacional de Higiene, que recién con su gestión adquirió verdaderamente carácter nacional.

A raíz del ingreso de personas enfermas de fiebre amarilla, el Departamento asumió el servicio de higiene y vigilancia sanitaria del puerto de Buenos Aires. En esos años se lograron en el mundo importantes avances en bacteriología, y su labor le permitió a la Argentina incorporarse a la lucha contra muchas epidemias.

En 1894, el cólera se extendió rápidamente desde la provincia de Santa Fe a otras regiones, y José María Ramos Mejía dirigió las acciones para controlar la enfermedad, ante el pedido de los Consejos de Higiene de las provincias.

También colaboró en la formulación del plan de saneamiento de Salta.