La carrera de Giménez comenzó en la escuela de Cadetes de la Policía Federal en 1972, a los 18 años. Tres años después, fue enviado a comisión a Tucumán, a la Escuelita de Famaillá. Hizo carrera también en el Ejército, donde fue reclutado por algunos meses.
A lo largo de su carrera, fue una figura destacada en el ámbito de la seguridad, principalmente en la Policía Federal, donde pasó parte de su trayectoria como miembro de la fuerza y se retiró con el rango de superintendente de la Dirección General de Seguridad Interior.
En la Ciudad de Buenos Aires, Horacio Giménez se desempeñó como jefe de la Policía Metropolitana, cargo al que accedió en 2011 durante la gestión de Mauricio Macri.
En ese cargo, Giménez tuvo que enfrentar situaciones como el desalojo del Hospital Psiquiátrico Borda en 2013, un operativo que terminó con varios heridos, incluidos trabajadores de prensa, personal de salud y manifestantes. Como consecuencia de este episodio, Horacio Giménez y otros funcionarios fueron imputados y enfrentaron un juicio oral. En 2016, el entonces jefe de la Policía Metropolitana resultó absuelto de los cargos.