Nació en La Mulera, cerca de San Antonio del Táchira, un 24 de julio de 1857. Sus padres fueron Pedro Cornelio Gómez y Hermenegilda Chacón Alarcón.
Luego de la muerte de su padre el 14 de enero de 1883, Juan Vicente pasó a ser la “cabeza de familia” y asumío el control de todos los negocios, por lo que se dedica a las labores del campo y a la cría de ganado.

A causa de la revolución armada que derroca al Presidente Ignacio Andrade dirigida por Cipriano Castro, Gómez tiene que abandonar sus tierras en 1899. Se convierte en Vicepresidente de la República, gracias a su lucha por liquidar las revueltas existentes contra Castro. Cuando éste en 1908, viaja a Europa por problemas de salud, deja en el poder a Juan Vicente nombrándolo Presidente Constitucional, sin saber que más nunca tendría permitida la entrada al país.

Muchos intentaron derrocar el gobierno de Gómez, pero ninguno salió victorioso. En 1928, jóvenes estudiantes como Rómulo Betancourt, Gustavo Machado, Arturo Uslar Pietri, Jóvito Villalba, Raúl Leoni, Miguel Otero Silva, Rómulo Gallegos, José Rafael Pocaterra y Román Delgado Chalbaud, entre otros, lucharon, sin ningún resultado satisfactorio, contra el régimen gomecista. Estos jóvenes serían inmortalizados como la generación del 28.

Gómez permaneció en Maracay, estado Aragua, durante casi todo su gobierno. Allí tuvo cuantiosas posesiones, por lo que se le llegó a considerar el dueño del país.
Es importante destacar que durante su gobierno se produjo el primer reventón de petróleo, lo que le permitió mantener una economía sana y estable.

Muchos opinan, que la dictadura de Gómez no fue negativa, pero están en desacuerdo con la sangre que se derramó innecesariamente para que éste se mantuviera en el poder.

El General Juan Vicente Gómez murió de forma natural, el 17 de diciembre de 1935.