Ōyama nació en Kagoshima dentro de una familia de [[samuraisamurái]] que pertenecía al dominio de [[Satsuma han|Satsuma]]. Fue protegido de [[Okubo Toshimichi]] y trabajó en el derrocamiento del [[shogunato Tokugawa]], y tuvo un mayor rol en la [[Restauración Meiji]]. Fungió como comandante en jefe de la Primera Brigada Independiente durante la [[Guerra Boshin]]. Durante el [[Sitio de Aizu]], fue comandante de las posiciones de artillería del Ejército Imperial de Japón en el Monte Oda. Durante el transcurso del sitio, fue herido por la guerrilla de Aizu bajo el mando de [[Sagawa Kanbei]].
