Nato a Naumburg nel 1890, Hube si arruolò volontario nell’esercito tedesco nel 1909, prestando servizio durante la Prima guerra mondiale con il grado di tenente. Prese parte al conflitto sin dalle sue prime fasi, rimanendo mutilato della sua mano sinistra nel settembre 1914 in uno scontro sul fronte francese. L’invalidità non gli impedì di tornare al fronte un anno più tardi al comando di una compagnia di fanteria. Decorato al valore, trascorse gli anni tra le due guerre ancora inquadrato nell’esercito tedesco nella veste di comandante di compagnia e di ufficiale istruttore a Dresda. Con lo scoppio della Seconda guerra mondiale, si trovò da subito coinvolto prendendo parte all’invasione della Polonia nel settembre 1939 e, pochi mesi più tardi, alla campagna di Francia a capo della 16a divisione di fanteria.

Dopo i successi conseguiti sul fronte occidentale, fu messo a capo della costruzione della nuova 16a divisione corazzata e trasferito prima in Romania e poi sul fronte orientale, dove fu impiegato con successo nel settore ucraino dell’Operazione Barbarossa. Da lì Hube si trovò, nel rango di tenente generale e a capo del 14° Panzerkorps di cui aveva da poco assunto il comando, coinvolto nella battaglia di Stalingrado.

Divenuta critica la situazione tedesca sul fronte orientale, fu quindi evacuato nel gennaio 1943 e destinato al fronte mediterraneo a capo di un ricostituto 14° Panzerkorps. Trasferito in Italia a organizzare la difesa contro gli Alleati, Hube assunse il comando delle forze dell’Asse nelle operazioni di difesa della Sicilia. Da quella posizione riuscì a rallentare l’avanzata alleata tanto da consentirgli l’organizzazione dell’evacuazione delle truppe tedesche dall’isola.  

Dopo aver gestito la ritirata delle truppe tedesche a seguito dello sbarco di Salerno e aver predisposto la Linea Gustav, Hube fu nuovamente riassegnato al fronte orientale nel tentativo di frenare la controffensiva sovietica. Venne quindi posto al comando della 1ª Panzerarmee, che dall'ottobre 1943 subì una serie di sconfitte per mano dell’Armata Rossa lungo il Dnestr.  

ll 21 aprile 1944 Hube perse la vita in un incidente aereo, di ritorno dalle celebrazioni del compleanno di Hitler all’Obersalzberg.