Vezérezredes. 1905-ben végez a Ludovika Hadiakadémián, majd a lugosi 8. ezred hadnagya. A bécsújhelyi katonai akadémia elvégzése után vezérkari százados.

Az első világháború kezdetén a 82. gyalogdandár vezérkari tisztjeként a galíciai hadszíntéren szerez először hírnevet. 1914. novemberben soron kívüli százados, 1919. februárjától a Kratochvil Károly ezredes vezette székely hadosztály parancsnokságára helyezik Szatmárnémetibe. A hatalomra kerülő tanácskormány a székely hadosztály tevékenységét zavarónak tekinti, ezért a lefegyverezését rendeli el. Így Demecsernél 1919. április 27-én leteszik a fegyvert a román csapatok előtt. A román állam ellen elkövetett bűncselekmény miatt a szamosújvári fegyházban raboskodik. Szabadulása után repatriál, majd jelentkezik a szerveződő magyar királyi honvédségbe.

1924. június 17-én avatják vitézzé. Ekkor - ennek feltételeként - magyarosítja vezetéknevét édesanyja nevére.

Előbb Debrecenben, majd 1929-től a székesfehérvári 2. vegyesdandár-parancsnokság vezérkari főnöke, 1932-1936-ban a Ludovika Akadémia parancsnoka, vezérőrnagy. 1937-1938-ban a szombathelyi hadtest parancsnoka és vezénylő tábornoka.

1940-ben a Budapesti 1. honvéd hadtest parancsnoka és vezénylő tábornoka, majd a 2. hadtest parancsnoka. 1942-1943-ban a Szovjetúnióban, a Donnál kerül bevetésre, ahol a Sztálingrádot ostromló német csapatok É-i szárnyát kell biztosítania. 1942 őszén felmentését kéri, tiltakozásul a német hadvezetés által a magyar hadseregtől megkövetelt, végrehajthatatlanul nehéz feladatokra, amelyek mellé a kért támogatást a hadsereg nem kapja meg a német vezetéstől. 1943. januárban az előretörő Vörös Hadsereg iszonyú téli offenzívája elsöpri a rosszul felszerelt, nélkülöző magyar hadsereget. Január 17-én német engedélyre végre elkezdi a hátrálást. 1943. január 24-én, hadseregének felbomlása után kiadja „A 2. magyar hds. elvesztette becsületét…” kezdetű elhíresült parancsát, amelyet azonban később hatályon kívül helyez.

1943. őszén saját kérelmére nyugdíjazzák. A szovjet megszállás elől családjával Németországba távozik.

1946. okt.-ében önként hazatér, hogy a vesztes csatáért vállalja a felelősséget. Az amerikaiak felajánlják neki, hogy a Horthy-csoporttal menjen spanyol-portugál területre, de a következőt mondja: ha egyetlenegy magyar, ártatlanul vádolt katonának könnyíti a sorsát azzal, hogy odahaza megtudják az igazságot a második hadsereggel kapcsolatban, akkor bármi történjék is vele, azt szívesen és örömmel vállalja. Az ún. népbíróság 1947-ben Budapesten mint háborús bűnöst mnősíthetetlen, koncepciós elemekkel tarkított perben halálra ítéli. A kommunista Igaz Szó és a Szabad Nép újságok a per előkészítéseként igyekeznek Jány-ellenes hangulatot kelteni, őt a "doni hóhér" néven, és 140.000 magyar honvéd gyilkosaként nevezve. Az ítélet meghozatala után nem kér kegyelmet, mert azzal szerinte bűnösségét ismerte volna el. Kivégzésnél elutasítja, hogy bekössék a szemét: látni akarja, mondja, aki szembe jön vele.

A Magyar Köztársaság Legfelsőbb Bírósága 1993-ban megsemmisíti a népbírósági ítéletet, és felmenti a háborús bűntett vádja alól.