肾结核的原发病灶最主要的是来源于肺结核，其他的还有可能来源于消化道结核、盆腔结核或骨结核。由于结核菌可以通过血流流入肾脏，在肾皮质内形成微小的结核病灶。但肾皮质的血供比较丰富，修复能力强。当机体免疫力强或者感染细菌菌量少、毒力弱时，可以清除结核菌而不发病。
如果机体免疫力下降或者感染的结核菌数量多、毒力强时，则结核菌在肾髓质定植下来。由于肾髓质血流比较缓慢，血供差，因此结核菌可以在此生长繁殖导致病变，然后进一步发展侵犯肾盂肾盏，最终形成肾结核。