总体来说骨髓是在骨头里面，对于四肢的长管状骨，由于骨质中间存在着一个中空的腔道，称之为髓腔，骨髓分布在髓腔内，和周围的骨质相对来说结合的并不是很紧密。

对于扁状骨等等不规则骨来说，并不存在着髓腔这个结构，往往是存在着比较疏松的网状骨质，骨髓也可以分布在这些松质骨内。

在婴幼儿时期骨髓具有造血功能，可以有旺盛的血细胞的分化能力，随着生长发育的进行，骨髓逐渐被脂肪组织所充填、替代，就会出现黄骨髓。当人体受到刺激出现相应缺血的时候，黄骨髓可以转变为红骨髓，继续造血功能。