六百多年前，明王朝初期，回龙观地区尚是一片牧马草场，附近的西二旗、西三旗就是由牧马军卒的居住地而形成的村落。到了明代中期，弘治皇帝到天寿山拜谒皇陵，往来经过这片牧马草场，在此建玄福宫。这位皇帝曾迷恋道教，引起文武大臣极为不满。在宫里修道，要经常听大臣们聒噪，于是弘治帝琢磨着另找地方。他以谒陵驻跸为由，传下一道御旨，在沙河南边的牧马草场上修建道观，赐名“玄福观”。道观由弘治十七年始建，正德十年建成，并最终改名为“玄福宫”。工程前后持续了十二年。
据史册记载，当年的玄福宫规模很大，山门即有内、外两重，钟楼、鼓楼、龙殿、虎殿、左右殿、正殿、南北方丈等俱备。正殿供奉玄武之神，即真武大帝。整座建筑“琳宫贝宇，杰出霄汉，轮奂完美，丹碧辉映”，成为京都城北的一大观瞻。显然，玄福宫是明中后期的一座皇家道观，兼有明帝谒陵时往来途中一处行宫的功能。其建成后，明朝皇帝到天寿山拜谒皇陵，回銮途中多驻跸于此。大概就是这个原因，玄福宫又俗称“回龙观”，一直流传到现在。
关于回龙观，还有另外一个传说。 回龙观的地名与皇上去十三陵祭祖有关，明代“土木之变”中，明英宗朱祁镇不幸被俘。迫于形势需要，兵部侍郎于谦拥立朱祁镇之弟、絣王朱祁钰为皇帝，即景帝。
接着又发生了“夺门之变”，明英宗朱祁镇复辟成功，将称帝的弟弟贬为絣王。并限定朱祁钰活不可祭祖、死不能入葬昌平天寿山明帝陵（十三陵）。 朱祁钰被贬后，孤独悲凉，思念父母，却连上坟的权利都被剥夺了。无奈之下，他只好选择回龙观这个地方，遥望天寿山，默默以心相祭，然后再含痛回府。后来，朱祁钰经常落脚的那座小庙就被称为回龙观，现在的回龙观就是指小庙的所在地。
