“北京”作为地名，曾经在全国很多地方出现过。
最早使用“北京”两个字的是西晋时的江南人。当时，他们称洛阳为北京，因为京城在北方。
真正把“北京”当作政治中心的做法，源于十六国时期胡夏国皇帝赫连勃勃称统万城(今陕西靖边白城子)为北京。
赫连勃勃扩张到关中后，在长安设南台，即在南方的政府机构，而把统万城称为北京，是正式的都城。之后，平城(今山西大同)、晋阳(今山西太原)等都曾被称为北京。
直到1427年，明成祖朱棣将都城从南京迁到北平，并将北平改为“北京”，北京的概念才和今天的北京城联系起来。
明朝初年，以应天府(今南京)为京师，大都路于洪武元年(1368年)八月改称为北平府，同年十月应军事需要划归山东行省。洪武九年(1376年)，改为北平承宣布政使司驻地。
燕王朱棣经靖难之变后夺得皇位后，于永乐元年(1403年)改北平为北京，是为“行在”(天子行銮驻跸的所在，就称“行在”)且常驻于此，如今的北京也从此得名。
永乐十九年(1421年)正月，明朝中央政府正式迁都北京，以顺天府北京为京师，应天府则作为留都称南京，明仁宗、英宗的部分时期，北京还曾一度降为行在，京师复为南京应天府。