刘秉忠家里世代为官,父亲更是在蒙古人攻取邢州后,被任为都统,后又改任录事。按蒙古的规矩,汉人出仕,为防造反叛变,要将其子女扣留在元帅府做人质,所以13岁时,刘秉忠就被送往元帅府当了人质。
刘秉忠在元帅府也并没有贪玩,他好读书,在元帅府经常拿一些藏书观看,还经常帮忙打理事务,刘秉忠于是学到了很多的东西,甚至能学以致用。
元世祖即位之前,海云禅师奉召,路过云中时听闻刘秉忠博学多才,邀与同行。刘秉忠拜见元世祖后,元世祖甚为称赞,多次垂询。刘秉忠上知天文下知地理,惹得元世祖甚是宠爱,留其身边供职。
1260年,忽必烈即帝位,刘秉忠全力辅佐,依循中原王朝旧制的总方向,着手制定各项制度。
首先,在建元国号上,取“中华开统”之意,建元“中统”年;后来又取《易经》中“至哉坤元”之意,改年号为“至元”。1271年,采用《易经》“大哉乾元”的说法,改国号为“大元”,至此,成吉思汗创立的大蒙古国改为“大元”,元朝正式亮相中国历史舞台。
1256年,忽必烈命刘秉忠在桓州东、滦水北修建城池。3年后,新城建成,取名开平。1260年,忽必烈在此地登基称帝,开平成为首都(后改为上都)。刘秉忠还为皇帝制定官制,朝见皇帝礼节、百官的服饰及俸禄等。