北京市金台小学坐落在天坛公园北侧的东晓市大街。它的前身是历史上闻名遐迩的金台书院。学校校园是一座典型的明清风格三进式四合大院。临街的校门坐北朝南，深檐飞椽。从南向北俯瞰全院，原金台书院大门、垂花门、讲坛正轴居中；官厅、文场、厢房东西对称，左右拱抱；最后是朱子堂，与左右文场相衔，合围大院，中规中矩；所有堂舍都是蓝砖青瓦，雕梁画栋，厚重古朴中透出几分庄严神圣。
经考证，金台书院是北京历史上「窦氏书院」、「潞河书院」、「汇文书院」等二十多个书院中惟一保存下来的最典型、最完整的一座书院。爱新觉罗·溥杰曾为其题写「金台书院旧址」牌匾。1984年，被确定为北京市重点文物保护单位。据《宸垣识略》一书记载：「金台书院在慈源寺东，本义学。康熙四十年，圣祖赐书『广育群才』，乾隆十五年改为书院，有御制碑」。
还有史料说，康熙三十九年（1700年），为官清正、恤民怜贫的顺天府尹钱晋锡将大兴、宛平两地让贫困子弟免费读书的「义学」合并起来，租用降清明将洪承畴赐园的几间房屋为校舍，称「首善义学」。这就是说，金台书院的前身，是由顺天府尹钱晋锡创办的「首善义学」。 「首善义学」经历了康熙、雍正、乾隆三朝，乾隆十五年（1750年），经大规模扩建修缮后，改为「金台书院」。除吸收顺天府学童读书外，主要用于全国各地参加会试、殿试的举人、贡生集中封闭备考。书院东西文场、厢房就是备考者的教室和宿舍。
自二十世纪初金台书院改为学校开始，虽经历了辛亥革命、中华民国、抗日战争、解放战争，学校也几易其名，但原金台书院所有建筑基本上完整保存下来。 1915年，这里改为京师公立第十六初高级小学，面对周边龙须沟、金鱼池等贫民聚居区，校长郑维杰首创「简易小学」，广招贫困学童的举 措深得人心。
新中国成立前夕，教师地下党员翟林、张福臻、周吉全团结进步师生创办读书会，教唱革命歌曲，策划罢学游行，在国统区秘密播撒星星火种，全校师生齐心协力，保护金台书院这一文化瑰宝。1951年，北京市崇文区第一中心小学在金台书院旧址上建立。但在十年浩劫中，十几代人精心呵护了200多年的「广育群才」匾额和许多珍贵的文史资料被毁损殆尽。
1973年，崇文区第一中心小学校改名东晓市小学。八十年代末，全国政协委员、著名书画家胡絜清重新题写「广育群才」匾额，九十年代初冰心老人写下「专心地读书，痛快地游戏」寄语，这所饱经风雨的书院小学，才慢慢走出历史阴影。2000年，市教委将东晓市小学改名为「金台小学」。
「百年学校」挂牌活动正式启动，北京教育志编纂委员会办公室负责组织开展了一系列评选工作。最终，经学校报名、区县教委推荐、主办单位初审、专家论证、市教委批准，评选出首批33所学校。北京市金台小学为历其中。
大力加强课程建设，教学管理体系逐渐完善。注重内涵发展，办学质量明显提升。深化三级课程建设，推行教育质量监控和年报制度，深化课堂教学改革，切实提高了课堂教学质量，落实减负增效目标，基本形成了与素质教育相适应的质量监控与评价体系。
体卫工作保障体系不断完善。树立「健康第一」的理念，以东城区健康促进学校窗口校建设为突破口，不断完善学生体质健康保障体系和体育、卫生工作保障体系，学生的身体素质不断提高。
艺术教育「宝塔计划」、科技教育「章鱼计划」全面实施。以推进「2+1」实验项目为载体艺术教育活动异彩纷呈，金帆艺术团数量发展到16个，占有率排全市第一，25所科技项目基地校为依托的科技教育网路体系已经形成，科技教育的推进成效显著。