元の大都の時代にはここが都城の城壁の東南隅であり、観象台上にはイスラム暦学による観測儀器が備えられました。
明代になり、朱元璋が南京に遷都すると儀器は南京へと移されましたが、その後、明の正統帝の時代に復興されて「観星台」の名で呼ばれ、清代へと引き継がれ「観象台」の名に改められました。清初の順治年間には、イエズス会宣教師のアダム・シャールが欽天監（国立天文台のような機関）の長官となり、観象台も暦法を治めるアダム・シャールによって指揮されることとなりました。康熙年間に入ると、欽天監内部のイエズス会宣教師等による西洋新暦派と、イスラム暦法派勢力との間で暦法の主導権を奪い合う「暦法対立」が生じ、一時イスラム暦法派が勢力を得たものも、結局、西洋新暦派が勝利し、以降清末の19世紀初頭まで欽天監の長官には代々暦学に精通する西洋人宣教師が就任しました。
観象台も欽天監の長官の指揮の下におかれ、日々欽天監の官生らによって測天作業が行われ、朝廷に観測結果の報告がなされました。
現在、観象台の台上には、8種の青銅製の観測儀器が備えられていますが、そのうちの赤道経緯儀、黄道経緯儀、地平経儀、象限儀、紀限儀、天体儀は康熙年間初頭の欽天監の長官であったベルギー人のイエズス会士フェルビーストによって作製され設置されたものです。1900年に義和団の乱を鎮圧するため8か国連合が北京に進軍すると台上の儀器も持ち去られたが、第一次大戦後のベルサイユ条約の定めに従って中華民国の時代に順に返還されました。