京博の敷地は、後白河法皇（1127～92）の御所・法住寺殿の一部でした。蓮華王院三十三間堂ももとはその一部で、同南大門からまっすぐ北に当館南門と平成知新館玄関が配置されています。桃山時代には、豊臣秀吉（1537～98）が創建した方広寺大仏殿の敷地の一部となりました。そのため豊臣秀頼（1593-1615）が整備した回廊と南門の遺構が京博の敷地内に存在し、史跡に指定されています。
平成知新館前の水盤などには礎石の痕跡がデザインされています。平成知新館はこれらの歴史的コンセプトを活かす形で設計されました。

表門（西門）と本館の間にある丸池は、規模や位置はやや変わっていますが、開館当時からありました。当初建設計画では琵琶湖疏水を引いて噴水を設けることとなっていましたが、それは実現せず、現在の円形大噴水は、昭和43年（1968）に松下電器産業から寄贈されたものです。改修を経ながら、今も人の眼を楽しませています。

当初から池の周辺には花壇や芝生が設けられており、一般にも開放され市民憩いの場となっていました。しかし、昭和25年（1950）、ロダン作「考える人」像が庭園に設置されるに及んで、庭園設置の文化財の管理のため、敷地内は有料化されました。庭園には数多くの文化財が展示されていますので、こちらもぜひご覧ください。

開館当時は作品分野別展示でしたが、大正4年（1915）秋の大典記念京都博覧会特別展を機に時代別展示へと変更されました。大正13年（1924）、京都市移管後、再び分野別に戻され、現在に至っています。

平常展示に変化をつけるため、明治31年（1898）から新年の特別陳列が行われるようになりました。明治34年（1901）からは宮中歌会始御題と干支をテーマとして明治43年（1910）まで続けられました。これは、平成知新館開館後、新春特集展示「干支を愛でる」として復活しました。

京博は、その成立の経緯から、京都の寺社を中心とした寄託の名品で知られる一方、館蔵品は、購入と寄贈により充実してきました。なかでも下記のような著名なコレクションの寄贈は、京博の屋台骨を作りあげました。

• 坂本龍馬関係遺品　昭和6年（1931）寄贈
  坂本弥太郎氏寄贈　京博と言えば坂本龍馬。
• 守屋コレクション　昭和28年（1953）寄贈
  守屋孝蔵氏蒐集の古写経類で、世界的に有名なものです。
• 上野コレクション　昭和28年（1953）寄贈
  朝日新聞社創立者の一人・上野理一氏蒐集の中国書画類です。
• ロダン作「考える人」像　昭和31年（1956）寄贈
  昭和25年（1950）に寄託され、後に京博が購入することになりましたが、予算が不足し、宝酒造社長・大宮庫吉氏の寄付で実現しました。
• 須磨コレクション　平成11・12年（1999・2000）寄贈
  外交官であった須磨弥吉郎氏蒐集の中国近代書画類です。中国近代の画家との交流によって入手したものが多く、基準作として高く評価されています。

なお、初期の購入品には、明治38年（1905）に妙智院から750円で譲られた国宝、伝周文筆「竹齋読書図」が含まれましたが、京博が恩賜京都博物館として京都市に移管となる際、東京国立博物館の収蔵品となりました。