在今天的日本，無論公立博物館、私立美術館，抑或私人收藏家，都藏有大量的中國古代書畫，且不乏在中國書畫史上占有重要地位的名作。這些藏品的來源年代大致被畫分為古渡和新渡兩個時期。
古渡時期是指日本江戶幕府及之前的時代，尤其是從奈良、平安至室町時代（相當於中國唐代至明代）。這一時期日本所收藏的中國書畫巨跡便被稱為古渡品，它是以唐摹王羲之父子書法、宋元僧人書畫、南宋院體繪畫為主要收藏對象的。此外，清人沈銓的繪畫也曾在日本風靡一時，他的作品則是江戶中期的最重要收藏品。從奈良時代到江戶幕府時代一千餘年的「舶來品」收藏史中，不難看出日本對中國書畫的癡迷程度及其收藏方向的針對性。然而真正對於唐宋元明清經典書畫進行系統性的收藏則源於近代，即從明治維新時期至一九三○、一九四○年代，這段時期可視為新渡時期。
古渡品是日本中國書畫收藏的重要組成部分。它包涵了中國書畫史上赫赫有名的書畫家的重要作品。如日本皇室收藏機構宮內廳三之丸尚藏館所藏的南宋牧溪〈蘿蔔蕪菁圖〉（雙幅）、東晉王羲之書法〈喪亂帖〉，東京前田育德會所藏王羲之的〈孔侍中帖〉。京都國立博物館館藏中國書畫大都也是古渡品，如李公麟〈維摩詰像〉，此幅最初被認定為吳道子所作，為江戶時期福岡藩藩主黑田一族家藏，當時狩野派畫師狩野安信定其為李公麟筆。又如其館藏《世說新語》唐人抄本也是極為重要的館藏。不過，京都國立博物館也有一部分高古作品來自收藏家、大阪朝日新聞社長上野理一的捐贈。其中最為重要的藏品是上野理一從羅振玉處購得宋拓《集王聖教序》。《集王聖教序》的購得全賴東洋史學者、漢學巨擘內藤湖南，一九○四年內藤氏赴中國考察，於老友羅振玉家中見到了此本宋拓《集王聖教序》，臨別前內藤湖南將此本帶回國影印出版，上野理一才有機會購藏。與此拓本同時捐贈給京都國立博物館的還有晚明四家的書法與四王吳惲的繪畫作品。
東京國立博物館同樣藏有相當數量的古渡品，大都為南宋大家名品，如梁楷的〈出山釋迦圖•雪景山水圖〉、〈太白行吟圖〉，李迪的〈紅白芙蓉〉對幅，馬遠〈寒江獨釣圖〉和（傳）趙昌〈草竹圖〉等。此外，還有許多古渡品藏於日本的寺院之中，如最著名者的奈良東大寺正倉院、京都大德寺。
由以上簡述可知，日本的古渡書畫呈現出明顯的斷代特徵，其全面性和完整性存在不足。在書法收藏結構上，除了收藏王羲之及其流派書風，就是唐人寫經；在此之後，日本在書法上的大規模收藏活動便直接跳躍到了晚明清初，主要以董其昌及晚明四家為主。另有一部分從唐至明的書法珍品基本與佛教有關，而這類僧人書法並不能夠代表從晉唐到宋元的書法主流與書風演變。在繪畫收藏結構上，雖說相對於書法收藏有著完整的南宋繪畫風格收藏體系，但仍缺乏全面性，即日本人一味追求南宋的水墨面貌與空靈境界，以至於北宋及以前的繪畫作品很少流入日本，故而更不必論經典書畫品在日本的流傳情況了。日本的江戶時代（相當於中國清代的早期與中期）則是古渡品的一個特殊時期，中國的文人畫開始傳入日本且在這一時期達到鼎盛，當時稱其為南畫。而由於經濟、政策等條件的限制，日本在江戶時代所收藏中國文人畫過於普通，或為董其昌之類的大名家的贗品，或為中國三流畫家的作品。總之，江戶時期的日本所藏中國文人畫作品不具備典型性，在中國也沒有太大影響力，皆是非真非精的藏品。針對這一現狀，近代日本漢學巨擘內藤湖南先生發出感慨：「舊時代（古渡時期）傳來的作品裡，基本見不到中國繪畫史上的那些中流砥柱的大家真跡，也見不到在著錄中提及的那些有傳承的真正的大作。大多數冠以大家之名的作品，例如經相阿彌、狩野家之流的鑑定，都不過是日本擅自冒名頂替的作品，而且大部分是畫帖中從未提及的小品。如以佛畫舉例，佛畫大多數是從寧波附近傳來的大批量生產的畫作，其中甚至不乏從未收錄在中國畫論中的中國畫家的作品，而且舊時代傳來的作品裡幾乎沒有南宗派的作品」。
近代以來，隨著清王朝的江河日下，中國書畫藏品逐漸散落民間。尤其在辛亥革命之後，王朝的覆滅與貴族的生存危機致使中國歷代經典書畫成批量地流失海外。而此時日本的收藏家們牢牢抓住時機，於是乎一大批堪稱經典的中國書畫得以留存日本，構成了如今的日本藏中國書畫的完整體系雛形。
在日本公立博物館中，收藏中國歷代書畫最為豐富的當屬東京國立博物館與大阪市立美術館。東京國立博物館一部分中國書畫收藏來自江戶幕末三筆之一的書法家市河米庵（1780∼1858）的收藏。市河米庵生活在江戶幕府中後期，他以授書為業，其門下學生多達五千之眾，小山林堂是他的齋號。