人类社会有现代艺术博物馆的历史大致两百年，虽然历史并不长，但是艺术博物馆的精神古已有之，搜集、保存、研究，它们皆蕴藏在人类搜藏珍贵稀有美好之物的天性当中。具体地看，几乎每件艺术品从原来的位置出发到进入艺术博物馆的过程，都可以写出一个传奇故事；整体地看，艺术博物馆的故乡欧洲孕育了与古代中国差别很大的收藏传统。
远在希腊化时期，阿基桑得罗斯等人已创作出了《拉奥孔群像雕塑》这样享有极高声誉的艺术作品，艺术品成为一种为众人所向往拥有的奢侈品，有钱人开始了艺术品收藏行为。而罗马时代，罗马城本身就是一个收藏中心。征服了伊比诺斯的罗马大将佛威扼斯，把大量的珍宝与雕塑当作战利品带回了罗马城，并专门建造了“赫克里斯神殿”寺院来进行收藏，这种风气随即在大小寺院里蔓延开来。帝国的巅峰岁月里，罗马城的会堂、富豪住宅甚至公共浴室都装饰满了雕塑、绘画等精美艺术品。从遥远的两千年前开始，艺术品和罗马城就融为了一体，艺术品收藏也成了欧洲贵族、富人生活的一部分。
一直到15世纪，艺术品经过罗马教会专门机构的审查鉴定，然后再不断地流入贵族手中，又从意大利散布到邻近国家。通过这种途径形成的私人收藏，一度成为欧洲艺术品收藏的主要形式。这种聚宝和炫富式的收藏，催生了许多私人建立的小空间、封闭型珍玩陈列，但它们却实际上为现代艺术博物馆的建立完成了原始积累。
从16世纪开始，受到文艺复兴成果的影响，加之航海热潮与地理大发现，也因美术自身发展造成了艺术品更便于携带与收藏，欧洲人搜与藏的热情高涨。不过，意大利、西班牙、葡萄牙等国的收藏，也在这时开始源源流入英德等崛起中的强国。私人陈列室里的宝贝越来越丰富，科学的分类和研究工作也渐渐恢复。有助于艺术博物馆的美术考古学和美术史学都发展起来。不少今天已成为重要艺术博物馆的欧洲私人收藏，都在这个时期完成积累。意大利的乌菲兹美术馆和法国的卢浮宫博物馆是这类艺术博物馆的典型例子。
16世纪的意大利佛罗伦萨，享有盛大权力和财富的美第奇家族的法兰契斯柯一世非常热衷于赞助艺术家和收藏艺术品，于是委托建筑师在宫殿中兴建了专门陈列艺术品的宽敞开放的回廊——“事务室的回廊”，现称为“乌菲兹美术馆”。这样的展陈空间虽然只向少数贵族开放，但已经在形式上非常像今天的艺术博物馆了。“galleria”这个词最初指的是“房间内的回廊”，但因在其间悬挂和展示艺术作品，便演变成为今天“画廊”这个词汇的来源。
和美第奇家族一样，法国皇室也是着名的艺术赞助人，弗朗索瓦一世庇护了许多艺术家，其中包括了雷奥纳多·达芬奇这样的巨匠，因此他的作品如《蒙娜丽莎》《圣母圣安娜》《圣约翰》等都被带入了法国。到了17世纪的波旁王朝，亨利四世在塞纳河岸增建了“大艺廊”等更大规模的专门艺术品陈列建筑，卢浮宫博物馆的建筑和收藏主体至此大致形成。
到了18世纪，英、德已有开明的私人收藏家，受到启蒙知识分子的影响，逐渐开放了自己的收藏。而法国大革命之后，卢浮宫博物馆中着名的皇家艺术品收藏竟然也向公众开放了，艺术收藏开始成为公众的精神财富。