中国古代园林自汉魏以来，以至明清，总离不开山水。几千年来，中国人已形成了对山水的嗜好，形成了各种各样的山水观。这些源于对中华山川钟爱形式的山水观，又惊人地趋于认识与表述上的根本一致，甚少例外。
山水是自然物，是天地间处于相对静态与动态的自然物。孔子在《论语·雍也》中有一段名言：“知者乐水，仁者乐山，知者动，仁者静，知者乐，仁者寿。”这段话，既将自然物的性格赋予了人，又将人的性格赋予了自然物，不能肯定将山水人格化的山水观始于孔子，但可以肯定在此之后的年代里，山水确成了后世中国园林中的主角而久演不衰。
从古代园林发展中，大概有两种原因促使人们向往山水。一种原因是城市化的生活环境使人远离了自然界的山水；另一种是为了逃避社会现实。但是，当中国古代园林的结构已经形成不同山水模式以后，像其他艺术陈式的形成一样，不但自身的发展趋于停滞，而且随着社会经济的变化，文化形态的演变，会终止其创作的价值，或者只剩下表相的某些形式，被赋予新的功能，得到暂时的延续。不可忽视的是，遗存的古代园林精品，或者只留有著录的作品，仍将占有应有的历史地位，永远为后世子孙所珍视。
自然山水的美，从某种意义上说是永恒的。几千年来，山水画家、山水诗人的创作，主要是依自然山水为蓝本的。中国古代山水诗的兴盛早于山水画，当魏晋南北朝之际，山水画尚处在“人大于山，水不容泛”的创始阶段，山水诗已出现了许多煊赫的宏篇巨制，开始进入山水诗的辉煌时期。就在此时，中国南北兴建皇家园林、私家园林和寺庙园林蔚然成风。中国古代园林中并非直观的诗意，而将早于视觉直感的成熟画境注入在园景之中，成就了以山水为骨架的中国古代园林的浓郁的诗意。不仅是园林，恐怕后来代所有大家的中国山水画，也绝离不开这个诗先于画的时间之差。古代园林从来受惠于古代诗画，所谓“无声的诗，立体的画”，是我们现代人对它允当的评论。同时，园林在这1000多年中，又反哺诗画，同样是不可忽视的古代文苑的美学现象。
诗、画和园林都从自然山水的雄奇、秀美等等印象中产生意境。一个原始的自然物，不经过人的意识的加工，是不会生发意境的。经过人的思维加工，特别是经过人的行为介入过的自然山水，它的传说，通过各种渠道的传播，是很容易被人格化、性格化的。
山水在被人格化的基础上往往又被神化、佛化、仙化、狐化、妖化甚至鬼化。可喜的是，古代园林中，在将山水人格化的时候，大多选取美的形象、美的寓意，甚少创设美的对立面，这一点使园林的创作，区别于古代文学艺术创作的一般表现方法。
中国园林对山水空间的创造与再现，从仙山琼阁到世外桃园，是古代社会中不同身份的人的反映。作为“至尊”的皇帝与隐逸的“高士”之间的境界的差别，既在现实中是那样的泾渭分明，作为既是艺术空间又是生活空间的园林，也有着不可逾越的鸿沟。“至尊”与“隐逸”是皇家园林与私家园林的差别所在。
权力与财富使皇家园林得以包揽自然山水于一囿之中，而私家园林更多地运用智力，将自然山水浓缩于一园之中。皇家园林的精品，产生于朝代的兴旺之时，私家园林往往产生于园主的失意之时。同样寄情于山水，心境却全然不同。身处寺庙园林和风景园林中的高僧老衲，羽士山人，又是别样的心境，他们在山水之间修身养性，参禅炼道，祈求得到的是各自信仰的永恒。
有两个文化现象是不可忽视的，一个是中国佛教的各个宗派的祖庭(发祥地)多为自然山水中的寺庙，其中，许多为现存的著名寺庙园林，如河南嵩山少林寺，浙江杭州的灵隐寺，浙江鄞〔yín银〕县太白山中的天童寺，江苏镇江的金山寺，福建的鼓山涌泉寺、开元寺等等。这些还只是禅宗的寺庙。再以汉传佛教所崇信最广的四大菩萨的道场为例，更是将山水佛化的典型。这就是中国佛教的“四大名山”：山西五台山(文殊菩萨的道场)，浙江普陀山(观音菩萨的道场)，四川峨眉山(普贤菩萨的道场)，安徽九华山(地藏菩萨的道场)。这四大名山，是四处山水风景名胜，不但寺庙众多，而且建筑丰富多彩，既反映了地区的特点，又体现了民族宗教的个性。如五台山南禅寺大殿、佛光寺大殿，是国内仅存的唐代木结构建筑。四大名山，自然景观也各具特色，既是佛教圣地，也是游览胜地。
另一个不可忽略的文化现象是，中国武术的主要流派也都发祥于山水寺庙之中，外家派起自少林寺，而内家派与道教第一名山武当山关系密切。
依托于山水或者以山水为蓝本的中国古代园林，是对自然山水最好的反馈。中国古代园林的造园实践开发了中国的自然山水，展拓了自然山水的文化领域，把自然山水融进古代的城市，融进人们的日常生活。用现代的生态观点来衡量，中国古代园林不但没有因广泛的分布和大量的建设而破坏生态，相反，美化和改善了生态环境。