五岭指塞上岭（大庾岭）、骑田岭（腊岭）、都庞岭（永明岭）、甿渚岭（白芒岭）、越城岭（临源岭）。岭南地区位于五岭之南，在先秦时期是“四荒”之“北向户”区域。秦始皇统一六国后，为了显示秦国的威力，在派蒙恬率兵戍守北境的同时，派尉屠睢率水军攻岭南地区的百越：“发卒五十万，为五军，一军塞镡城之领，一军守九疑之塞，一军处番禺之都，一军守南野之界，一军结余干之水，三年不解甲弛弩。”可见这场战争打得很辛苦。秦军不能迅速取胜的原因之一，是由于交通不便，运输路线过长，补给困难。越人趁机袭击，秦兵大败。
在五岭最西部的都庞岭和越城岭之间，有一条地势平缓、沟通中原和岭南之间的交通孔道，即湘桂走廊。湘水在此北去，漓水于此南流，两处水源相距40公里。秦始皇于是派监禄凿渠运粮，秦兵得以深入越地。监禄开通的运渠，因地在零陵郡境内，故名零渠。唐宋时亦称“秦凿渠”。后因工程灵巧，改称灵渠。因修筑于广西兴安县境内，也称兴安运河。秦人在湘水源头之一——海洋河上筑坝、开渠，主要工程包括铧嘴、大小天平、南渠、北渠等。铧嘴是分水坝，在湘水支流海洋河中，状似犁铧，以石筑成，角端所指与河水流向相对，把海洋河一分为二，一流入南渠，一流入北渠。大小天平是位于铧嘴尾端用石筑成的拦河坝，呈“人”字形堤，高度略低于河水堤岸。与河水东岸相近的一段称大天平，同北渠渠口相衔。与河水西岸相近的一段称小天平，同南渠渠口相衔。天平作用是提高湘江水位，拦河蓄水。枯水季节，大小天平拦截全部河水入渠，使湘江水位提高约4米，使之注入漓水，以便水运。洪水季节，洪峰漫过天平坝顶，流入海洋河故道，减煞水势，从而使渠内流水，涨而不溢，枯而不竭，经常保持安全流量。南渠全长约34多公里，是灵渠的主渠，其中4.5公里为人工劈山而成，最为险要，其余利用原有河道。北渠长3公里多，是灵渠的配套工程，作用是使湘水（或漓水）中的船舶能顺利转入漓水（或湘水）。南渠、北渠流量为三比七，故有“湘七漓三”之说。
汉代以后对这条运河多有疏浚改建，并增添了新的工程。唐宝历年间（825～826年），李渤主持修渠时创建陡门十八处，多建于渠道浅狭、水流湍急处。经过陡门拦阻，水位提高，流势平缓，便利行船，其作用有如后世的船闸。刺史鱼孟威又改建为石堤，千斛大船也可通行。灵渠“置斗门三十六，舟入一斗，则复闸一斗，使水积渐进，故能循崖而上，建瓴而下”，故宋人有“治水巧妙，无如灵渠者”之誉。直至1937年湘桂铁路通车，灵渠的水运才停止，但仍有灌溉、生活和工业用水之利。