春秋战国时期，随着战争规模的不断扩大，聚落城垣已不能达到保卫整个部落安全的目的，这就迫切需要将聚落城垣连接起来，延伸为各诸侯国共同的城墙，作为军事防御工事的长城，便由此应运而生。而秦始皇统一六国后，面对北方强悍匈奴和其他游牧民族的袭扰，秦朝采取的一项重大军事措施，就是把战国七雄的城墙全部连接在一起，这样在中华民族幅员辽阔的版图上，一条伟大的万里长城便出现了。
西汉元狩二年（公元前112年），最早修筑河西长城“令居塞”700多公里。明王朝更加重视长城修筑，河西共修筑长城近千公里。迄今山丹县境内的汉明长城、烽燧、列障，是目前国内保存最完整的一段古长城，被专家誉为“露天长城博物馆”。

汉朝初年，匈奴再度强盛起来，不断侵扰北方。匈奴骑兵以运动和速度见长，他们像草原上的旋风一样来去神速。但长城的出现，成为一条牢固的绊马索，有力地减缓并削弱了骑兵的进攻速度和能力，使骑兵的优势迅速变成了劣势，在古代战争史上有着深远的军事意义。
汉武帝时期，汉庭于建元二年(公元前139年)和元狩四年（公元前119年）两次遣张骞凿空丝绸之路，并对匈奴发动了大规模战争。元狩二年（公元前121年），骠骑将军霍去病率军两次长途奔袭，进攻匈奴右郡河西地区，采取大迂回战术，经居延攻打祁连山北麓的匈奴部落，从此匈奴节节溃散，败走漠北，只留下“亡我祁连山，使我六畜不蕃息；失我焉支山，使我妇女无颜色”的挽歌。
为巩固胜利果实，保障丝绸之路畅通和西北边陲长治久安，汉武帝于公元前120年任路博德为强弩将军，驻守河西始筑河西长城。据《史记·大宛列传》记载：“汉始筑令居以西，初置酒泉郡以通西北国。”后汉书《西羌传》载：“及武帝征伐四夷，开地广境，北却匈奴，西逐诸羌，乃度河湟筑令居塞。初开河西，列置四郡，通道玉门，隔绝羌胡，使南北不得交关，于是障、塞、亭、燧出长城外数千里。”
河西汉长城共分三段筑成，东段修筑最早也最完整，史称“令居塞”，东起今永登县滨河处，向西北绕过民勤县北部，西过永昌、山丹、张掖之北，经过东山寺口子、人宗口、加岭墩等地，越临泽、高台，而达酒泉以北的金塔县境。中段是酒泉至玉门关之间的边塞，东起金塔县境，西越敦煌西北至玉门关。西段是敦煌至盐泽之间的边塞，东起玉门关，西沿疏勒河向西，经哈拉湖到达盐泽（今新疆罗布泊）。
汉长城修筑以“察地形、依险阻、坚壁垒、远望侯”为原则，根据当时河西地理条件，勘测线路，因地制宜，因陋就简，就地取材。河西令居塞，大致沿龙首山、合黎山南麓向西北行，逢山掘崖逢河劈岸逢原挖塞，分段开挖“阔塞”（宽而深的壕沟），铺设“天田”（用作侦察敌人踪迹的沙田），并辅以军事坞堡、报警烽燧、交通驿站和保障粮囤。整条长城以壕沟代替墙垣，全线由壕沟、山崖石壁、自然河岸和故城、坞堡、墩台、亭堠等列障构成，形成了塞防天堑，要隘守关，墩堠相望，烽火示警的防御体系。
汉塞、列障除了军事防御和保护丝路畅通，在保护河西屯田开发中，也发挥了重要的作用，虽年代久远，迄今仍清晰可见。但是，在中国历史上，为了修筑长城，不知使多少劳动人民流血流汗，甚至妻离子散家破人亡。汉朝陈琳诗《饮马长城窟》：“生男慎莫举，生女哺用脯，君独不见长城下，死人骸骨相撑柱。”就是对广大劳动人民修筑长城之苦的真实写照。

苍翠巍峨的焉支山，两山相峙恰如咽喉，定羌庙处于咽喉要道扼控甘凉。据清道光十五年《山丹县志》载：明隆庆五年重修定羌庙驿，万历三十八年平羌将军张臣重建并悬匾。现遗址内有汉灰陶残片，有古井、房址和列障遗迹。从这些史料来看，定羌庙铺从汉代至清代都是兵家防守的重要关隘。清代诗人谢历途经定羌庙有诗云：“定羌古戍独登楼，临眺无端怅远游，烟雨一天凭对酒，英雄千古几封侯？塞鸿飘渺长空远，羌管悠扬野草秋，为问汉家教射客，到今何用姓名留。”
自定羌庙过泽索谷至硖口驿古城，群峰环抱石壁相对，惟泽索谷天开一线，内有乱石古道和饮水古井，是河西走廊古丝绸之路的必经孔道。谷中石壁上镌刻“锁控金川”四字，落款为“大明嘉靖三十一载四月吉旦，刑部郎中恤全陕前左给事中鄢陵陈棐”。这些遗迹，真实地反映了硖口关泽索谷“一夫当关，万夫莫开”之要险。


在山丹驿城北约10公里处，长城有烽燧叫做“暗门墩”，该墩筑于隆庆年间，缘于“隆庆议和”。暗门墩是一座在已有城墙上新增筑并开有暗门的随墙墩，也是一座官方正式允许蒙古族自由出入山丹，同山丹开展贸易互市的标志性建筑。隆庆四年（1570年），明王朝同蒙古俺答部结束军事对立，达成长城沿线开辟十一处市场，允许蒙古族各种游牧产品，与内地产品和手工业制品公平交换的议和条约，暗门墩市场就是其中之一。暗门墩互市的开设，不仅开通了山丹与蒙古之间长期的贸易往来，促进了双方友好交流和经济发展，而且确保了河西长城沿线的长期安定。
明洪武五年（1372年），明太祖派三路大军北征，而主力军却受到挫败。朱元璋便采纳朱升“高筑墙，广积粮，缓称王”的建议，放弃武力统一草原诸部的措施，推行战略防御政策，不惜耗费巨大国力修筑长城，开始在北方实施设郡、军镇，筑城堡、立卫所、建关隘、置墩台的防戍部署。
河西明长城主要修筑于嘉靖、隆庆和万历年间，以景泰县境内黄河西岸索桥堡为起点，由此西沿至古浪，以汉长城为基础，至武威双城乡附近，离开汉长城，至永昌县又与汉长城会合，至高台县罗城乡北，又与汉长城分开，经酒泉市鸳鸯池附近，再由酒泉下古城明沙窝怀茂乡入嘉峪关境内，经新城、野麻湾到嘉峪关，总长957公里。
河西明长城在汉长城基础上依地形而建，汉长城在北，明长城南，两者并行延伸，相距一般在10-100米之间。明长城修筑就地取材黄土版筑，墙基宽4米、高5米，边墙顶上有巡道，宽1米多，供戍卒顺畅通行。明长城以厚而高的墙体结构为主，在选料用料、修筑质量、结构工艺及防范措施等方面，较汉长城都有较大改进和提高。陆地长城夯筑黄土修筑高墙貌若铜铸，城驿、关隘要地则改土筑为砖砌，或以条石、巨砖包成，生铁灌缝（如硖口驿古城，又叫“生铁城”），牢固无比，坚不可破，俗有“铜墙铁关”之称；山地长城建在陡峭的山梁上，并开采山石，凿成巨形石条，叠砌城墙，内填沙土，异常坚固；沙漠长城则用沙砾作主要材料，辅以红柳、芦苇或芨芨草，沙砾层厚约20厘米，柴草层厚约5厘米，层层交错相互黏结，以使城墙更加稳固。明长城与全国各地的城防、关隘、都司、卫所连在一起，构成了坚固的防御体系。
明长城驿城、列障居守关隘要津，各种军事防御设施齐全。在今山丹县境内汉明长城、驿站古城、列障烽燧保存最为完好，被专家誉为“露天长城博物馆”。其中定羌庙（今绣花庙）驿、硖口驿、新河驿、山丹驿、东乐驿等，鱼贯相接各抱地势，守护着一方平安。


河西境内的汉明烽燧、墩堠星罗棋布，纵横交错地分布在长城内外岗峦、驿城制高点和堡寨田野附近，它既是古代驻防军队的观察哨所和军情警报的传送站，又是戍边移民的分界线和屯田守备清野的瞭望哨。其传递军情通讯的方式，各朝各代皆有定制，但各有不同，主要是燃烟、放火两种，另配有鼓、炮和可挂起来的标示物等。烽火台由吏卒日夜把守，一旦发生紧急军情，白天放烟示警称为“烽”，晚上点火示警称为“燧”，也有在白天晴朗天气时，高悬鲜艳彩色布物，以示警报信者，称为“举表”，烽燧、举表以特别规制，提供警报或请求救援。
河西境内现存烽燧、墩堠约1000余座。东西走向多分布于长城内外的关隘、丝绸古道的堡寨村庄附近；南北走向多分布于焉支山、祁连山北麓和龙首山、合黎山、黑山南麓的辽阔田野和广袤草原。按其功用和类型主要分为兵墩和田墩，兵墩专司守望示警，防止敌人来犯；田墩用于守备清野和通讯联络。
在今山丹县老军乡境内的丰城堡，有金山子烽燧及列障遗存。金山子烽燧筑于峰顶居高临下，东将焉支山北麓旷野尽收眼底，南将整座硖口古城军事防务一览无余，西可目送长城沿线丝绸古道直达新河驿，北可将无边无垠的花草滩草原坚壁清野。据高台长城烽燧出土的明代《兵守火炮号令》云：“发现敌十名以下，白天燃柴一堆，放炮一声，黑夜举火一把，放炮一声；发现敌十至百名，白天燃柴二堆，放炮二声，黑夜举火二把，放炮二声；发现敌百骑以上，白天燃柴三堆，放炮三声，黑夜举火三把，放炮三声；发现敌千骑以上，举火，放炮相连不断。”按照明代烽火制度规定：敌军一旦来犯，最先发现敌情的烽墩，立即施放烟火，临墩望见也放烟火，这样一墩接一墩，一直传到指挥机关；指挥机关得到情报，立即作好战斗准备，调兵遣将支援一线守军；居民也要立刻进入堡寨躲避。如遇大队敌军进攻，烽火要一直传到朝廷。如此看来，明代河西境内烽火制度不仅十分严格，而且十分完备。

西汉时期，在修筑长城塞堑加强防御的同时，大量调遣士卒，增筑堡垒，修造烽台，迁徙移民，设置村堡，屯垦实边，并于祁连山北麓大马营一带，筑造屯马墩、屯田墩，设置马苑养育良马。到明太祖朱元璋时，明庭一方面维修汉塞关隘，新建长城、烽燧，使河西境内“五里一墩，十里一堡”，另一方面开发利用河西宽闲之地，大力推行迁徙移民、屯田实边、开辟田亩、兴修水利、减轻徭役、增殖户口等方略，按照“四口之家留一，六口之家留二，八口之家留三”的比例颁诏迁令，疏散稠密人口。
河西对移民进行挑选，移民户籍与军队编为一体，家家除余丁须有正军一名，而且祖孙袭承。迁徙移民为了生存，只得开荒产粮屯田土地。境内正军耕种的军屯和余丁耕种的民屯，对河西屯田业的发展发挥了开发性作用。据《明史·食货志》载，洪武初实行军屯、民屯，“其制：移民就宽乡、或召募、或罪徙者为‘民屯’，皆领之有司，而军屯则领之卫所。边地三分守城，七分屯种，内地二分守城，八分屯种。每军受田五十亩为一分，给耕牛农具，教树植。”《甘镇志》载：嘉靖间，都御史杨博为保障军屯、民屯生产之安全，防御来扰之敌掠劫，在山丹卫令筑“屯庄墩五十九座”，由住堡寨中屯民“一二十家或四五十家督令共筑一墩，每墩设一总甲提调。墩成，编集近民更迭望，若警报一至，大城四路，各发柴烽信炮传示各乡，即敛生畜屯据本墩，庶聚甚速，清野甚易。”当时建制有章，管理有序。据《甘州府志》载：“每大堡设屯长一人，屯副一人，小堡设屯长一人”。由于民屯的快速发展，《甘镇志·岁计》载，山丹卫洪武中有户6363，人口12720，可谓盛众。
由于历史上徙民实边、屯民联防措施的实施，内地移民对河西的开发，增进了民族融合，促进了农牧生产，固守了西部边寨，确保了长城沿线安定，保障了古丝绸之路的畅通，使河西出现了“驰命走驿不绝于时月，胡商贩客日款于塞下”的繁荣昌盛景象。
物换星移，时更代革，公元十七世纪，大规模修筑长城的劳役停止了，长城军事防御的历史使命结束了。两千多年来，万里长城的修筑，给中国古代劳动人民带来的灾难，是十分深重和沉痛的。但是万里长城在中国历史上，对政治、经济、军事、民族交融、文化交流、中西方交通和科学技术发展等方面，产生的影响是积极深远的。