清泰二年（935年），曹仁贵病死，其子曹元德继位。沙州入朝中原的使臣在甘州被劫，归义军与甘州回鹘的关系破裂。天福四年（939年），曹元德卒，弟曹元深继位，曹仁贵妻（回鹘公主）掌握归义军实权，称“国母”。之后，沙州与甘州回鹘修好。
天福九年（944年），曹元深卒，弟曹元忠即位。曹元忠是归义军节度使中统治时间最长的一位，也是文化比较昌盛的一个时期。曹元忠积极发展与周边民族的关系，并与中原的后晋、后汉、后周和北宋保持联系，使瓜州地区得以在五代、宋初复杂的民族关系中得以生存、发展。
开宝七年（974年），曹元忠卒，侄曹延恭即位。九年（976年），曹延恭卒，弟曹延禄即位。
曹元忠以后，归义军政权开始逐步衰落。沙州地区的回鹘势力在这一时期却得到了迅速发展，成为与归义军政权抗衡的重要力量，归义军内部也出现了矛盾。咸平五年（1002年），归义军再度与甘州回鹘发生战争，引起瓜沙民众的不满。归义军内部发生兵变，曹延禄及弟延瑞被迫自杀，其族子曹宗寿即位。宋朝廷承认了曹宗寿。但此时，归义军已经开始与辽通使。
景德三年（1006年），信奉伊斯兰教的黑汗王朝灭掉了信奉佛教的于阗王国。消息传到沙州地区，寺院僧人十分恐惧。因为此时归义军政权已经不堪一击，任何外来的攻击和内部的动乱都足以使其倾覆。在伊斯兰教东进的威胁下，莫高窟的一些寺院将重要的经卷和佛像、幡画等集中起来，藏在隐蔽的洞窟中，并将洞口封闭。之后由于当事人和知情者先后去世，藏经洞的秘密逐渐不为人所知，湮没在历史的长河中。这就是后世发现的敦煌“藏经洞”的来历。
大中祥符七年（1014年），曹宗寿卒，子曹贤顺即位。1036年，西夏攻占沙州，归义军政权基本结束。
英雄立马起沙陀
1964年12月29日，毛泽东在给田家英的信中说：“近读五代史唐庄宗传三垂冈战役，记起了年轻时曾读过一首咏史诗，忘记了是何代何人所作。请你一查，告我为盼！”为了便于查对，毛泽东还凭记忆书写了《三垂冈诗》：“英雄立马起沙陀，奈此朱梁跋扈何。只手难扶唐社稷，连城犹拥晋山河。风云帐下奇儿在，鼓角灯前老泪多。萧瑟三垂冈下路，至今人唱百年歌。”又在诗后注明：“诗歌颂李克用父子”。
毛泽东手书的这首咏史诗，除了将诗题《三垂岗》中的“岗”（据《旧五代史》、《新五代史》）误写为“冈”外，还有两处笔误：一处是第四句“连城犹拥晋山河”中的“犹”（应为“且”）；另一处是第七句“萧瑟三垂冈下路”中的“冈下”（应为“岗畔”）。全诗其他各字准确无误。毛泽东在许多年的戎马倥偬后，仍能清楚地记起年轻时读过的这首咏史诗，可见对它印象之深刻。在晚年，毛泽东曾对身边的工作人员说：“我现在是鼓角灯前老泪多。”
《三垂岗》一诗为清朝诗人严遂成所作。严遂成虽然在清朝的诗人中名气不是很大，但他的咏史诗却写得很好，“长于咏古，人以诗史目之”，“格高调响，逼近唐音”。在这首七律中，寥寥数语不仅道尽了后人对前朝历史人物和古战场的凭吊和沧桑感，更勾勒出李克用父子气盖万夫的英雄风貌，气势宏阔。
一代伟人毛泽东所瞩目的“李克用父子”，就是五代时期后唐开国之君李存勗和他的父亲李克用。在群雄逐鹿的末世，李克用父子确实上演了一场威武雄壮的大戏。而之所以选择将李克用单独成篇，是因为李克用始终奉唐为正朔，即便朱温篡唐建立后梁，李克用拒不承认，仍袭用唐“天祐”年号。李存勗后来称帝，深知父亲的心意，于是仍然以唐为国号，史称后唐。
李克用最早的崛起，是因为镇压庞勋领导桂林戍卒起义，当年他还只有十五岁。他正式登上大唐的政治舞台，为朝野所瞩目，则是因为云州事变。
唐僖宗乾符五年（878年），代北发生饥荒，云州（今山西大同）防御使段文楚乘机削减军粮、军衣，引起了军队的不满。段文楚的部下军校康君立、薛铁山、程怀信、王行审、李存璋等人在一起秘密计谋说：“段文楚是个懦弱昏庸的人，难于共事。现今四方混乱，军队士气不振，正是我们出人头地的好时候。李国昌父子勇冠诸军，名声很大，如果我们合伙推举他当首领一起暴动。就眼前来讲，代北之地用不了十几天就可以占领，功名富贵指日可待。”
计议之后，康君立等几十人连夜从云州出发，去蔚州会见李克用，对李克用说：“方今天下大乱，天子付将臣以边事，岁偶饥荒，便削储给，我等边人，焉能守死！公家父子，素以威惠及五部，当共除虐帅，以谢边人，孰敢异者。”（《旧五代史·卷五十五·康君立传》）李克用早有野心，故意以试探的口气说：“天子在，办事应当依据国家的典章律令，你们可不要轻举妄动。再说，我父亲远在振武（唐方镇名，治所在今内蒙古和林格尔西南土城子），即使起事，也得禀告父亲。”康君立等人以为李克用不想起兵，着急地说：“现在事情已经泄露，迟了就会生变。”
李克用见时机成熟，事情紧迫，于是，从蔚州起兵，哗变的军队有一万多人，赶到云州城外后，驻兵斗鸡台（在大同奚望山上）。云州城中听说李克用的军队哗变，并且来到城外时，城内军民立即杀死段文楚，迎接李克用入城。之后，众人罗列了段文楚的许多罪状，上报僖宗皇帝，要求让李克用担任大同军防御使留后。唐朝廷不能容忍，打算派兵讨伐。
当时，黄巢农民军正如火如荼，唐朝廷一时分身乏术，为了集中力量对付起义军，唐朝廷被迫采取封官许愿的拉拢办法，任命李克用为大同军节度使。李克用父子利用唐朝廷忙于镇压农民起义的时机，不断扩充势力，巩固自己的地盘。吐谷浑族赫连铎也想争夺地盘，乘李国昌出兵进攻党项族的机会，攻占了李国昌的老营振武，振武的沙陀族全被吐谷浑族俘虏。李克用见事态突然发生变化，急忙到定边军（今陕西省西北部）迎接李国昌回云州。云州守将见李克用父子势孤力单，也关闭城门，不让进城。
在这危急关头，李克用带领少数人马转战蔚州、朔州等地，得到三千多人马，屯兵新城，李国昌则退保蔚州。赫连铎为了吞并沙陀族，又带兵把新城围住，并且指挥军队昼夜攻打，情况相当危急。正在这时，李国昌从蔚州带领援军赶到，于是内外夹攻，赫连铎腹背受敌，结果被李克用父子打败。这一仗，使李克用的军队又振作起来。
唐朝见赫连铎势力强大，就以赫连铎为大同军节度使，另派李钧为代北招讨使，想消灭李克用的势力。结果，赫连铎和唐官军又吃了几次败仗，李克用不但没被消灭，反而地盘越来越大。僖宗广明元年（880年），唐朝廷任命李琢为招讨使，联合幽州的李可举、云州的赫连铎再次出兵，大举进攻李克用父子。在力量悬殊的情况下，李克用父子在药儿岭、蔚州分别被唐军打败，损失惨重，最后率残余人马逃往北边的达靼（时居于阴山）部落中。此时，正是黄巢大军由南北上之时。
广明元年（880年）末，黄巢占据长安，唐僖宗逃往四川。中和元年（881年），唐朝廷派人到代州招募士兵三万人，以抗拒黄巢。这些士兵大多是北方的杂胡，粗犷骠悍，暴虐凶横，唐将往往无法约束控制。在这样的情况下，沙陀都督李友金向唐朝廷建议起用李克用，用骁勇善战的沙陀兵将来对付黄巢。此时，僖宗手中确实没有强将可以抗拒农民军，迫于无奈，不得不起用李克用，任命他为雁门节度使。李克用闻讯后，欣喜若狂，立即率达靼诸部万人过雁门，下太原。
这时候的李克用踌躇满志。他感到自己受命于危难之间，大有要去拯救唐朝廷于水火之中的不可一世。他给河东节度使府发送牒文，声称奉唐僖宗诏命征讨黄巢，要求节度使府沿道准备酒食以供军。河东节度使郑从谠之前是唐宰相，手下有不少名士，时人称其幕府为“小朝廷”。他知道李克用南下后，立即下令紧闭城门，严防戒备沙陀军。李克用心想：“我是皇帝请来剿灭黄巢的，跟你们一条战线，你们却还把我当敌人。”他觉得受到了轻视，决定给郑从谠一点颜色瞧瞧。
当时，李克用驻军于汾东。郑从谠派人前去犒劳，送去军资粮草。李克用却在汾东停留不发，不肯继续南下。这自然让郑从谠大为紧张，不知道这沙陀人葫芦里到底卖什么药。
李克用又亲自率沙陀军来到晋阳城下，晋阳守军早得到郑从谠严令，严密戒备，不让李克用一兵一卒进城。李克用要求与河东节度使郑从谠相见。郑从谠登上城楼，在城上与李克用对话。李克用又要求发给粮饷赏钱，郑从谠便送了一些钱米。尽管如此，李克用还是不满足，开始放纵沙陀军抢掠晋阳城外的居民，晋阳城中大为惊恐。郑从谠派人向振武节度使契璋求救。契璋率领突厥、吐谷浑兵赶来，先攻破沙陀军两个寨，李克用率大军出战，契璋军大败，狼狈不堪地逃入晋阳城。
之后，李克用纵容沙陀军队抢掠阳曲、榆次，然后打算北归，也不管僖宗的诏命了。北归途中，沙陀军遇上了罕见的大暴雨，干脆武力占据了忻、代州，留居在那里。河东节度使郑从谠一点都不敢放松，派遣教练使论安等率军驻扎于百井，防备沙陀军的袭击。
显然，此时中原的局势已经相当复杂，不仅仅是农民军与唐朝廷之间的对抗那么简单。像李克用与郑从谠因小矛盾就互相攻打、置朝廷诏令于不顾的现象在当时已经相当普遍。节度使与节度使之间，节度使与监军之间，经常动不动兵戎相见。甚至连地方悍民都聚众生事，占地为王。寿州屠户王绪与妹夫刘行全见天下大乱，竟然聚集五百多人，占据寿州。一个月后，又攻陷光州，王绪自称为将军。在这样的情况下，唐朝廷竟然还任命王绪为光州刺史。这时候，局面之复杂，已经远非唐朝廷所能控制，社会大动荡实际上从这时候已经开始，后来的五代十国不过是延续而已。
李克用占据忻、代二州后，又屡次上表向僖宗请降。僖宗不胜其烦，因义武节度使王处存与李克用是世代姻亲，僖宗诏令王处存告诫李克用：“如果你是真心诚意地归附，就应当暂且回到朔州等待朝廷的命令。如果仍象从前一样暴虐横行，朝廷就会派河东和大同的官军一同进行讨伐。”但李克用没有听从。
这时候，尽管朱温已经投降了唐朝廷，占据长安的黄巢的兵势还比较强大。唐河中节度使王重荣提议重新召回李克用，以对抗黄巢军。于是，由宰相王铎出面，召李克用到河中，并谕劝河东节度使郑从谠不要再与李克用相争。于是，李克用带领一万七千沙陀军再次南下，赶往河中，但不敢进入太原境内，怕遭受郑从谠军袭击。李克用还带着几百骑兵到晋阳城下与郑从谠告别，郑从谠也装模作样地赠送给他名马、器具和钱币等。
中和二年（882年）十二月，李克用军至河中（今山西永济），与黄巢军隔河相望。前面已经讲过，唐朝廷和黄巢都使出了手段来拉拢李克用，只不过黄巢比较失策，只送上了李克用的杀弟仇人和金银珠宝，所以失去了与李克用结盟的机会。
从中和三年（883年）正月开始，李克用及其鸦儿军开始大出风头。正月，李克用在沙苑打败黄揆（黄巢的弟弟）。二月，李克用大破尚让十五万人马，激烈的战斗从中午一直到傍晚，尚让农民军大败，农民军损失惨重，“伏尸三十里”。接着，李克用在零口再败黄巢援军，进军渭桥。
李克用还派将领薛志勤、康君立等人夜间潜入长安城，四处杀人放火，焚烧财粮，搞得长安城中人心不安，大为惊慌。
中和三年（883年）夏四月初八，李克用等从光泰门进入京师长安，黄巢率军顽强抵抗，但见唐官军势大，便放火焚烧宫殿后逃跑。唐官军进入长安后，再一次横暴抢掠，与农民军没有什么两样。不过，此时长安城内的房屋和百姓已经所剩无几，实在没有什么可抢的了。
黄巢从蓝田进入商山，见唐官军紧追不舍，便下令往路上扔上金钱珍宝。追踪而至的唐官军见钱眼开，争相抢夺，也没有人再继续追击，黄巢就此逃脱。
李克用率先进入京城，夺了头功，因功加官同中书门下平章政事（宰相）、陇西郡公，不久又加金紫光禄大夫、检校右仆射、河东节度使，时年方二十八岁。在替