张浚兵败，部将保护他且战且退到了安全地带。张浚痛定思痛，后悔当初不听曲端之言，所以他想把曲端请回来，让他主持川陕军事。张浚一动这个念头，吴玠就跟张浚讲：您忘了跟曲端立的军令状吗？张浚一听就犯愁了：按照当初立的军令状，他应该把脑袋输给曲端。其实只要张浚认个错，曲端也不敢要他脑袋，因为张浚是上级。这时吴玠在手上写了四个字给张浚看：曲端谋反。
张浚非常了解高宗的心理，皇帝最怕的就是武将谋反。张浚心想，这个主意好，告曲端谋反，他就必死无疑了。曲端死了自然不会向他要脑袋了。但是有什么证据证明曲端谋反呢？这时一个曾被曲端责打过的部将说曲端曾经写过一首诗，诗里流露出他有反意。原来曲端的诗里有这么两句：“不向关中兴帝业，却来江上泛渔舟。”
张浚一看大喜：这明显就是讽刺当今天子嘛！有了这个借口，张浚就把曲端抓起来了。
张浚把曲端交给一个叫康随的部下去审问。康随原来是曲端的下属，因为犯了军法被曲端抽过一顿鞭子，所以对曲端恨之入骨。
曲端一听由康随来审他，仰天长叹道：“曲端必死，铁象可惜啊！”铁象是曲端的坐骑，据说是一匹宝马，可以日行八百里。曲端叹息自己死后，这匹名马不知道将来会落在谁的手里，太可惜了。
康随审问曲端说，有人告你谋反，有没有这种事情？曲端当然否认。康随又问那两句诗该如何解释，曲端解释后康随又不听。其实即使讽刺也不等于谋反啊！为了让曲端认罪，康随命人大刑伺候。曲端是一员勐将，钢筋铁骨，寻常的皮鞭棍棒根本奈何不了他。于是康随把曲端用铁笼子装起来，然后在笼子四周堆起炭火来烤。曲端的皮肤都被烤化了，遍体流油，非常口渴，便向康随要水喝。康随竟让人给曲端灌烧酒，曲端喝了烧酒后，五脏六腑全烂了。可怜一代名将，就这样被活活折磨至死，年仅41岁。
曲端死得非常可惜，他没有死在战场上，却死在了自己人手里。更糟糕的是，曲端在关陕地区驻军多年，深得民心，他一死，“陕西士大夫莫不惜之”，关陕的军民心想，曲将军殚精竭虑精忠报国，结果却落得这样一个下场，这样的朝廷还保它做什么？所以有的人就开始投降金军，有的州县也开始投降金国了。
张浚守关失利，又刚愎自用擅杀大将，关键是他跟皇上保证明年君臣回东京过元宵节，这下保证兑现不了了。高宗下旨将张浚贬职。
曲端之死吴玠也脱不了干系，因为是他在手上写下“曲端谋反”这几个字，张浚才顿起杀心把曲端害死的。按理吴玠是个奸臣。可是张浚兵败曲端被害后，却又多亏了这位吴玠将军，川陕才得以守住。
绍兴四年二月，金帅完颜宗弼与大将完颜撒离喝等急于“图蜀”，率师十万自和尚原凿山开道，沿秦岭东下，进攻仙人关。吴玠率万人于仙人关右置寨扎营，分守要隘，互为犄角之势。吴璘率轻兵自七方关兼程赶来，转战七昼夜后，方与吴玠会合。
金兵勐力攻关，激战一整天，因宋军拒险死守，始终不能破关。双方相持数日后，吴玠乘金军疲惫，以统领王喜、王武等人率部攻入金营，金军败退，大将韩常左目中箭。金军无法支撑，于是领兵连夜逃遁。吴玠乘胜督军奋击，命统制王浚引军疾驰敌后，设伏河池，扼其归路，又大败金军。因统制郭震防守不力，吴玠将其斩杀以正军纪。
仙人关一役，金军自元帅以下，都携带家卷前来。伪齐方面的大将刘夔也是伪齐皇帝刘豫的心腹。金国方面本以为四川可轻易到手，但累战未能入蜀，反损兵折将，“遂还凤翔，授甲士田，为久留计”。此后，金军隔渭水与宋军对峙，相当时期内未敢攻蜀。
吴氏兄弟因屡胜金军，声威大震，名扬陇蜀。同年四月，吴玠改任定国军节度使、川陕宣抚副使。高宗赏赐他自己所穿的战袍、器甲，又在亲笔信中说：“朕只遗憾相隔遥远，不能抚摸你的背啊（不得拊卿之背也）。”吴玠旋即主动出兵进攻，击败金军，收复凤、秦、陇三州。七月，朝廷录仙人关之功，诏授吴玠为检校少师，迁为奉宁、保静两镇节度使。在江西制置使岳飞出师收复襄阳六郡时，高宗令吴玠从旁策应。吴玠派川陕宣抚司统制官杨从仪率军进攻伪齐，在腊家城破敌。
吴玠素来不摆威仪，即使在担任川陕宣抚副使后，也依旧不拘礼节。他常常背着手外出步行，和普通士兵站着谈话。幕僚担心有刺客威胁其安全，吴玠致谢道：“确实像您所说的。但我的意图不在这里。国家不清楚我吴玠不才，授我宣抚副使之职。我只担心军民有冤屈无处申诉，被门吏阻隔，无法表达自己的意思。”幕僚听后深为佩服。
绍兴九年（1139年）正月，宋金和议达成，高宗因为吴玠功高，授他开府仪同三司、四川宣抚使。但由于长期鞍马之劳，吴玠此时已经重病缠身，于三月上疏请求解职，高宗不允。六月二十一日，吴玠在仙人关病逝，年仅四十七岁。