早期經歷

余玠幼時家貧，在白鹿洞書院和太學上舍讀書，因與茶館老人發生口角，不慎失手推茶翁致死，脫身出逃襄淮，作長短句一首，投入淮東制置使趙葵幕下。趙葵贊其心懷壯志，把他收留在軍中任事。不久即以功補進入副尉，又擢升作監主薄。宋端平三年（1236年）2月，蒙古軍侵入蘄、黃、廣。余玠應蘄州守臣征召，協助組織軍民守城，配合南宋援兵擊退蒙古軍。宋嘉熙元年（1237年）10月，余玠在趙葵領導下率部應援安豐軍杜皋，擊潰蒙古軍，使淮右得以保全。次年，朝廷論功行賞，余玠進官三秩，被任命為知招信軍兼淮東制置司參議官，進工部郎官。

盱眙退敵

宋嘉熙二年（1238年）9月，蒙古大帥察罕進攻滁州。余玠率精兵應援，大獲全勝。宋嘉熙四年（1240年）9月被提升為淮東提點刑獄兼知淮安州，主持濠州以東、淮河南北一帶防務。宋淳祐元年（1241年）秋，蒙古軍察罕出兵安徽壽縣，余玠率舟師進擊察罕軍，激戰40余天，使蒙古軍潰退。憑軍功拜大理少卿，升淮東制置副使。

防蜀之戰

宋淳祐三年（蒙古乃馬真皇后稱制二年，1243年），至寶祐元年（蒙古蒙哥汗三年，1253年），在蒙宋戰爭中，蜀帥余玠以山城防御抗擊蒙古軍進攻的作戰。

宋淳祐元年十一月，蒙古窩闊臺汗病死，內部紛爭汗位，無暇全面部署對南宋大規模戰爭，南宋王朝得以暫時休整和調整防御部署。宋理宗趙昀命在淮東屢立戰功的的余玠為兵部侍郎、四川制置使兼知重慶府，負責四川防務。余玠赴任后，革除弊政，實行輕徭薄賦、整頓軍紀、除暴獎賢、廣納賢良、聚小屯為大屯等政策。采納播州人冉氏兄弟建策，采取依山制騎、以點控面的方略，先后筑青居、大獲、釣魚、云頂（今四川南充南、蒼溪東南、合川東、金堂南）等10余城，并遷郡治于山城。又調整兵力部署，移金州（今陜西安康）戍軍于大獲；移沔州（今陜西略陽）戍軍于青居；移興元（今陜西漢中）戍軍于合州（今合川東釣魚城），共同防守內水（今涪江、嘉陵江、渠江）；移利州戍軍于云頂，以備外水（即岷江、沱江）。諸城依山為壘，據險設防，屯兵儲糧，訓練士卒，經數年建設，逐步建成以重慶為中心，以堡寨控扼江河、要隘的縱深梯次防御體系，邊防稍安。六年（蒙古貴由元年），蒙古分兵四道入蜀，余玠繼多次戰勝蒙古軍進攻之后，依靠新建立的山城防御體系，又打退了蒙古軍的進攻。宋淳祐十年（蒙古海迷失皇后二年），余玠調集四川各路精銳，誓師北伐。以一部兵向隴蜀邊界出擊；自率主力，取金牛道向漢中（今屬陜西）進發，三戰連捷。次年四月，余玠率軍號10萬進占漢中西之中梁山，潛軍燒毀漢中至大散關（今陜西寶雞西南）棧道后，率軍圍漢中數重，晝夜急攻。蒙古軍修復棧道，各路援軍會至。余玠久攻不克，兵老師鈍，只好撤軍。宋淳祐十二年（蒙古蒙哥汗二年），余玠率軍擊退進攻嘉定（今四川樂山）的蒙古軍，四川抗蒙形勢日益好轉。

抗蒙戰爭

余玠在四川，開屯田以備軍糧，整頓財賦，申明賞罰。修筑山城和抗蒙有功將士，都得到獎掖。違法的將官，受到懲處。利州都統制王夔兇殘跋扈，號稱“王夜叉”，不聽余玠調度，到處劫掠。余玠依軍法斬王夔。經過余玠的整頓，四川駐軍聲勢大振。蒙古軍多次自西蜀來侵擾，都被宋軍打退。

余玠守蜀有功，宋淳佑八年（1248年）被任為兵部尚書，拜資政殿學士，仍駐四川。宋淳祐九年（1249年）又任右丞相兼樞密使。宋淳佑十二年（1252年），蒙古汪德臣（汪世顯子，汪世顯已死）部侵掠成都，圍攻嘉定。余玠率部將力戰，再次打退蒙古軍。余玠抗戰獲勝，謝方叔卻設法迫害余玠。

服毒自殺

宋寶祐元年（1253年），因與統制姚世安不和，姚世安以宰相謝方叔為援，謝方叔和參知政事徐清叟等向宋理宗誣告，攻擊余玠獨掌大權，卻不知事君之禮。宋理宗聽信讒言，召其還朝。余玠知有變故，憤懣成疾。同年7月，余玠在四川被迫服毒自殺。

余玠死后，宋理宗輟朝，特贈五官。次年，朝廷權奸削去余生前職務并迫害家屬和親信。余玠部下王惟忠，也被誣告潛通蒙古，處死。