生于元世祖至元十六年，卒于元惠宗至元四年，年六十歲。（元詩選小傳云：至正四年卒。此從元史本傳）。其祖宗系雍古部（蒙古汪古都部，今內蒙集寧附近）人，先世為雍古部貴族，聶思脫里派（基督教中國景教派）信徒。高祖錫里吉思是金代鳳翔兵馬判官，為國捐軀，死后封恒州刺史，子孫按照以官為姓的慣例改姓馬。曾祖月合乃，隨從元世祖忽必烈攻宋，留居開封，累官禮部尚書。父潤，同知漳州總管府事，移居光州，任光州監軍。

馬祖常，在7歲時，就知道求學，得到點錢就用來買書。10歲時，燭火引起失火，引燃房屋，但他不慌亂，頻頻取水滅火。大伙議論紛紛，都認為不一般。長大后，他篤實求學，由蜀中儒學家張摐傳授學業，他常提出不少質疑，很受老師器重。元仁宗延祐初年，剛恢復科舉，他在鄉、會兩次考試時，皆中第一。廷試為第二，授應奉翰林文字，拜監察御史，官職做到御史中丞官。與袁桷、王士熙等互相切磋文字，相交甚密。

是時，仁宗在位已久，獨居東宮常飲酒過度，不理朝政。馬祖常上書奏請元仁宗：“以天地祖宗為重，御正衙、立朝儀，御史執簡，太史執筆”提出十五件事，一一說明，屢屢建議。不久，成為皇太子慎簡的師傅。又上奏，彈劾丞相鐵木迭兒十大罪狀，元仁宗震怒，一下撤掉他的宰相官位。后來，又上奏，說泰州地動山搖是由于“在野有當用不用之賢，在官有當言不言之佞”。指出賢才人士皆家居等。又因奏疏而降罪。多次因彈劾、舉薦獲罪，可知馬祖常“薦賢拔滯，知無不言”。不久改任宣政院經歷，一月有余，辭職歸鄉。而后，又起用為社稷署令，改任開平縣尹。由于奸臣當道，馬祖常退隱潛居光州。奸臣死，馬祖常又任翰林待制。泰定年間，立太子，馬祖常擔任典寶少監、太子左贊善官職，不久，任禮部尚書兼翰林直學士，因老人去世，在家中守喪數年，復出做官，再任禮部尚書、右贊善，不久又辭官歸鄉。

天歷元年（1328)，馬祖常入禮部任職，兩次知貢舉，一次讀卷官，當時人稱馬祖常選拔得當，為國家挑選出大量人才。后升為參議中書省事、南臺中丞。元統初年，馬祖常拜治書侍御史中丞、經歷樞密副使。馬祖常辭官歸光州。后又派遣他出任江南、陜西行臺中丞，馬祖常以有病在身推辭，沒有前往。至元四年三月，馬祖常去世，年60歲，官至禮部尚書、樞密副使。贈攄忠宣憲協正功臣、河南行省右丞、上護軍、魏郡公，謚號文貞。祖常初娶常州錄事判官之女索氏，又娶河南鎮守千戶和尚之女怯烈氏。子二人，任行省檢校官及秘書監著作郎等職。