年青時曾從師陳傅良。兩人是同鄉，志趣相投，且都負文名。一時“聲價喧踴，老舊莫敢齒列。”十八歲時，應禮部試，考取第一名。后幾次選拔，文皆過于師。

一回孝宗親自策士，擬將幼學列為首選。廷對時，這位初生之犢卻說，“陛下資雖聰明而所存未大，志雖高遠而所趨未正，治雖精勤而大原不立。即位之始，冀太平旦暮至。奈何今十年，風俗日壞，將難扶持；紀綱日亂，將難整齊；人心益搖，將難收拾；吏慢兵驕，財匱民困，將難正救。”孝宗看罷四個“將難”對策，心中不悅，宰相虞允文尤惡之。幼學遂而下第，遣為廣德軍教授。

過了幾年，當時執政薦他入朝，孝宗也答應，問“年幾何矣？何以名幼學？”參政施師點答，“孟子云，‘幼而學之，壯而欲行之。’故幼學其名，行之其字”。孝宗佇思良久慨然道，“今壯矣，可行之已。”即授予敕令所刪定官。幼學入朝，適溫州大水，為解百姓之困，上疏請求賑濟，朝廷從之。

光宗立，以太學錄召，改授武學博士。逾年升秘書省正字兼實錄院檢討官。又過數年，寧宗即位，幼學得器重擬要進擢。時宰相韓侂胄用事，為排除異己，施行“偽學”之禁。蔡幼學與朱熹、陳博良、葉適等五十九人，盡入“偽學”查禁之列，“并令省部籍記姓名，與閑慢差遣。”幼學見京中朋類將散，自己也被羅織，便力求外補。遂而特除提舉福建常平，外放至福建。當時朱熹居建陽，幼學每事咨訪，又被御史劉德秀劾罷，任閑職凡八年。

嘉泰二年，“偽學”之禁漸弛，幼學起如黃州。旋又召為吏部侍郎，再遷國子司業、宗正少卿，皆權中書舍人。中書舍人為六房（吏、戶、禮、兵、刑、工）承辦文書和起草詔令官員，位較重。侂胄誅后，余黨尚塞正路，幼學次第彈劾，竄黜尤眾，號稱職。嘉定間，幼學除龍圖閣待制、知泉州，旋又進福建路安撫使。在任關切民瘼，敢為民請命。當時提舉司命令百姓以田高下藏新會子，若不如令，便要抄沒其資產。新會子是紙幣，因濫發而價值大跌，同時又不能作交納賦稅用。幼學憤然，“罔民而可，吾忍之乎！惟有去而已”。要求罷去這坑民之苛令。