這縣丞雖然只是個不入流的小官，但劉基卻也不敢有絲毫馬虎；到任後不久，就以勤政愛民、執法嚴明獲得了當地百姓一致讚譽。只是由於性情太過剛正，不但招來了地方豪紳仇視；而且還時常被其生着法的無端陷害！好在上司與同僚都對劉基爲人十分信賴，這纔多次倖免於難。因此一俟五年任期屆滿，遂當即便辭去了官職。
可返回了青田以後，由於在高安縣的政績有目共睹；沒多久便又被朝廷徵召出任江浙儒副提舉，併兼任了行省主考一職。當時原以爲朝廷已有了清明之象，沒成想吏治不但更加腐敗；而且還到處貪墨成風，僅僅只是下屬與上司見面便有拜見錢、撒花錢、生日錢、常例錢、人情錢......等等不下數十種之多！更有甚者，既是連肅政廉訪的官吏也巧立名目；百般索要！以致於‘所至州縣，各帶庫子撿鈔稱銀’殆同市道......面對朝堂上下已蔚然成風情形，劉基雖然是敢怒不敢言；但由於不願沆瀣一氣，加上後來又兼具了檢舉監察御史職責；所以不但得不到朝中大臣的信任與支持，反而還經常受氣被其百般責難！
恰好此時接到了好友歐陽蘇的邀請，於是辭官前往丹徒；被其安排在距家不遠的蛟溪書屋住下後，這才過上了一段頗爲自在的閒居生活。其間，日子雖然稍顯清貧；但有了月忽難、陶凱等好友常來詩文唱和，但劉基卻也樂在其中愜意無比。如此到了至正八年，直至夫人即將臨產；劉基這才這才遷往杭州，結束了這段整整兩年多的半隱居生活。在此期間，由於又結交了竹川上人、照玄上人等方外好友；在其點撥下，劉基自然也樂得超乎物外遠離公文案牘。
然天不從人願！剛剛有了隱居之念不久，因浙東一帶盜賊橫行；隨即便又被朝廷徵召，並委以了浙江行省元帥府都事一職。由於早知這浙東匪患皆是由方國珍兄弟而起，所以到任後，劉基當時便提出了應對匪首全部處以極刑。甫料左丞貼裡帖木兒對此卻根本不以爲然，始終認爲將方式兄弟收爲己用方爲高明。於是在對方重金賄賂之下，方國珍不但被其招安；而且還將劉基提議一概駁回，並落下個擅自作威作福的罵名！再次遭到了無端責難後，眼見朝廷已極爲昏聵腐朽；不堪輔佐之下，劉基卻也不得不又一次地提出了辭官歸裡。只是想起此前遭遇，返回青田後不久；便又轉往了丹徒，以防止再被朝廷叨擾......
‘所以方纔我並非是存心欺瞞，只是天象顯示帝星應在西方；爲親自驗證此象，這才特意相看了一番。’一番話說完，末了再補充了一句後，劉基隨即便又開始連連賠罪了起來。‘先生乃當世大才！既然有意來投，我又哪會計較這些細枝末節？......’看劉基情狀，朱元璋再次安撫了一番後，這才命人起駕，與其一起打道回府。由於情知這劉基學究天人，一身本事非同小可。所以此後的一段時間裡，朱元璋不但時時前去請教，而且還一直以師禮待之。而那劉基本就無意官職，自然也樂得接受這有名無實的稱謂；但有來問，總是知無不言儘量使其滿意而歸。其間，爲妥善安排劉基職務；朱元璋不但大傷腦筋，而且還特意找來了李善長、徐達等人商議。時間一天天過去，也就是正在朱元璋爲此事左右爲難之際，此時卻突然接到了太平已被陳友諒攻陷的消息！