1948年12月17日是北京大學校慶50週年，同時也是胡適58歲的生日。前邊說了，他對這個紀念日很重視，籌劃了很久。但是，軍事形勢變化很快，進關的東北解放軍已經解放了密雲、懷柔、昌平等，包圍了北平城。
此時中共方面，已經通過方方面面，放出話來，請胡適先生留下，繼續任北大校長或者當北平圖書館館長。但胡適還是於12月15日永遠離開了北平，離開了北大。
關於胡適離開北平，他自己記有日記。
1948年12月14日：“早晨還沒有出門，得陳雪屏忽從南京來電話，力勸我南行，即有飛機來接我南去，我說，並沒有機來。十點到校，見雪屏電：“頃經兄又轉達，務請師與師母即日登程，萬勿遲疑，當有人來洽機，宜充分利用。”毅生（鄭天挺）與枚蓀（周炳琳）均勸我走。我指天說：“看這樣青天無片雲，從今早到現在，沒有一隻飛機的聲音，飛機已不能來了！”我十二點到家，又得電報，機仍無消息。到一點半始得剿總電話，要我三點鐘到勤政殿聚齊。後來我們（有陳寅恪夫婦及二女）因路阻，不能到機場。”
1948年12月15日：“昨晚十一點多鐘，傅宜生將軍自己打電話來，說總統有電話，要我南飛，飛機今早八點可到。我在電話上告訴他不能同他留守北平的歉意，他很能諒解。今天早上八點到勤政殿。但總部勸我們等待消息，直到下午兩點才起程，三點多到南苑機場，有兩機，分載二十五人。我們的飛機直飛南京，晚六點半到，有許多朋友來接。兒子思杜留在北平，沒有同行。”
臨行前胡適匆匆給湯用彤、鄭天挺等北大負責人留下便條：“今早及今午連接政府幾個電報要我即南去，我就毫無準備地走了。只好拜你們幾位同事維持。我雖在遠，決不忘掉北大。”
胡適的小兒子胡思杜堅決不願離開，要選擇走另一條道路。胡適無奈，只能留他在北平，照看自己在東廠衚衕一號住所和五大間書房的藏書，他自己帶走的只有《甲戌本脂硯齋重評石頭記》和幾部正在校勘的《水經注》。
12月17日，由湯用彤主持，在炮聲隆隆中，少數教授在孑民堂開了一個簡短的北大50年校慶會。
這一天，胡適在南京應邀出席了當地北大校友舉辦的北大50年校慶紀念會。他在會上痛哭失聲，沒有多講話，只說：“我是一個離職的逃兵，實在沒有面子在這裡說話。”
關於胡適爲什麼一定要離開北平，除了對中共不信任和理念不同外，一個重要的原因應該是履行承諾。因爲，1948年11月下旬，蔣介石決定請胡適出來收拾殘局，派陶希聖專程飛到北平，趕到東廠衚衕做胡適的工作。胡適在拒絕的時候曾表示，“在國家最危難的時候，我一定與總統蔣先生站在一起”。
不過，可以肯定，原因不止這些。因爲，此時出現在胡適身邊的還有一個身影，就是“赫赫有名”的軍統特務葉翔之。
2011年臺灣出了本紀念葉翔之“百年冥誕”文集，其中有篇葉翔之自述，文中有這麼一句話：“三十七年冬，曾奉命於北平被圍中飛平執行某項特殊工作，安然返京……”是什麼特殊工作呢？一直跟隨他的唐柱國寫的，“葉在大陸屢建奇功”對此有所交待：“葉翔之在大陸撤退前夕，經辦過好幾件大案，包括在北平被中共圍城之後，冒險深入城內，接出胡適、梅貽琦等一批國寶級學者。”
葉翔之是什麼人？“抗戰勝利時已官拜少將，身兼軍統局‘渝（重慶）特區區長’，局（後改爲保密局）本部第二處處長、全國肅‘奸’委員會主任委員三要職”。這之前葉曾於1947年9月參與偵破“北平共諜案”，親手抓捕並誘降了王石堅，北平、西安、瀋陽、保定、蘭州等地的中共秘密電臺大部分暴露，中央社會部所屬的重要情報系統即王石堅系統遭遇滅頂之災，整個北方情報系統被吞噬，中共情報史上出現了多年未曾有過的重大損失。這之後，葉又於1950年一手偵破了中共臺灣省工作委員會，“整個中共臺灣省工委，從各級幹部到黨員共1800餘人，除極少數幾個逃脫外，全部被捕”，工委書記、參加過萬里長征的蔡孝乾叛變，吳石、朱諶之等犧牲。
有這樣一個人出現在胡適身邊，胡適想不走恐怕很難。
如果胡適不走會怎麼樣？歷史固然沒有如果，而從他小兒子的不幸遭遇中也許能略知一二。像胡適這樣的有獨立人格，獨立思想的人，在哪個年代，恐怕是不會跳忠字舞的，一些人能容得了他嗎?
1948年陽曆除夕，胡適與傅斯年同在南京度歲。兩人悽然相對，一邊喝酒，一邊背誦陶淵明《擬古》第九：“種桑長江邊，三年望當採。枝條始欲茂，忽值山河改。柯葉自摧折，根株浮滄海。春蠶既無食，寒衣欲誰待。本不植高原，今日復何悔!”——北大復員，傅斯年、胡適接辦正好“三年”，“三年望當採”，正期望北大有所建樹，有所創穫，有所成就時，“忽值山河改”，現實的山河改色，“事業”付諸東流。“枝條”、“柯葉”、“根株”經此大“摧折”，種桑的人恐怕只得“浮滄海”——“乘桴浮於海”了。“本不植高原”，“種桑”選錯了地方，時至今日還有什麼可以後悔的?
第二天，即1949年元旦，胡適在日記中寫道：“南京作‘逃兵’，作難民，已十七日了！”
1949年1月8日晚，胡適應邀去蔣介石官邸吃晚餐。席間蔣介石問胡適今後有何打算，胡適說他現在能想到的，是繼續考他的“水經注”, 蔣介石看來已成竹在胸，極力勸說胡適再去美國，怕胡適有誤解，他說：“我不要你做大使，也不要你負什麼使命。例如爭取美援，不要你去做。我只要你出去看看。”
1月15日，胡適到上海。21日，胡適送江冬秀乘船去臺灣。就在當天，蔣介石宣佈“引退”，由副總統李宗仁代行總統職務。
1月24日，胡適給吳忠信寫信，辭去總統府資政之聘。胡適說，自己現在還是北京大學校長，因時局關係，此時還不能辭職。
1月25日，胡適乘車到上海，暫住霞飛路1946號，其間曾整理上海合衆圖書館藏葉揆初藏三種《水經注》抄本。3月下旬，胡適曾到臺灣，在中山堂演講《中國文化裡的自由傳統》。
1949年4月6日，胡適從上海乘克里夫蘭總統號輪離開，21日抵美國舊金山，27日到達紐約。住進東城81街104號他原來租住過的公寓裡，開始了他在紐約的流亡寓公生活。
紐約，這個世界最大的都會，對胡適來說，是那麼熟悉，然而又那麼陌生。在胡適的眼中，紐約，已不再像胡適留學時代那樣富於魅力，令人神往；也不再有他任大使前後那種戰爭年代的特別氣氛，令人振奮。現在的胡適，只是帶着一點有限的存款，逃亡到異國他鄉的一個年老多病，手難縛雞的書生。因爲謀生乏術，一時找不到職業。而隨着國民黨政府垮臺，逃亡美國的黨國要人和敗陣將軍，一個個頹廢潦倒的模樣，在紐約街頭則隨處可見，這更讓胡適沮喪。
在這裡，胡適的那些國民黨的朋友們，也一個個牢騷滿腹，對蔣介石政府怨恨不休。胡適於是取消一切約會，關起門來繼續考他的《水經注》。
第二年，夫人江冬秀也到了紐約，胡適的幽居生活纔算有了一點慰藉。他們租賃的公寓，雖然已經破舊，畢竟也能蔽風雨。僱不起幫傭，便一切自理。夫人打掃廚房，胡適整理內務。夫人燒飯做菜，胡適便洗刷碗筷，……洗衣、收拾房間等，胡適也搶着去做。鼎鼎大名的胡適，平常衣來伸手，飯來張口，現在竟也學會了種種家務勞動。生活是很清苦的，俗話說得好，人有享不了的福，沒有遭不了的罪。老了老了，胡適反而成了個很勤快的人。或許，正是這“老來窮”逼出來的。
在生活費很高的紐約市，沒有固定收入，難免坐吃山空，更何況胡適只有一點有限的存款！胡適雖是“不可救藥的樂觀主義者”，面對晚年悽清困窘的現實，也難免悲從中來，以致多次對他的少年朋友唐德剛說：“年輕時要注意多留點積蓄!”這發自內心的誠摯話語，既是對晚輩的關心和勸勉，更流露出對自己淒涼晚景的嘆息。
紐約的寓公生活，不僅清苦，日常的安全也很難保障。
他們所住的是大使級的住宅區，但胡適住的那那所破爛的公寓，卻沒有大使級的防盜設備。
一次胡適外出，胡太太一人正在廚房燒飯。一個彪形大漢的竊賊，忽然自防火樓梯，破窗而入。幸好胡太太沒有學會一般美國女人臨危時的尖叫，而是臨危不懼地走向公寓大門，把門打開，反身對那悍賊，大叫一聲“GO”！
看來不管是哪裡，都是做賊心虛。那位大黑賊，看了胡老太太一眼，真的從門口“GO”了。她老太太把門關好，又徑地回廚房燒菜去了。
1950年5月，胡適終於在普林斯登大學，謀得葛斯德東方圖書館管理員（也可以稱做館長）的職務，9月到職，合約兩年。
普林斯登大學在紐約附近的新澤西州小城，爲美國東部常春藤盟校之一，頗有聲望。校中圖書館建築精美，藏書豐富。葛斯德東方圖書館，是其獨立的一個分館。它由創始人葛斯德所收藏的中國圖書爲基礎，逐步發展成以中文圖書爲主的東方圖書館。包括漢文、滿文、蒙文、藏文，以及日本、朝鮮、印度和泰國的出版物，總計約有近30萬冊書。其中最大量收藏的是中國醫藥學書籍及成套叢書。只是，這個圖書館剛剛成立的時候，普大當局對葛氏這一大批古色古香的中國線裝書，究竟有何價值，完全不瞭解。他們知道胡適是中國的大學者，又正流寓紐約賦閒，便聘請他來校主持清理並經管這批圖書。讀書人自然願意與書打交道，胡適何樂而不爲。
葛斯德東方圖書館，那時在美國不僅一般人不知道，連美國的漢學界、華人學者也很少有人知道。館裡的工作人員也總共只有兩個，除胡適外，另有一名助手童世綱。胡適上任之後，便下功夫清點整理。
1952年2月，他爲普大籌劃舉辦了一個以“十一世紀的中國印刷術”爲題的特別書展。胡適親自撰寫了幾篇介紹文章和書展目錄。展覽歷時兩個月，頗爲轟動。
而因爲胡適和這個書展，葛斯德東方圖書館被埋沒多年無人知曉的藏書，竟不脛而走，引起了美國漢學界及海內外華人學者的關注。