一九二五年三月，羅馬教廷租下北京李廣橋西街十號舊濤貝勒府為公教大學，校名沿用已停辦的輔仁社，先開大學預科一班，是為輔仁大學前身，由英斂之擔任社長（亦即校長），馬相伯、英斂之共同推薦陳垣擔任副校長兼主講教師。一九二六年一月，英斂之去世，臨終時以校務相託。因此陳垣就接任北京公教大學輔仁社社長，同年九月出任北京公教大學副校長。從一九二七年六月，北京公教大學改稱輔仁大學，陳垣兼任文學院中國文學系主任，後正式擔任輔仁大學校長。一九五二年，院系調整，輔仁大學與北京師範大學合併成為新的北京師範大學，陳垣出任新的北京師範大學校長，直至一九七一年六月二十一日去世，擔任校長長達四十五年之久，創下教育史上罕見的紀錄。
而一九二六年陳垣出版《元西域人華化考》，元朝將人分為四等：蒙古人、色目人、漢人、南人，書中西域人主要是指色目人，該書詳細闡述元代百年間西域色目人來華後吸收並傳播漢文化的狀況。譬如講元曲的貫雲石、詩人丁鶴年，他們都是西域人，但漢化後連名字都改成漢人的，你若只看名字又怎知他們是西域人呢？陳垣用了元朝六十家的文集來當材料，還引用其他史籍二百多種，他說：「我們研究歷史，不能只用史部的書，經部、子部、集部的著作都應加以利用。」該書開研究華化西域之先，材料豐贍，條理明辨，在中外學術界引起巨大轟動，蔡元培稱其為「石破天驚」之作。陳寅恪在序文中評論說：「近二十年來，國人內感民族文化之衰頹，外感世界思潮之激蕩，其論史之作，漸能脫除清代經師之舊染，有以合於今日史學之真諦，而新會陳援庵先生之書尤為中外學人所推服。」著名歷史學家、香港中文大學教授許冠三認為該書「論樸實，極類顧炎武；論簡賅；直逼王國維；論明白通曉；可敵胡適之。」
說到陳垣與胡適的交往，據考證在一九二二年二月十九日以前他們就認識了。同年三月，北大《國學季刊》編輯部成立，胡適兼任編輯部主任。次年一月，《國學季刊》第一卷第一號正式出版，當時陳垣在《國學季刊》上相繼發表了〈火襖教入中國考〉、〈摩尼教入中國考〉、〈摩尼教殘經〉和〈元西域人華化考〉上半部。陳垣的這些論著，可以說和胡適的治學理念是相通的。在一九二六年七月二十四的胡適日記說：「作〈介紹幾部新出的史學書〉。今日作第一部書評，紹介援庵的《二十史朔閏表》。」至於一九二八年七月九日陳垣給胡適的信，說他前幾天收到胡適的《白話文學史》上卷，對於白話文他有和胡適相同的看法，信中說：「我以為『白話』『文言』對待的稱呼，根本要不得。所以十四年秋冬之間，寫了十幾段《白屋文話》，開宗明義，就把文言文底頭銜革掉，正其名曰古話文，一名鬼話文；而白話文底名稱，也改正為今話文，一名人話文。又把周秦人底鬼話文，稱為道地鬼話文；漢代以後的學著周秦人底鬼腔所寫的鬼話文，稱為藍青鬼話文。從前那些鬼話文家，搖著頭說，『文運古盛而今衰』，無非鬼話越學越藍青，一代不如一代而已。至於人話文，卻斷然是文運古衰而今盛。先生以為何如？」兩人在白話文的立場，可說是趨於一致的。而在五天前（七月四日）陳垣給胡適的信談及他完成《史諱舉例》八篇，並將敘目寄給胡適。他自言：「意欲為避諱史作一總結束，而使考史者多一門路、一鑰匙。」「研究避諱而能應用之於校勘學及考古學者，謂之避諱學。避諱學亦史學中一補助科學也。」
