為所長，趙燏黃、沈慈輝、曾義為研究員。

工程研究所聘請周仁為所長，王季同、周行健等為研究員。

地質研究所聘李四光為所長，翁文灝、葉良輔、徐淵摩等為研究員。

氣象研究所聘竺可楨為所長，胡煥庸等為研究員。

天文研究所聘請俞青松為所長，陳遵媯、高平子為研究員。

心理研究所由康鉞任所長。

人文方面，歷史語言所由傅斯年任所長，陳寅恪、趙元任、李濟分別任歷史組、語言組、考古組主任，研究員有陳垣、劉半農、徐中舒、羅常培、史祿國白俄學者等。

社會科學研究所由楊端六任所長，后由蔡元培本人兼任。經濟組主任楊杏佛，研究員楊端六、吳定良，特約研究員劉大鈞、王琎、何廉、蔣廷黻等。法制組主任王云五，特約研究員周鯁生、王世杰、胡長青等。社會組主任陳翰笙，研究員王濟昌，特約研究員陶孟和；民族組主任蔡元培，研究員有德國學者但澤、凌純聲。

蔡元培所聘請的研究人員，幾乎囊括了當時中國科學界的頂級精英。

在研究院的行政管理上，蔡元培也始終把握專家治院的原則。研究院內總管行政事務的最初為秘書長，后改稱為總干事。蔡元培聘請的第一任總干事是楊杏佛。

楊杏佛早年加入同盟會，并曾在孫中山的臨時南京政府中任職，后赴美國留學，攻讀機械工程、工商管理、經濟。歸國后，長期協助蔡元培工作，是蔡元培創建中央研究院的最得力的助手。

蔡元培曾說：“我素來寬容而迂緩，楊君精悍而機警，正可以他之長補我之短。”

1933年，楊杏佛遭國民黨特務暗殺，物理學家丁西林短期代任總干事一職，繼由地質學家丁文江接任總干事。

丁文江早年留學英國攻讀動物學和地質學，1922年參與發起成立中國地質學會，與翁文灝合著《第一次中國礦業紀要》。他是一個精于科學又長于事務管理的科學家，1934年任中央研究院總干事后在科研組織管理方面實施了一系列富有成效的改革。蔡元培稱他是一位“有辦事才能的科學家”，“我國現代稀有的人物”。

作為一院之長的蔡元培給自己的角色定位，就是為科研人員竭盡所能地創造學術研究條件和空間。各所的學者要去全國各地進行科學調研，蔡元培總是和國民黨的各地方軍政要員積極接洽，要求他們盡力協助。

對自己聘任的專家學者，蔡元培則用人不疑。

時任社會科學研究所社會組主任的陳翰笙回憶：“蔡先生是院長兼社會科學研究所所長，但所內的具體工作，全都放手讓我主持，從不干擾。重要事務，由我去向他報告，他仔細地、認真地、虛心地聽取報告，先征求我的處理意見，然后由他提出具體辦法來同我商榷……我去信請教時，他都親筆回信，具體而切實，從沒有訓人的口吻。他不僅對我是這樣，他對中央研究院每一個工作人員，不論職位高低，都以謙虛誠懇的態度平等相待。”

蔡元培領導創建中國研究院，是他繼擔任民國教育總長、北大校長之后，對于中國文教科研事業所做的又一個豐碑式功績，以至有人評價，這是“蔡先生對于我國學術之最大貢獻”。

1949年，國民黨當局遷臺。12月，歷史語言研究所的全部以及數學研究所的部分共二千多箱重要圖書、文物、儀器、設備運往臺灣，遷至臺北的臺灣大學，暫存在桃園縣楊梅鎮（今桃園市楊梅區）火車站倉庫。其余研究所皆留置于中國大陸，并發展為后來中國科學院之主體（中國科學院早期的外文譯名亦一直沿用acadeia sica，現多采用英語ese acadey of sces，但仍有部分研究所沿用拉丁文譯法）。

由于多數院士及中央研究院第一屆院士會議所選出