少年時曾在紹興古越藏書樓校書，得以博覽群書。光緒十五年(1889)舉人，十六年會試貢士，未殿試。十八年補殿試，為進士，授翰林院庶吉士，二十年補翰林院編修。甲午戰爭後，開始接觸西學，同情維新。
二十四年九月返紹興，任紹興中西學堂監督，提倡新學。二十七年七月奔赴上海，出任南洋公學教習。二十八年與蔣觀雲等組織中國教育會，任事務長。夏，遊歷日本，同年秋回國，在上海創設愛國女校及愛國學社，任總理。並以《晨報》為陣地，提倡民權，宣傳排滿革命。三十年冬與陶成章、龔寶銓等在上海建立光復會，被推為會長，次年加入同盟會。三十年赴德意志帝國留學。
民國元年(1912)任南京臨時政府教育總長，主張採用西方教育製度，廢止祀孔讀經，實行男女同校等改革措施，確立起我國資產階級民主教育體製。二次革命失敗後，攜眷赴法，與李石曾等創辦留法勤工儉學會。
五年冬回國任北京大學校長，支持新文化運動，提倡學術研究，主張"思想自由，兼容並包"，實行教授治校。"五四"運動中支持學生愛國行動，多方營救被捕學生。被迫辭職後，多次赴歐洲英、法等國考察教育和講學。民國十六年後擔任國民政府常務委員、大學院院長、中央研究院院長等職。
"九·一八"事變後，主張抗日，擁護國共合作。民國二十一年(1932)與宋慶齡、魯迅等發起組織中國民權保障同盟，積極開展抗日愛國運動。曾電救楊開慧烈士，援救許德珩等愛國民主人士，營救丁玲、朱宜權等共產黨員。二十九年3月5日在香港病逝。葬香港仔山巔華人公墓。
教育部北大在誄詞中有"當中西文化交接之際，先生應運而生，集中西文化于一身；其量足以容之！其德足以化之！其學足以當之！其才足以擇之！嗚呼！此先生所以成一代大師歟？"周恩來送挽聯："從排滿到抗日戰爭，先生之志在民族革命；從五四到人權同盟，先生之行在民主自由。"毛澤東特發唁電："學界泰鬥，人世楷模"。
蔡元培培植家鄉青年不遺餘力，先後主辦過紹郡中西學堂、紹興府學堂、越郡公學、明道女校，曾任稽山中學名譽校董。紹興城區筆飛弄有蔡元培故居，今建為紀念館，列為浙江省重點文物保護單位。並新增"元培國小"、"元培中學"以示紀念。遺著輯有《蔡元培全集》。《中國近現代人名大辭典》有錄。（中共紹興縣委宣傳部供稿）
蔡元培是20世紀國中國資本主義教育製度的創者。他明確提出廢止忠君、尊孔、尚公、尚武、尚實的封建教育宗旨。倡導以軍國民教育、實利主義教育為急務，以道德教育為中心，以世界觀教育為終極目的，以美育為橋梁的資產階級民主主義的教育方針，初步建立了資產階級的新教育體製。
蔡元培的教育實踐多在高等教育方面。他任北京大學校長時，提出大學的性質在于研究高深學問。他提倡學術自由，科學民主。主張學與術分校，文與理通科。將"學年製"改為"學分製"，實行"選科製"，積極改進教學方法，精簡課程，力主自學，校內實行學生自治，教授治校。他的這些主張和措施，在北京大學推行之後，影響全國，以至有人稱他為自由主義教育家。
蔡元培也很重視勞動教育、平民教育和女子教育。他在北京大學辦校役班和平民夜校，在上海創辦愛國女校。蔡元培對近現代中國教育、中國革命作出了不可磨滅的貢獻，主要是：
1。自蔡元培始，中國才形成了較完整的資產階級教育思想體系和教育製度。
2。他的"思想自由，兼容並包"的主張，使北大成為新文化運動的發祥地，為新民主主義革命的發生創造了條件。
3。為中華民族保護了一批思想先進、才華出眾的學者。