本朝的国家最高学府，称之为太学，大司马入据洛阳之后，改称国子监。顾名思义，太学，只是一所学校，是本朝的最高学府，并不是管理天下世子的机构。国子监，其名为监，便被朝廷赋予了管理天下士人的职责。从此以后，国子监便从太常属下的博士祭酒中独立出来了，分设左右监，秩比两千石。国子监左监、右监品秩的提高，便意味着士人地位的提高。
上古的大学，称为成均、上庠。 董仲舒注云：“五帝名大学曰成均”，郑玄注云：“上庠为大学，在王城西郊。”在夏商周时期，太学其名各异，大学在夏为东序，在殷为右学，在周有东胶，而周朝又曾设五大学：东为东序，西为瞽宗，南为成均，北为上庠，中为辟雍。
“太学”一词，源于西周。《大戴记》中曾言：“帝入太学，承师问道。”西周太学又名大学，天子和诸侯均设之，“大学在郊，天子曰辟雍，诸侯曰泮宫”。大体而言，辟雍和泮宫并不是纯粹的大学，更像一处象征国家社稷的场所，不过素日里用于讲习经典罢了。
除了讲习经典之外，周天子和诸侯、贵族们经常在辟雍和泮宫中举行祭祀、举办宴会、选拔武士、甚至在这里运筹帷幄之中，决胜千里之外。打赢了之后，也要到辟雍和泮宫“献俘”和“告功”。之所以如此，是因为在古代，建造一处宫室是非常不容易的，时常要耗费举国之力。“古人宫室无多，凡祭礼、军礼、学礼，及望气、治历、养老、习射、遵贤之典，咸行于明堂。而明堂、太庙、太学、灵台咸为一地。”这便是史籍中所记载的太学。
高帝一统天下之后，黄老之学盛行，讲究与民休息。在将近百年的时间内，几乎没有重建宫室，宫室尚且无力建造，何况是太学呢？故尔，从高帝一直到景帝，本朝并无官学，儒生士子们若是想要拜师读书，只好进入大大小小的私学，私学之风，遂大行于天下。
既然是私学，便没有太多的顾忌，讲究百花齐放，百家争鸣，不唯上，不唯书，只唯真理，如此一来，本朝的文风便蔚然大盛了。前汉两百年的江山，一半儿时间都在施行黄老政治，大大小小的私学培养出了一大批风骨铮铮的儒生士子和循吏良吏，他们是有理想有抱负的。唯其如此，前汉的两百年历史，史书上处处都记载着不畏强暴，干乳舍生取义的士人。
时间的长河在急速流逝，一转眼就到了武帝元狩五年，武帝雄才大略，是五百年一出的雄主。他的目光远大，一眼就看出的私学盛行对朝廷的威胁。私学盛行，话语权便掌握在乡野之间，朝廷无法施加影响，只好坐视舆论横行而不得制。这自然是武帝所无法容忍的。
罢黜百家独尊儒术之后，武帝采纳了董仲舒的建议，在京师长安城内设立太学，这便是本朝太学的由来。自此之后，太学便成为了本朝的中央官学，是天下的最高学府。既然是官学，学生学成之后，自然是要择优录用，授予官职的。这一条正好儿打中了私学的要害，本朝的士人，入仕之路本来就极窄，如今太学一开，便又多了一条入仕之路，天下的儒生士子，岂能不欢呼雀跃？久而久之，此消彼长之下，私学逐渐式微，官学从此便大盛了。
草创之初，太学之中只设五经博士，置博士弟子五十名。由于有了“量才授官”这一个超级大杀器的存在，太学的规模便也来越大，学生也越来越多了，最后竟然多达数万人。
武帝元狩五年，初设五经博士专门讲授儒家经典《诗》、《书》、《礼》、《易》、《春秋》。宣帝时博士增至十二人，王莽当政时又增至三十人。学生称为“博士弟子”或“太学弟子”。太学初建时为五十人，昭帝时增至一百人，王莽时增至一万人。“博士弟子”有免除赋役的特权。“博士弟子入选”，内由太常负责选择，外由郡国察举。入了太学，便等于是踏出了入仕的第一只脚。武帝还下令天下郡国设立学校官，初步建立起地方教育系统。
光武帝削平群雄之后，于建武五年，在洛阳城东南的开阳门外兴建太学。后来，明帝刘庄还到太学行礼讲经。顺帝永建元年，对太学进行了重修和扩建，费一年时间，用工徒十一万二千人，建成两百四十房，一千八百五十室。所招学生称之为太学生。其后，太学生人数多至三万人。灵帝熹平四年，为了刊正经书文字，刻成有名的熹平石经，树立于太学门外，全国各地来观看和抄录经文者，络绎于途。方此之时，太学便进入了最鼎盛的时代。