孔子晚年归回鲁国后，鲁人尊以“国老”。开始时，鲁哀公与季康子还经常以政事相询，但终不被重用。孔子不怨恨天，不指责统治者，而是致力于整理文献，并继续聚徒授业，始终没有停止教学工作。据史载：“弟子盖三千焉，身通六艺者七十有二人。”他应邀派出不少高足在国内外参政、从政。如颜渊、冉有、闵子骞、子游、曾参、宓不齐、原思、高柴、樊须、公西赤、巫马期、孔蔑、子贱等，皆先后从政于鲁国的都邑；参政从政于国外的还有：子路在卫，曾参在齐、楚、晋，子贡在齐、晋、越，佛肸在晋。他们都在一定范围内，基本实践了老师的政治教导。
孔子的办学方针是“有教无类”，与殷、周统治阶级主要为贵族阶级办学的方针大不相同。孔子所收的弟子知名的，除了孟懿子、南宫敬叔来自贵族家庭外，绝大部份来自贫贱人家及少数所谓“自由民”。而得意门生中，颜渊是住在陋巷的穷苦子弟；曾参，母亲以纺织为业，自己曾种地耘瓜；子路，曾穷得主食草籽，“为亲负米”；子张原是“鲁之鄙人”；闵子骞，父亲出外时还得给父亲拉车子；原宪，家住穷巷，穿戴破旧；公冶长，是被人疑为盗窃而拘囚监狱，受过冤刑的青年；至于比较富裕的子贡，也不过是个属于“自由民”的商人。
孔子招收学生的手续很简单，只要携带一束干肉(束脩)，象征性地表示对老师的敬意就可以了。孔子弟子号称三千，是指孔子一生中教授学生的总数，这些学生大都出身寒微。收教这些贫贱人家的子弟的目的，正如他的弟子子夏所说的，是“学而优则仕”，让这些贫贱的劳动人民的子弟学习文化知识、六艺技艺，将来为官行政，实行他的“仁”道政治主张。
孔子在晚年还对以往教学中用的《诗》《书》《礼》《乐》《易》《春秋》等文化典籍进行整理、删订，使之成为定型的教本。他以“文、行、忠、信”来分科。“文”是文化，“行”是道德修养，“忠”是尽己为人，“信”是言行一致、言而有信。这四种内容，都是普通百姓所喜爱的。因而吸引了国内外很多普通人家的年轻子弟。这就把殷周以来专为贵族开办的各种礼仪的“儒术”，改造成为经世济民的“儒学”，孔子自己也就成为中国儒家学派的“开山祖”了。孔子是中国历史上最早创设较大规模私学的伟大教育家。
