自夏代开始，中国形成了一套礼仪制度，这些礼仪制度把人们的行为约束在一定的规范之内，从而保持社会等级秩序的稳定，并且也从这些行为规范中，培养人们自觉遵守社会秩序的习惯。古代国家最重要的两件事情是祭祀神祗和战争，因而，这套礼仪制度的主要内容，就是如何祭祀神祗。这些礼仪到了周代已经发展得非常完备，也非常烦琐，需要专门的人士去掌握它们，并且在行礼时充当司仪。这些通晓礼仪规范并且在贵族人家祭祀行礼时充当司仪的人们，被称为“儒”。他们必须通“三才”（天地人）、阴阳之道。也就是说，儒不仅要懂得行礼时的那些仪式，还要通晓那些仪式的意义和作用，即礼中之道。
墨子时常讥讽儒，称其“富人有丧，乃大悦喜曰：此衣食之端也”。此是墨家对儒者的贬辞，仅仅反映儒者的部分情况。其实，他们大都是社会上有一定文化知识和道德的学者。
到了春秋末期，以孔子为中心的一批学者，办学授徒，整理和研究古代典籍，关心国家大事。道家和墨家都称孔子一派为儒者。孔子早就意识到这点，为了避免人们的误会，要与上述儒者区别开来，特别告诫自己的学生：“女（汝）为君子儒，毋为小人儒。”显然，他们自认为是君子儒。