我国阴阳五行的源头，可以追溯到传说中的大禹时代。据说治水英雄大禹率先打破了“禅让制”，把王位交给儿子启。同姓诸侯有扈氏不服，起兵造反。启于是率大军亲征有扈氏的大本营甘(今陕西户县西)，临战前召集六军将领说：
“有扈氏威侮五行，怠弃三正。天用剿绝其命。今予惟恭行天之罚。”
这段话，见载于《尚书·甘誓》，历史学家们推测在公元前2196年。这里的“五行”，大致就是今天我们所知道的金、木、水、火、土五物；“三正”，大致是与五行有关的正德、利用、厚生三政事。到了战国时代，“五行”又增加了“相生相胜”的哲学成份。
五行说是讲宇宙构成的元素的，即认为世界万物是由水、火、木、金、土五种物质元素构成的。据《国语》记载，“和”与“同”是不同的，前者是一种元素与另一种元素参合，能产生新的东西并能得到发展；后者是同一种元素相加，不能产生新物，也不会有所发展。所以，要把土与金、木、水、火杂和起来，才能生成百物。这里的五行，突出了土的作用，既反映了重视农业的思想，也是对五行并列观念的修正。
至于阴阳，则是对自然状态的一种描述，对世界的一种看法。是古人在观察天文气象、时节变化的基础上萌发的。周人用两种不同性质的阳气和阴气来解释四季的变化和万物的繁茂与凋衰。他们认为，在冬去春来之际，气从地下向上蒸发，万物便出苗生长；如果沉滞不能蒸发，农作物便不能茁壮成长。阴气的性质是沉滞下降的，阳气的性质是蒸发上升的，这阴阳二气相互协调，配合有序，流转正常，就风调雨顺，否则就要发生灾难。周幽王时的伯阳父，曾用阴阳二气的失调来解释当时发生的地震现象。他认为，阴阳二气的流转是有一定的秩序的，如果发生秩序紊乱的现象，阴阳二气就各失其位，就要产生地震。
说“万物负阴而抱阳”，就是说，阴阳的矛盾势力是事物本身所固有的。《易传》的作者则进一步提出“一阴一阳之谓道”的学说，把阴阳交替看作是宇宙的根本规律。后来，古人对各种现象进行抽象概括，以阳代表天、日、昼、暑、刚、强、前、男等，以阴代表地、月、夜、寒、柔、弱、后、女等，认为两种势力相互对立和依赖，是事物固有的属性，是引起事物变化发展的原因。
阴阳五行说是中国传统文化的一个特色，对中国古代的学术和日常生活都产生了一定的影响。例如古人取名也要照顾到五行协调齐全。
把阴阳与五行撮合在一起并加以神秘化的，是战国末期的阴阳家，其代表人物为齐国人邹衍。他提出“五德终始”说，把五行的属性称为“五德”，用来附会王朝兴替和社会政治的擅替。汉儒们出于政治需要，在将古代的神权理论结合在一起的同时，又大规模地兴起造神运动，使原来的天地鬼神信仰增补进新的内容。