混沌研究的鼻祖是法国的庞加莱(H. Poincare，1854-1912)，他在研究能否从数学上证明太阳系的稳定性问题时，发现即使只有三个星体的模型，仍产生明显的随机结果。1903年，庞加莱在他的《科学与方法》一书中提出了庞加莱猜想。他把动力学系统和拓扑学有机地结合起来，并提出三体问题在一定范围内，其解是随机的，实际上这是一种保守系统中的混沌。
1954年，前苏联概率论大师柯尔莫哥洛夫(Kolmogorov)，在探索概率起源的过程中发表了《哈密顿 (Hamilton) 函数中微小变化时条件周期运动的保持》一文，这一文章是 KAM 定理的雏形。
1963年，Kolmogorov的学生，年轻的、具有超群才华的 V. I. Arnold 对此给出了严格的数学证明。差不多同时间，瑞士数学家 J．Moser 对此给出了改进表述，并独立地作出了数学证明。此文思想为混沌未发生之初，在保守系统中如何出现混沌提供了信息。这为早期明确不仅耗散系统有混沌，而且保守系统也有混沌的理论铺平了道路。 ’
1963年，洛伦兹在著名论文《确定性的非周期流》(Deterministic Non-periodic Flow, J. Atmos, Sci, 20, 130–141) 中指出：在三阶非线性自治系统中可能会出现混乱解。他研究的是大气在温度梯度作用下的自然对流系统，这是天气预报的一种极端简化模型，即著名的洛伦兹方程：
{ x ˙ = − σ ( x − y ) y ˙ = − x z + r x − y z ˙ = x y − b z \left \{ \begin{aligned} \dot{x} &= -\sigma(x-y) \\ \dot{y} &= -xz + rx -y \\ \dot{z} &= xy - bz \end{aligned} \right. ⎩⎪⎨⎪⎧x˙y˙z˙=−σ(x−y)=−xz+rx−y=xy−bz
方程右端不显含时间，它是一个完全确定的三阶常微分方程组。三个参数 σ \sigma σ(普朗特数)， r r r(瑞利数与其临界值之比)， b b b为正实数，如取 b ＝ 8 / 3 , σ ＝ 10 b＝8/3, \sigma＝10 b＝8/3,σ＝10, 改变参数 r r r：若 r ＜ 1 r＜1 r＜1，·其解的性质趋于无对流时的稳态；若 r ＞ 1 r＞1 r＞1，其解为非周期的，看起来很混乱。这就是在耗散系统中，一个确定的方程却能导出混解的第一个实例。2000年，《自然》杂志发表论文 “The Lorentz Attractor Exists”，首次从数学上严格证明了 Lorentz 吸引子在自然界中存在。KAM 定理讨论的是保守系统，而洛伦兹方程讨论的是耗散系统，它们分别从不同的角度说明，两种不同类型的动力系统，在长期的演化过程中是怎样出现混沌态的。
1964年，法国天文学家伊依(Henon)从研究球状星团以及洛伦兹吸引子中得到启发，给出了下面的Henon映射
{ x ˙ n + 1 = 1 + b y n − a x n 2 y ˙ n + 1 = x n \left \{ \begin{aligned} \dot{x}_{n+1} &= 1 + by_{n} - ax_n^2 \\ \dot{y}_{n+1} &= x_n \end{aligned} \right. {
x˙n+1y˙n+1=1+byn−axn2=xn
在上述方程中，当参数 b = 0.3 b=0.3 b=0.3，改变参数 a a a 时，发现其系统运动轨道在相空间中分布似乎越来越随机。伊依得到了一个最简单的吸引子，并用它建立了“热引力崩坍”理论，解释了几个世纪以来一直遗留的太阳系的稳定性问题。
1971年，法国数学物理学家 D. Ruelle 和荷兰学者 F. Takens 联名发表了著名论文《论湍流的本质》，在学术界第一个提出用混沌来描述湍流形成机理的新观点，并证明了 L. D. Landau 关于湍流发生机制的权威理论的不正确性。他们通过严格的数学分析，独立地发现了动力系统存在一套特别复杂的新型吸引子，描述了它的几何特征，证明与这种吸引子有关的运动即为混沌，发现了第一条通向混沌的道路，并命名这类新型吸引子为奇怪吸引子。
1975年，美籍华人学者李天岩和美国数学家约克(Yorke)在美国《数学月刊》上联名发表了一篇震动整个学术界的论文《周期3蕴涵混沌》，这是一个关于混沌的数学定理。基本思想是 Yorke 受 Lorentz 1963年的论文启发而得，李天岩给出了具体证明，这就是著名的 Li-Yorke 定理。
1976年，美国数学生态学家梅(May R)在美国《自然》杂志上发表了题为《具有复杂动力学过程的简单数学模型》综述文章，以单峰映射为对象，重点讨论了 Logistic 方程： x n + 1 = a x n ( 1 − x n ) x_{n+1} = ax_n(1-x_n) xn+1=axn(1−xn)，系统地分析了方程的动力学特征，考察了混沌区的精细结构，绘制了分叉轮廓图，汇集了敏感函数、周期窗口、树枝分又、切分又、基本动力学单元、不动点谐波等混沌学词汇，促进了不同领域混沌学研究联成一体。
1978一1979年费根包姆 (Feigenbaum) 在梅的基础上独立地发现了倍周期分岔过程中分叉间距的几何收敛率，并发现了收敛率即每次缩小的倍数为 4.6692 ⋯ 4.6692\cdots 4.6692⋯是个常数，这就是著名的 Feigenbaum 常数。Feigenbaum 还把相变临界态理论中的普适性、标度性、重正化群方法引入混沌研究，计算出了一组新的普适常数，建立了关于一维映射混吨现象的普适理论，发现了怎样作尺度变换，给出了一条走向混沌的具体道路，把混沌学研究从定性分析推进到定量计算阶段，成为混沌学研究的一个重要的里程碑。
20世纪80年代以来，人们着重研究系统如何从有序进入新的混沌，以及混沌的性质和特点。除此之外，借助于(单)多标度分形理论和符号动力学，还进一步对混沌结构进行了研究和理论上的总结。法国数学家曼德布罗特(Mandelbrot)于 1980 年用计算机绘出了世界上第一张 Mandelbrot 集的混沌图像。20世纪80年代初 Takens、Packard、Farmer 等人根据 Whitney拓扑嵌入定理提出重构动力学轨道相空间的延迟法。Grassberger、Procaccia 首次运用这种相空间重构法，从实验数据时间序列计算出实验系统的奇怪吸引子的统计特征，如分数维、Lyapunov 指数和 Kolmogorov熵等混沌特征量，从而使得混沌理论进入实际应用阶段。
1984年，我国著名科学家郝柏林编撰的《混沌》一书在新加坡出版，为混沌科学的发展起到了一定的推动作用。
1986年，中国第一届混沌会议在桂林召开。我国科学家徐京华提出三种神经细胞的复合网络，并证明它存在混沌而且得到与人脑脑电图相似的输出。
1988年，丁明洲和郝柏林对洛伦兹模型周期窗口进行了系统研究，找出了与反对称三次映射的关系。
1989年，郝柏林、郑伟谋在《现代物理学国际杂志》上发表文章，抛弃了人工造作的“反谐波”与“谐波”概念，推广了星号组合律。这是混沌学理论上近年来的重要进步。
1989年，卢侃、林雅谷、卢火在人脑脑电图的分维数上找出了与脑功能锻炼历史时间的回归方程，即林雅谷功能方程式。这为应用混沌维数找出了可行的方式。
1994年，谢法根和郝柏林在《Physica》A202卷上发表论文，完全解决了具有多个临界点的一维连续映射的周期数目问题。对于某些具备有限个断裂点的映射，周期数目也已清楚，而且绝大多数周期轨道都是不稳定的(参见1995年《Communications in ThcoreticaI Physics》第23卷(175–180)上面的文章)。
著名物理学家 J. Ford 认为混沌是20世纪物理学第三次大革命，前两次是量子力学和相对论。1975年，混沌 (Chaos) 作为一个数学名词首次在科学文献中出现，20多年来，它以前所未有的速度，迅猛发展成为有丰富的非线性物理背景和深刻数学内涵的现代学科。数学家认为，混沌是数学的新分支；而物理学家却认为，混沌是非线性物理的新分支。其实，混沌应该是物质科学和数学科学两栖的边缘科学。它讨论系统对初值的敏感依赖性、拓扑传递性与混合性、周期点的稠密性、随机性和遍历性、正的 Lyapunov 指数、分数维和奇怪吸引子等。同时，混沌在许多领域得到或开始得到广泛应用，如声学、光学、湍流、化学反应中的混沌变化、地震的混沌特性、天气长期预报的“蝴蝶效应”、商业周期中蕴涵着有序性、股市细微分散的交易和大规模变动情况之间的重要关系等。