熱平衡に近い系をしばらく研究したあとで、プリゴジンは、熱平衡から遠く離れた系ではどうなるのかを調べ始めた。外部からたくさんのエネルギーが入り込んでくる系を考えた。
プリゴジンは<混沌>には二つの側面があると考えている。一つは熱平衡状態にあり、エントロピーが最大であるような受動的な混沌で、すべてのものが一様に混じった状態である。クラウジウスが予言した最終的な生暖かい宇宙における<熱平衡の系の混沌>である。これに対し、もう一つの混沌は、活動的で、熱く、エネルギッシュな<熱平衡から遠く離れた系の混沌>である。ファイゲンバウム、ローレンツ、メイ、フォードなどの人達が興味を持っていたのは、こちらの混沌である。このような非平衡系の混沌の中からいろいろと面白いことが起こることを見通した最初の現代の科学者がプリゴジンだといえる。彼は、熱平衡から遠く離れた系は死滅に向かうのではなく、新しい構造を生み出すことを発見したのである。
イザベル・シュティンガーとの共著『混沌から生じる秩序』の中で、プリゴジンは、「化学反応系では、秩序と無秩序の関係は極めて複雑である。秩序状態と無秩序状態が入り混じって現れるのである」と述べており、またベナール対流については、「天文学的な数の分子が、突然そろって動き出す極めて劇的な現象である」と言っている。
熱平衡から遠く離れた系の混沌は、自己組織する能力を持っているようだ。プリゴジンとシュティンガーは、次のように記述している。
「天文学的な数の分子がそろって動くなどということは、熱力学のそれまでの常識ではとても信じられないことだ。もし、このような反応が実際に見つからなかったならば、誰もそのような現象があるとは思わなかったことだろう。瞬間的に色が変わるということは、なんらかの方法で分子同士が<情報>を交換し合っているということである。この体系は、まるで生きているかのごとく全体で一つのように振舞うのだ」
彼らは、各々の分子に体系全体の情報が伝わっていると述べている。しかし、プリゴジンは別に分子を人間のようにみなしているわけではない。ランダムな振舞いを抑えながら体系を一つに結び付け、秩序を生み出すのにはなんらかの形での情報伝播が必要だと考えているのである。
自己組織化現象は、いたるところに存在するとプリゴジンと彼の共同研究者は考えている。生物や、流体、都市の成長、政治運動、星の進化などである。彼は非線型におけるこれらの自己組織構造のことを<散逸構造>と名付けた。
この名称は、町でも渦でも粘液でも、形を維持するためには必ずエネルギーを消費しているという事実に由来する。これらはどれも、外部から自由にエネルギーの出入りができる開放された系で、エネルギーを吸収しながらエントロピー（ゴミや使えなくなったエネルギーなど）を周囲に吐き出しているからだ。もちろん、ある系にとってのエントロピーが他の系にとってはエネルギー源になることもある。このような現象が熱力学の第二法則（エントロピーが全体としては増加する）に抵触していないのは、万有引力が働いているにもかかわらず、月が地球に落ちてこないのと同様である。月が引力を利用して軌道を維持しているように、散逸構造はエントロピーを利用して形を維持するのである。
散逸構造という名称は、自己矛盾するようなニュアンスを持っている。散逸とは、ばらばらになってなくなることを意味し、構造はおよそその反対の意味を持つからだ。散逸構造は、外界から絶え間ない注入があってこそ維持できるような構造だ。
自己組織化を引き起こすような性質とはどのようなものだろうか。どのようにして散逸構造は混沌の中から生まれ、空間を秩序立て、時間を方向づけるのだろうか。
普通の化学反応は、二つの化学物質のランダムな運動によって起こる。たくさんの分子の中で、ちょうどよいエネルギーと方向をもって衝突した粒子が付着し、新しい分子となる。このような衝突は、すべての分子が化学反応を終えるまで続く。そして、何の構造も持たない均質な化学物質が生じて反応が終わる。
しかし、化学反応の中には、自分と同じ種類の分子がそばにあるときだけしか反応を起こさないものもある。自己触媒反応と呼ばれるような反応である。このような反応は、自己抑制的であり、反応が進むと、自分と同じ種類の分子がそばに存在する確立が減り、反応速度が遅くなるのだ。このような化学反応系は、平衡状態から、リミットサイクル、周期倍加、カオス、間欠性、そして自己組織化までさまざまな振舞いを見せる。空間に秩序立った構造を作り、時間的にも変化していくのだ。ベーゾロフ・ザボチンスキー反応と呼ばれる化学反応はその典型で、とてもきれいなパターンを形成する。
最近、このベーゾロフ・ザボチンスキー反応における構造の成長を非線型方程式でモデル化し、コンピューターによってシュミレートすることができるようになった。現実の世界では、この反応は、マロン酸と臭素酸塩、そしてセリウムイオンを浅い皿に入った硫酸の中で混ぜ合わせることによって起こる。濃度や温度をちょうどよく調節すると、カオス的な状態を経て、渦巻上の構造が現れてくる。この反応で生じる形は複雑で、生き物のように自己増殖をする場合もある。
もしも、全く偶然だけによってDNAのような遺伝子が生じるのを待っていたならば、宇宙の年齢よりもはるかに長い時間がかかったに違いない。しかし、原子の地球上で、ベーゾロフ・ザボチンスキー反応のような自己組織能力を持った反応が起こったと考えるならば、生命のような秩序を持ったものが生まれてくることも、それほど不思議なことではなくなる。生命の起源は、太古の自己組織化反応だったのかもしれない。
自己組織化が生命の誕生よりもさらに過去にも重要な役割を果たしていたらしいことを、天文学者は、渦巻銀河の形成の研究を通して知りました。何万光年という大きさを持つ渦巻銀河の形成が、ベーゾロフ・ザボチンスキー反応のような自己触媒的なモデルによって説明できるのである。
このような渦巻構造の発生が、無秩序を生むこともある。正常な心臓の拍動は、ある点を中心とした電位の波の伝播によって周期的に起こっている。この波が、なんらかの原因でどこか壊れると、その壊れた波が渦巻上の波を形成することがあるのである。この渦巻状の波は自己増殖してフラクタル的な複雑な構造を作り、心臓に障害をもたらす。てんかんのような発作も似たような現象が原因だと考えられているのだ。
