非線形循環ネットワークには多くの表現形式があり、分析が難しい。安定状態、振動状態、またはカオス状態の3つの表現形式を達成することができる。Hopfieldネットワークは、循環接続されたバイナリ閾値ユニットで構成されている。1982年、ジョン・ホップフィールドは、接続が対称であれば、グローバルなエネルギー関数が存在し、ネットワーク全体の各バイナリ「構造」にはエネルギーがあり、バイナリ閾値決定規則によりネットワークはエネルギー関数に最小値を設定することを発見した。この種の計算タイプを使用する最も簡単な方法は、記憶をニューラルネットワークのエネルギー最小値として扱うことである。エネルギー最小値を使用して記憶を表すことで、局所的な内容を知ることで全体の項目にアクセスできる内容検索可能なメモリが得られる。

一度の構成の記憶ごとに、エネルギー最小値を生成することが望ましい。しかし、2つの最小値があると、Hopfieldネットワークの容量が制限される。エリザベス・ガードナーは、すべての重みを使用するより良い記憶規則を発見した。複数のベクトルを一度に記憶しようとするのではなく、訓練セットを複数回循環し、パーセプトロン収束プログラムを使用して各ユニットを訓練し、そのベクトルの他のすべてのユニットが正しい状態になるようにした。