一巡伝達関数の周波数特性から、閉回路の安定を判別する方法である。すなわち
一巡伝達関数のベクトル軌跡を描いたとき、
「一巡伝達関数のベクトル軌跡をが0からまで増加する 向きにたどるとき、点をその左側に見れば安定、右側に見れば 不安定である。」
図1.33において、(a)の場合は安定であり、(b)の場合は 不安定である。
がから0までのベクトル軌跡は同図破線のごとく鏡像となり、 をからまでのベクトル軌跡は同図のごとく 原点から出発し、破線を通り、のところで半径が無限大の右側の 半円を描き、実線につながって原点に戻る。このような閉曲線の 進行方向右側に囲まれた部分が不安定領域であり、この中にの点が あると不安定となる。
Nyquistの安定判別法を厳密に定義すると次のとおりである。 「をからまで変化して一巡伝達関数の ベクトル軌跡を描いたとき、これが点のまわりを反時計方向に 回回転した場合、
この制御系が安定なためには、
のとき1−35図(a)のごときベクトル軌跡を描き、 ゆえ安定である。
のとき同図(b)のごときベクトル軌跡を描き、
ゆえ不安定である。
この図の場合、進行方向の左側が閉曲線になっているゆえ、この中が
安定領域であり、この中にの点があれば安定である。