O critério de Nyquist é um método de determinação da estabilidade de sistemas realimentados, com tratamento no domínio da frequência. A partir do critério de Nyquist podem-se obter informações sobre o "grau" de estabilidade do sistema, sobre a resposta em frequência, sobre a estaabilidade de sistemas com retardos, além de ser possível utilizá-lo, com modificações, para sistemas não-lineares.

Consideremos um sistema representado por:

A função de transferência é: 

Definindo-se F(s)=G(s).H(s), tem-se:

O critério de Nyquist estabelece relações entre a função de transferência G₁(s)
e F(s), isto é, entre o conhecimento dos blocos individuais e o sistema (global) de malha fechada.

Observe que:

• Os pólos de F(s) são também os pólos de 1+F(s)
• Os zeros de 1+F(s) são os pólos da função de tranferência de malha fechada.

Seja c₁ uma curva simples (isto é, que não cruza a si mesma) no plano s. Seja f uma função de s que não tenha pólo ou zero sobre c₁. Sejam Z e P o número de zéros e pólos de f circundados por c₁, e seja c₂ o mapeamento de c₁ no plano f. Então, c₂ circundará a origem do plano f um número de vezes igual a Z - P, na direção contrária de c₁.

Exemplo:

Neste exemplo, a curva c₂ circunda a origem Z - P = 3 - 5 = -2 vezes, ou seja, duas vezes na direção oposta de c₁.

Caminho de Nyquist

Critério de Nyquist

Margem de Ganho e Margem de Fase