Embora os canais dos sistemas de transmissão digital encontrados na prática apresentem imperfeições, o transmissor e o receptor destes sistemas são geralmente projetados para um canal sem distorção, sendo as imperfeições do canal corrigidas pelo emprego de equalizadores.

Sabe-se que a probabilidade de erro é minimizada pela utilização de um filtro casado ao pulso básico. Neste caso, de acordo com o sistema de modulação, porém independentemente da forma do pulso, a probabilidade de erro mínima será uma função apenas da razão E_s/N_o, onde E_s é a energia média do conjunto de sinais e N é a densidade espectral de potência do ruído na entrada do filtro. Note-se, portanto, que o filtro casado minimiza a probabilidade de erro para uma dada razão E_s/N_o na entrada do receptor. Considerando um canal com nível de ruído N_o, fixo, e um mesmo sistema de modulação, o filtro casado minimiza a probabilidade de erro para uma dada potência média dos sinais na entrada do receptor. Note-se, por outro lado, que a potência transmitida pode ser expressa por
 

(60)

onde g é uma constante que depende do sistema de modulação, enquanto a potência na entrada do receptor será dada por
 

(61)

Portanto, em geral, para uma dada potência transmitida e um canal fixo, a potência na entrada do receptor varia com G(f), a não ser que C(f)=K_c onde K_c é uma constante. Neste caso,
 

(62)

Essa suposição permite afirmar que, para um valor fixo de P_m, P_s também terá um valor fixo, independentemente da forma de G(f). Neste caso, o filtro H(f) que permite obter o valor mínimo de P(E) para um valor fixo de P_s, será o mesmo que minimiza P(E) para um valor fixo de P_m. Caso contrário, pode haver um filtro que minimiza P(E) para um valor fixo de P_s, mas, dependendo da forma de G(f), esta minimização poderá ser, ou não, válida quando se fixa o valor de P_m. Tomando por conveniência o instante de amostragem t_o=0, tem-se
 

(63)

onde K é uma constante.

Por outro lado, para eliminar a interferência entre símbolos, o pulso básico p(t) no detetor deve ser igual a um pulso de Nyquist, representado, convenientemente por Kq(t). Assim, em um canal com função de transferência constante
 

(64)

Substituindo (63) em (64) chega-se a
 

(65)

Levando-se este resultado em (63) obtém-se
 

(66)

O resultado acima mostra, portanto, que as formas ótimas do espectro de amplitude do pulso básico no transmissor ½ G(f)½ e da resposta de amplitude do filtro de recepção ½ H(f)½ devem ser proporcionais à raiz quadrada de um espectro que satisfaz ao 1^o critério de Nyquist. Quanto aos espectros de fase estes devem satisfazer (63), ou seja,
 

(67)