Como introdução ao problema da deteção, fundamental para a transmissão digital, será  considerado inicialmente, um sistema simplificado como representado na Figura 1 onde m é a mensagem transmitida, escolhida aleatoriamente entre 2 mensagens possíveis, m₁ e m₂, com probabilidades P(m₁) e P(m₂) denominadas probabilidades "a priori". O transmissor associa a m₁ e m₂ os sinais s₁ (t) e s₂(t). O sinal transmitido s(t) é perturbado no canal por um ruído aditivo n(t) modelado como um processo aleatório Gaussiano de média nula e valor médio quadrático s ² , estatisticamente independente das mensagens. Na entrada do receptor, o sinal recebido r(t) é amostrado em um instante t = t₀. Na entrada do detetor tem-se, portanto, uma variável aleatória
 
 

(1)

ou, suprimindo t₀ para simplificar a notação,
 
 

(2)

A operação do detetor consiste em observar o valor de r e associar m, a mensagem detetada, a m₁ ou m₂ . Haverá  erro quando . Supondo, sem perda de generalidade, s₂(t₀)s₁(t₀), pode-se representar o espaço das observações de r através da Figura 2. A operação do detetor pode ser visualizada nessa figura dividindo o espaço de observações em duas regiões I₁ e I₂ , cada uma delas associada a uma das mensagens, de tal forma que:
 
 

(3)

O desempenho do receptor depende fundamentalmente da forma como são definidas as regiões I₁ e I₂. No presente caso, será estabelecida a seguinte definição
 
 

(4)

Esta definição, embora em princípio arbitrária, é intuitiva. Na verdade, pode-se mostrar, como será  visto em  O problema geral da deteção, que, se o ruído n é gaussiano, a definição acima leva ao melhor desempenho do receptor, desde que o valor de a seja escolhido adequadamente.
 
 

Observando que a decisão do receptor será correta quando  , o evento acerto será constituído pela união dos eventos  e   . Assim a probabilidade de acerto pode ser escrita como
 
 

(5)

Tendo em vista que as regiões de decisão são aquelas indicadas na Figura 2 pode-se reescrever (5) como:
 
 

(6)

onde p_r|m(R|m₁ ) e p_r|m(R|m₂ ) são as funções densidade de probabilidade da amostra r dado que foi transmitida, respectivamente, m₁ ou m₂.. Para a determinação destas duas funções note-se que
 
 

(7)

onde s₁ = s₁ (t₀), s₂ = s₂(t₀) e n = n(t₀). Note-se também que n é uma variável aleatória Gaussiana de média nula e variância s ², estatisticamente independente da mensagem m. Portanto
 
 

(8)

Tem-se, então, que
 
 

(9)

Estas duas funções densidade de probabilidade acham-se representadas na Figura 3 multiplicadas pelas probabilidades P(m₁) e P(m₂) respectivamente.
 
 

• Escolha do Limiar Ótimo
• Cálculo da Probabilidade de Erro