A detecção precoce e precisa de sepse durante a hospitalização é crucial, pois trata-se de uma condição com risco de vida e implicações significativas para os desfechos dos pacientes. Os Registros Eletrônicos de Saúde (EHRs) oferecem uma vasta quantidade de informações, incluindo dados textuais não estruturados, que frequentemente contêm insights mais detalhados do que os dados estruturados convencionais. Para processar esses dados textuais, uma variedade de métodos de Processamento de Linguagem Natural (NLP) tem sido empregada, embora com eficácia limitada. Avanços recentes em recursos computacionais levaram ao desenvolvimento dos Modelos Grandes de Linguagem (LLMs), capazes de processar grandes volumes de texto, identificar relações e padrões entre palavras e estruturá-los em embeddings. Isso permite que os LLMs extraiam insights significativos dentro de domínios específicos. Apesar desses avanços, os LLMs enfrentam desafios para capturar a semântica do mundo real em textos clínicos, essencial para compreender as interconexões complexas entre os termos e garantir precisão terminológica. Este trabalho propõe um estudo de caso utilizando o Clinical KB BERT, uma abordagem para criar estruturas vetoriais, chamadas de embeddings, das notas clínicas de pacientes em UTI que incorpora informações semânticas da ontologia do Unified Medical Language System (UMLS). Ao integrar conhecimento específico do domínio proveniente do UMLS, o Clinical KB BERT busca melhorar a compreensão semântica dos dados clínicos, aprimorando o desempenho preditivo dos modelos resultantes. O presente estudo compara o Clinical KB BERT com o Clinical BERT, um modelo amplamente utilizado no domínio da saúde. Os resultados experimentais demonstram que embeddings semanticamente enriquecidos produziram um modelo mais preciso e com menor incerteza para a predição precoce de sepse. Especificamente, o modelo aumentou a Área sob a Curva Característica de Operação do Receptor (AUC-ROC) de 0,826 para 0,853, enquanto a entropia preditiva média para todo o conjunto de teste diminuiu de 0,159 para 0,142. Além disso, a redução da entropia preditiva média foi ainda mais pronunciada nos casos em que ambos os modelos fizeram previsões corretas, diminuindo de 0,148 para 0,129. Vale destacar que os impactos práticos dessas melhorias incluem uma redução substancial no número de falsos negativos (de 162 para 128, em um total de 227 casos de sepse), enfatizando a capacidade do modelo semanticamente consciente de reduzir diagnósticos precoces perdidos e melhorar os desfechos dos pacientes.