A interpretabilidade dos modelos de aprendizado de máquina caixa preta tem evoluído constantemente ao longo dos anos, dando mais segurança e confiança para que sejam aplicados em setores cruciais tanto para as empresas quanto para a sociedade. Dito isso, o uso desses métodos para receber insights sobre modelos de otimização não é tão popular e muitas vezes resulta em esses modelos serem menos explicáveis ou interpretáveis. Motivados por isso, buscamos desenvolver um modelo de aprendizado de máquina equivalente ao de otimização denominado OptGen, cujo objetivo é obter um plano ótimo de expansão da geração e transmissão de energia elétrica, e com este modelo aplicar métodos de interpretabilidade para analisar e compreender seu processo de tomada de decisão. O conjunto de dados para desenvolver o modelo de caixa preta foi gerado utilizando 10.000 rodadas do modelo OptGen usando o método de amostragem de Latin Hypercube, e com este conjunto de dados uma rede neural foi treinada de forma supervisionada tendo sua precisão analisada usando metodologia estatística e gráfica. Por último, utilizando um método de interpretabilidade baseado em Valores de Shapley, o comportamento do modelo foi analisado para obter insights sobre seu processo de tomada de decisão. Com base no estudo realizado neste artigo, foi observada uma forte correlação entre inserção de bateria e energia solar pelo modelo, bem como um padrão entre as limitações atribuídas a usinas eólicas e hidrelétricas diferentes do observado para térmicas, solares e baterias.