Alinhamento

O conjunto de esforços para garantir que um sistema de IA persiga, na prática, os objetivos e valores pretendidos pelas pessoas, e não apenas a interpretação literal do que foi pedido. O risco é o sistema otimizar a meta de forma indesejada, cumprindo a instrução ao pé da letra com consequências ruins. À medida que os modelos ficam mais capazes, o alinhamento torna-se mais importante e mais difícil de assegurar, sendo hoje um campo ativo de pesquisa.