Glossário
Primeiro as definições curtas, depois os detalhes. Os termos linkam entre si.
O básico
- Aprendizado por reforço (RL)
- O aprendizado por reforço treina um modelo premiando bons resultados, como uma resposta correta ou passar em testes, em vez de copiar texto de exemplo.
- Hugging Face
- O Hugging Face é o site onde a maioria dos modelos abertos é publicada: cada modelo tem uma página com seus arquivos, licença, model card e contagem de downloads.
- IA soberana (Sovereign AI)
- IA soberana é aquela que um país ou organização pode construir, hospedar e governar sob seu próprio controle, desde o poder computacional e os dados até o próprio modelo.
- Inferência
- Inferência é o ato de executar um modelo treinado para obter uma saída, por exemplo responder a um prompt, em oposição a treiná-lo.
- Janela de contexto
- A janela de contexto é a quantidade máxima de texto, medida em tokens, que um modelo pode levar em conta de uma vez, incluindo o seu prompt e a resposta dele.
- Parâmetros
- Parâmetros são os números dentro de um modelo que são ajustados durante o treinamento; sua contagem, como 7B ou 70B, é a medida usual do tamanho de um modelo.
- Pesos abertos (open weights)
- Um modelo de pesos abertos é um modelo de IA cujos parâmetros treinados, chamados pesos, são publicados para que qualquer pessoa possa baixá-lo e executá-lo, geralmente sob uma licença que define as condições de uso.
- Token
- Um token é um pequeno pedaço de texto, muitas vezes uma palavra ou parte de uma palavra, que um modelo de linguagem lê e escreve; os modelos medem comprimento e velocidade em tokens.
- Tradução automática
- Tradução automática é software que traduz texto, fala ou texto dentro de imagens de um idioma para outro. Os modelos abertos de hoje costumam partir de um modelo geral e ser treinados depois apenas para traduzir.
Modelos e arquitetura
- Agente de IA
- Um agente de IA é um sistema em que um modelo planeja e executa tarefas de várias etapas chamando ferramentas, como rodar código, pesquisar na web ou editar arquivos.
- Atenção eficiente (esparsa, linear e híbrida)
- Os desenhos de atenção eficiente permitem que um modelo leia entradas muito longas com bem menos memória e computação do que a atenção padrão, olhando menos tokens ou comprimindo o passado.
- Codificador de texto
- Em um gerador de imagens ou vídeos, o codificador de texto é um modelo de linguagem separado que transforma o seu prompt em números que o gerador pode usar. Ele aumenta o download e o uso de memória.
- Conversão de texto em fala (TTS)
- Modelos de conversão de texto em fala transformam texto escrito em áudio falado, e muitos conseguem copiar uma voz a partir de uma amostra curta.
- Destilação
- A destilação treina um modelo estudante menor para imitar um modelo professor maior, mantendo grande parte da capacidade dele com uma fração do tamanho.
- Diarização de falantes (rótulos de falante)
- A diarização identifica quem falou e quando em uma gravação e rotula cada trecho de fala com um falante, como Falante 1 e Falante 2.
- Embeddings matrioska
- Os embeddings matrioska são treinados para que a primeira parte do vetor funcione por si só, o que permite cortar o vetor mais curto para economizar armazenamento e tempo de busca.
- Geração de música
- Modelos de geração de música transformam uma descrição em texto (e, muitas vezes, uma letra) em áudio: músicas completas com vocais, faixas instrumentais, transmissões de música ao vivo ou efeitos sonoros.
- Mistura de especialistas (MoE)
- Um modelo de mistura de especialistas contém muitas sub-redes especializadas e usa apenas algumas delas para cada token, podendo ser muito grande e ainda assim rápido.
- Modelo base (Base model)
- Um modelo base é o resultado bruto do pré-treinamento, antes de ser ensinado a seguir instruções ou conversar; costuma ser o ponto de partida para o fine-tuning.
- Modelo de decisão
- Um modelo de decisão lê uma situação e uma lista de perguntas e retorna uma probabilidade para cada resposta permitida, em vez de escrever texto.
- Modelo de difusão
- Um modelo de difusão gera imagens ou vídeo partindo de ruído aleatório e removendo o ruído passo a passo até que uma imagem apareça.
- Modelo de embeddings
- Um modelo de embeddings converte texto, imagens ou outros dados em uma lista de números que captura seu significado, de modo que itens semelhantes acabam próximos uns dos outros.
- Modelo de raciocínio
- Um modelo de raciocínio trabalha um problema passo a passo em uma fase de 'pensamento', visível ou oculta, antes de dar sua resposta final.
- Modelo de visão e linguagem (VLM)
- Um modelo de visão e linguagem lê imagens, e com frequência vídeos, junto com texto, então você pode fazer perguntas sobre uma foto, uma captura de tela ou uma página de documento.
- Modelo denso
- Um modelo denso usa todos os seus parâmetros para processar cada token, ao contrário de um modelo de mistura de especialistas, que ativa apenas parte deles.
- Modelo multimodal
- Um modelo multimodal pode lidar com mais de um tipo de dados, como texto, imagens, áudio ou vídeo, como entrada, como saída ou ambos.
- OCR e análise de documentos
- O OCR transforma a imagem de um texto em texto; a análise de documentos vai além e reconstrói tabelas, fórmulas, gráficos e a ordem de leitura, geralmente como Markdown.
- Reconhecimento de fala (ASR, fala para texto)
- O reconhecimento de fala, também chamado de ASR ou fala para texto, converte áudio falado em texto escrito.
- Reranker
- Um reranker repontua uma lista curta de resultados de busca lendo a pergunta e cada resultado juntos, o que é mais lento mas mais preciso do que só embeddings.
- Transformer em loop (looped transformer)
- Um transformer em loop executa novamente algumas de suas próprias camadas várias vezes para cada token, ganhando mais computação sem armazenar mais parâmetros.
Hardware e memória
- Cache KV
- O cache KV é a memória que um modelo usa para lembrar os tokens anteriores de uma conversa, e ele cresce com o comprimento do contexto.
- Decodificação especulativa e previsão de múltiplos tokens
- A decodificação especulativa acelera a geração de texto ao permitir que um rascunho barato adivinhe vários tokens à frente e que o modelo completo os verifique todos de uma vez.
- GGUF
- GGUF é um formato de modelo em arquivo único usado pelo llama.cpp e pelas ferramentas construídas sobre ele, que empacota os pesos quantizados junto com as informações necessárias para executá-los.
- Memória unificada
- Memória unificada é um design, usado pelos chips da Apple e alguns outros, em que a CPU e a GPU compartilham um único bloco de memória, de modo que um modelo grande pode usar a maior parte dele.
- Pesos ternários (1.58 bits)
- Pesos ternários limitam cada peso do modelo a um de três valores, -1, 0 ou +1, então o modelo precisa de menos de 2 bits por peso em vez de 16.
- Precisão (BF16, FP8, INT4)
- Precisão é quantos bits são usados para armazenar cada número em um modelo, como BF16 de 16 bits, FP8 de 8 bits ou INT4 de 4 bits; menos bits significam um modelo menor e mais rápido.
- Quantização
- A quantização armazena os pesos de um modelo com menos bits, por exemplo 4 em vez de 16, para reduzir o uso de memória e acelerar a inferência a um pequeno custo em qualidade.
- Treinamento consciente de quantização (QAT)
- O treinamento consciente de quantização ensina o modelo a trabalhar com pesos de baixa precisão enquanto ainda está sendo treinado, então perde menos qualidade em 4 bits do que um modelo comprimido depois.
- VRAM
- A VRAM é a memória de uma placa gráfica; ela decide quais modelos uma GPU consegue abrigar, porque os pesos precisam caber na memória para o modelo rodar rápido.
Licenciamento
- IA de código aberto
- IA de código aberto, segundo a definição da Open Source Initiative, é um sistema de IA que você pode usar, estudar, modificar e compartilhar livremente, com os pesos, o código e informações detalhadas sobre os dados de treinamento todos disponíveis.
- Licença não comercial
- Uma licença não comercial permite usar um modelo para pesquisa, estudo e projetos pessoais, mas não para ganhar dinheiro com ele.
- Licença permissiva
- Uma licença permissiva, como Apache 2.0 ou MIT, permite usar, modificar e vender um modelo com muito poucas condições, normalmente apenas manter um aviso.
- Limite de receita (revenue cap)
- Um limite de receita é uma condição de licença que torna um modelo gratuito abaixo de certa receita e exige um acordo separado acima dela.
- Modelo com acesso controlado (gated model)
- Um modelo com acesso controlado (gated) é um modelo aberto cujo download no Hugging Face exige que você primeiro faça login e aceite os termos, ou solicite acesso.
- OpenRAIL (licença de IA responsável)
- OpenRAIL é uma família de licenças que permitem usar, modificar e compartilhar um modelo, inclusive comercialmente, mas exigem que toda cópia e derivado carregue uma lista de usos proibidos.
- Restrição territorial
- Uma restrição territorial limita onde uma licença é válida: usar o modelo nos países ou regiões excluídos não é coberto pela licença.
Usando modelos
- Agente de uso de computador (Computer-use agent)
- Um agente de uso de computador olha capturas de tela e opera o computador como uma pessoa: clicando, digitando e rolando, e às vezes executando comandos de shell ou código.
- Ajuste fino (fine-tuning)
- O ajuste fino continua o treinamento de um modelo pré-treinado com seus próprios exemplos, para que ele se comporte melhor em uma tarefa, estilo ou domínio específicos.
- Alucinação
- Uma alucinação é uma afirmação falsa ou inventada produzida por um modelo de IA com toda a confiança.
- API compatível com OpenAI
- Uma API compatível com OpenAI é um servidor que aceita as mesmas requisições que a API da OpenAI, então apps escritas para ela podem usar um modelo aberto em vez dela.
- Auto-hospedagem (Self-hosting)
- Auto-hospedagem significa executar um modelo em hardware sob seu controle, como o seu próprio PC ou um servidor de GPU alugado, em vez de chamar a API de um fornecedor.
- Benchmark (teste de referência)
- Um benchmark é um teste padronizado usado para comparar modelos, como um conjunto de questões de matemática, programação ou conhecimento; as pontuações são úteis, mas fáceis de superinterpretar.
- Chamada de ferramentas (function calling)
- A chamada de ferramentas permite que um modelo peça ao seu programa para executar uma função, como uma busca ou uma calculadora, e depois use o resultado na resposta.
- Clonagem de voz
- A clonagem de voz faz um modelo de conversão de texto em fala falar com a voz de uma pessoa específica, muitas vezes a partir de apenas alguns segundos de gravação.
- Geração aumentada por recuperação (RAG)
- A geração aumentada por recuperação permite que um modelo responda com base nos seus próprios documentos recuperando os trechos relevantes e adicionando-os ao prompt.
- IA no dispositivo (on-device)
- IA no dispositivo significa que o modelo roda no seu próprio celular, notebook ou placa pequena em vez de na nuvem, então os dados ficam locais e ele funciona offline.
- LoRA (adaptação de baixo posto)
- LoRA, sigla de low-rank adaptation, ajusta um modelo treinando um pequeno conjunto de pesos adicionais em vez de mudar todos os seus parâmetros.
- Memória de agente (Agent memory)
- A memória de agente permite que um agente de IA guarde fatos, preferências e experiências passadas entre sessões, em vez de começar de um contexto em branco a cada vez.
- Métricas de tradução
- Métricas de tradução são as pontuações que as fichas de modelos usam para avaliar uma tradução. Algumas contam a sobreposição com uma referência humana, outras usam um modelo treinado ou revisores humanos, e suas escalas não podem ser comparadas.
- MTEB (benchmark de embeddings)
- O MTEB, o Massive Text Embedding Benchmark, pontua modelos de embeddings em muitas tarefas como busca, classificação e clustering, e seu leaderboard público é uma forma comum de compará-los.
- OmniDocBench
- OmniDocBench é um benchmark de análise de documentos: ele pontua quão bem um modelo converte páginas PDF de muitos tipos em texto, tabelas e fórmulas.
- Orientação sem classificador (CFG)
- A orientação sem classificador, geralmente chamada CFG, é um ajuste dos modelos de difusão que controla o quanto o resultado segue fielmente o seu prompt, ao custo de computação extra.
- Passos de amostragem
- Passos de amostragem são o número de passadas que um modelo de difusão faz para transformar ruído em uma imagem ou vídeo. Menos passos significam resultados mais rápidos, geralmente com alguma perda de detalhe ou variedade.
- Programação agêntica (Agentic coding)
- Programação agêntica significa que o modelo trabalha no software como um desenvolvedor: lê a base de código, edita arquivos, executa comandos e testes, e continua até concluir a tarefa.
- Taxa de erro de palavras (WER)
- A taxa de erro de palavras é a pontuação padrão do reconhecimento de fala: a proporção de palavras em uma transcrição que estão erradas, faltando ou sobrando em relação a uma referência correta.