Glosario
Primero la definición corta, luego los detalles. Los términos se enlazan entre sí.
Lo básico
- Aprendizaje por refuerzo (RL)
- El aprendizaje por refuerzo entrena a un modelo premiando los buenos resultados, como una respuesta correcta o superar pruebas, en lugar de copiar texto de ejemplo.
- Hugging Face
- Hugging Face es el sitio web donde se publican la mayoría de los modelos abiertos: cada modelo tiene una página con sus archivos, licencia, model card y número de descargas.
- IA soberana (Sovereign AI)
- La IA soberana es aquella que un país u organización puede construir, alojar y gobernar bajo su propio control, desde la potencia de cálculo y los datos hasta el propio modelo.
- Inferencia
- La inferencia es ejecutar un modelo ya entrenado para obtener una salida, por ejemplo responder a un prompt, en contraste con entrenarlo.
- Parámetros
- Los parámetros son los números dentro de un modelo que se ajustan durante el entrenamiento; su cuenta, como 7B o 70B, es la medida habitual del tamaño de un modelo.
- Pesos abiertos (open weights)
- Un modelo de pesos abiertos es un modelo de IA cuyos parámetros entrenados, llamados pesos, se publican para que cualquiera pueda descargarlo y ejecutarlo, normalmente bajo una licencia que fija las condiciones de uso.
- Token
- Un token es un pequeño trozo de texto, a menudo una palabra o parte de una palabra, que un modelo de lenguaje lee y escribe; los modelos miden longitud y velocidad en tokens.
- Traducción automática
- La traducción automática es software que traduce texto, voz o texto dentro de imágenes de un idioma a otro. Los modelos abiertos de hoy suelen partir de un modelo general y entrenarse después solo para traducir.
- Ventana de contexto
- La ventana de contexto es la cantidad máxima de texto, medida en tokens, que un modelo puede tener en cuenta a la vez, incluidos tu prompt y su propia respuesta.
Modelos y arquitectura
- Agente de IA
- Un agente de IA es un sistema en el que un modelo planifica y ejecuta tareas de varios pasos llamando a herramientas, como ejecutar código, buscar en la web o editar archivos.
- Atención eficiente (dispersa, lineal e híbrida)
- Los diseños de atención eficiente permiten que un modelo lea entradas muy largas con mucha menos memoria y cómputo que la atención estándar, mirando menos tokens o comprimiendo el pasado.
- Codificador de texto
- En un generador de imágenes o vídeo, el codificador de texto es un modelo de lenguaje aparte que convierte tu prompt en números que el generador puede usar. Aumenta la descarga y el uso de memoria.
- Destilación
- La destilación entrena a un modelo estudiante más pequeño para imitar a un modelo profesor más grande, conservando gran parte de su capacidad con una fracción del tamaño.
- Diarización de hablantes (etiquetas de hablante)
- La diarización determina quién habló y cuándo en una grabación, y etiqueta cada tramo de habla con un hablante, como Hablante 1 y Hablante 2.
- Embeddings matrioska
- Los embeddings matrioska se entrenan para que la primera parte del vector funcione por sí sola, lo que te permite cortar el vector más corto y ahorrar almacenamiento y tiempo de búsqueda.
- Generación de música
- Los modelos de generación de música convierten una descripción en texto (y a menudo una letra) en audio: canciones completas con voz, pistas instrumentales, música en directo o efectos de sonido.
- Mezcla de expertos (MoE)
- Un modelo de mezcla de expertos contiene muchas subredes especializadas y usa solo unas pocas por cada token, así que puede ser enorme y a la vez rápido.
- Modelo base (Base model)
- Un modelo base es el resultado crudo del preentrenamiento, antes de que se le haya enseñado a seguir instrucciones o conversar; suele ser el punto de partida para el fine-tuning.
- Modelo de decisión
- Un modelo de decisión lee una situación y una lista de preguntas, y devuelve una probabilidad para cada respuesta permitida en lugar de escribir texto.
- Modelo de difusión
- Un modelo de difusión genera imágenes o vídeo partiendo de ruido aleatorio y quitando el ruido paso a paso hasta que emerge una imagen.
- Modelo de embeddings
- Un modelo de embeddings convierte texto, imágenes u otros datos en una lista de números que captura su significado, de modo que los elementos parecidos acaban cerca unos de otros.
- Modelo de razonamiento
- Un modelo de razonamiento trabaja un problema paso a paso en una fase de «pensamiento», visible u oculta, antes de dar su respuesta final.
- Modelo de visión y lenguaje (VLM)
- Un modelo de visión y lenguaje lee imágenes, y a menudo vídeo, junto con texto, así que puedes hacer preguntas sobre una foto, una captura de pantalla o una página de documento.
- Modelo denso
- Un modelo denso usa todos sus parámetros para procesar cada token, a diferencia de un modelo de mezcla de expertos, que solo activa una parte de ellos.
- Modelo multimodal
- Un modelo multimodal puede manejar más de un tipo de datos, como texto, imágenes, audio o vídeo, como entrada, como salida o ambos.
- OCR y análisis de documentos
- El OCR convierte en texto la imagen de un texto; el análisis de documentos va más allá y reconstruye tablas, fórmulas, gráficos y el orden de lectura, normalmente como Markdown.
- Reconocimiento de voz (ASR, voz a texto)
- El reconocimiento de voz, también llamado ASR o voz a texto, convierte el audio hablado en texto escrito.
- Reranker
- Un reranker vuelve a puntuar una lista corta de resultados de búsqueda leyendo la pregunta y cada resultado juntos, lo que es más lento pero más preciso que solo embeddings.
- Síntesis de voz (TTS)
- Los modelos de síntesis de voz convierten texto escrito en audio hablado, y muchos pueden copiar una voz a partir de una muestra breve.
- Transformer en bucle (looped transformer)
- Un transformer en bucle vuelve a ejecutar algunas de sus propias capas varias veces por cada token, así que obtiene más cálculo sin almacenar más parámetros.
Hardware y memoria
- Caché KV
- La caché KV es la memoria que usa un modelo para recordar los tokens anteriores de una conversación, y crece con la longitud del contexto.
- Cuantización
- La cuantización guarda los pesos de un modelo con menos bits, por ejemplo 4 en lugar de 16, para reducir el uso de memoria y acelerar la inferencia a un pequeño coste en calidad.
- Decodificación especulativa y predicción multi-token
- La decodificación especulativa acelera la generación de texto: un borrador barato adivina varios tokens por adelantado y el modelo completo los verifica todos a la vez.
- Entrenamiento consciente de la cuantización (QAT)
- El entrenamiento consciente de la cuantización enseña al modelo a trabajar con pesos de baja precisión mientras aún se entrena, así que pierde menos calidad a 4 bits que un modelo comprimido después.
- GGUF
- GGUF es un formato de modelo en un solo archivo que usan llama.cpp y las herramientas construidas sobre él, y que empaqueta los pesos cuantizados junto con la información necesaria para ejecutarlos.
- Memoria unificada
- La memoria unificada es un diseño, usado por los chips de Apple y algunas otras piezas de silicio, en el que la CPU y la GPU comparten un único bloque de memoria, así que un modelo grande puede usar la mayor parte.
- Pesos ternarios (1.58 bits)
- Los pesos ternarios limitan cada peso del modelo a uno de tres valores, -1, 0 o +1, así que el modelo necesita menos de 2 bits por peso en lugar de 16.
- Precisión (BF16, FP8, INT4)
- La precisión es cuántos bits se usan para guardar cada número en un modelo, como BF16 de 16 bits, FP8 de 8 bits o INT4 de 4 bits; menos bits significan un modelo más pequeño y rápido.
- VRAM
- La VRAM es la memoria de una tarjeta gráfica; decide qué modelos puede sostener una GPU, porque los pesos deben caber en memoria para que el modelo funcione rápido.
Licencias
- IA de código abierto
- La IA de código abierto, según la definición de la Open Source Initiative, es un sistema de IA que puedes usar, estudiar, modificar y compartir libremente, con los pesos, el código y la información detallada sobre los datos de entrenamiento todos disponibles.
- Licencia no comercial
- Una licencia no comercial te permite usar un modelo para investigación, estudio y proyectos personales, pero no para ganar dinero con él.
- Licencia permisiva
- Una licencia permisiva, como Apache 2.0 o MIT, te permite usar, modificar y vender un modelo con muy pocas condiciones, normalmente solo mantener un aviso.
- Límite de ingresos (revenue cap)
- Un límite de ingresos es una condición de licencia que deja un modelo gratis por debajo de ciertos ingresos y exige un acuerdo aparte por encima.
- Modelo con acceso restringido (gated model)
- Un modelo con acceso restringido (gated) es un modelo abierto cuya descarga en Hugging Face exige primero iniciar sesión y aceptar sus términos, o solicitar acceso.
- OpenRAIL (licencia de IA responsable)
- OpenRAIL es una familia de licencias que te permiten usar, modificar y compartir un modelo, incluido el uso comercial, pero exigen que cada copia y derivado lleve una lista de usos prohibidos.
- Restricción territorial
- Una restricción territorial limita dónde es válida una licencia: usar el modelo en los países o regiones excluidos no está amparado por la licencia.
Uso de modelos
- Agente de uso de computadora (Computer-use agent)
- Un agente de uso de computadora mira capturas de pantalla y maneja la computadora como lo haría una persona: haciendo clic, escribiendo y desplazándose, y a veces ejecutando comandos de shell o código.
- Ajuste fino (fine-tuning)
- El ajuste fino continúa el entrenamiento de un modelo preentrenado con tus propios ejemplos para que se comporte mejor en una tarea, un estilo o un dominio concretos.
- Alucinación
- Una alucinación es una afirmación falsa o inventada que un modelo de IA expresa con total seguridad.
- API compatible con OpenAI
- Una API compatible con OpenAI es un servidor que acepta las mismas peticiones que la API de OpenAI, así que las apps escritas para ella pueden usar un modelo abierto en su lugar.
- Autoalojamiento (Self-hosting)
- El autoalojamiento consiste en ejecutar un modelo en hardware que controlas tú, como tu propio PC o un servidor de GPU alquilado, en lugar de llamar a la API de un proveedor.
- Benchmark (prueba de referencia)
- Un benchmark es una prueba estandarizada para comparar modelos, como un conjunto de preguntas de matemáticas, programación o conocimiento; las puntuaciones son útiles pero fáciles de sobreinterpretar.
- Clonación de voz
- La clonación de voz hace que un modelo de síntesis de voz hable con la voz de una persona concreta, a menudo a partir de solo unos segundos de grabación.
- Generación aumentada por recuperación (RAG)
- La generación aumentada por recuperación permite que un modelo responda a partir de tus propios documentos recuperando los pasajes relevantes y añadiéndolos al prompt.
- Guía sin clasificador (CFG)
- La guía sin clasificador, normalmente llamada CFG, es un ajuste de los modelos de difusión que controla cuánto se ciñe el resultado a tu prompt, a cambio de cómputo extra.
- IA en el dispositivo (on-device)
- La IA en el dispositivo significa que el modelo se ejecuta en tu propio móvil, portátil o placa pequeña en lugar de en la nube, así los datos se quedan en local y funciona sin conexión.
- Llamada a herramientas (function calling)
- La llamada a herramientas permite que un modelo pida a tu programa que ejecute una función, como una búsqueda o una calculadora, y luego use el resultado en su respuesta.
- LoRA (adaptación de bajo rango)
- LoRA, siglas de low-rank adaptation, ajusta un modelo entrenando un pequeño conjunto de pesos añadidos en lugar de cambiar todos sus parámetros.
- Memoria de agente (Agent memory)
- La memoria de agente permite que un agente de IA conserve datos, preferencias y experiencia pasada entre sesiones, en lugar de empezar cada vez con un contexto vacío.
- Métricas de traducción
- Las métricas de traducción son las puntuaciones que las fichas de modelo usan para valorar una traducción. Algunas cuentan el solapamiento con una referencia humana, otras usan un modelo entrenado o revisores humanos, y sus escalas no se pueden comparar.
- MTEB (benchmark de embeddings)
- MTEB, el Massive Text Embedding Benchmark, puntúa los modelos de embeddings en muchas tareas como búsqueda, clasificación y agrupamiento, y su leaderboard público es una forma habitual de compararlos.
- OmniDocBench
- OmniDocBench es un benchmark de análisis de documentos: puntúa lo bien que un modelo convierte páginas PDF de muchos tipos en texto, tablas y fórmulas.
- Pasos de muestreo
- Los pasos de muestreo son el número de pasadas que hace un modelo de difusión para convertir ruido en una imagen o un vídeo. Menos pasos significan resultados más rápidos, normalmente con alguna pérdida de detalle o variedad.
- Programación agéntica (Agentic coding)
- La programación agéntica significa que el modelo trabaja en el software como lo haría un desarrollador: lee el código, edita archivos, ejecuta comandos y pruebas, y sigue hasta terminar la tarea.
- Tasa de error de palabras (WER)
- La tasa de error de palabras es la puntuación estándar del reconocimiento de voz: la proporción de palabras de una transcripción que están mal, faltan o sobran frente a una referencia correcta.