Gobernanza de la IA

La IA agéntica describe sistemas de IA diseñados para alcanzar objetivos mediante razonamiento iterativo, planificación, uso de herramientas y adaptación, en lugar de producir una sola respuesta pasiva.

Un agente de IA es un sistema de software que percibe el contexto, razona sobre un objetivo, selecciona acciones y utiliza herramientas u otros sistemas para completar tareas con un grado determinado de autonomía.

Los límites de seguridad de la IA son controles técnicos y organizativos que limitan cómo un sistema de IA recibe entradas, genera salidas, utiliza datos y realiza acciones.

Una evaluación de impacto de la IA es un proceso estructurado para identificar, analizar, evaluar y documentar los efectos que un sistema de IA puede tener en las personas, las organizaciones, la sociedad y el medio ambiente a lo largo de su ciclo de vida.

Un sistema de gestión de IA es un conjunto de políticas, funciones, procesos, controles y prácticas de mejora continua aplicados en toda la organización para regir el desarrollo, la provisión y el uso responsable de los sistemas de IA.

La gestión de riesgos de la IA es el proceso coordinado de identificar, analizar, evaluar, tratar, supervisar y comunicar los riesgos derivados del diseño, el desarrollo, el despliegue y el uso de los sistemas de IA.

El sesgo algorítmico es un patrón sistemático en un sistema algorítmico que puede producir resultados injustos, inexactos o desproporcionadamente perjudiciales para determinadas personas o grupos.

Consent Mode es una función de la plataforma de etiquetas de Google que ajusta el comportamiento de las etiquetas y del SDK de la aplicación según las elecciones de consentimiento del usuario.

Una plataforma de datos de clientes (CDP) es un software empaquetado que crea perfiles de clientes persistentes y unificados y los pone a disposición de otros sistemas.

La exfiltración de datos es la transferencia, divulgación o extracción no autorizada de datos de un sistema, red, aplicación o entorno controlado.

La gobernanza de datos es el sistema de derechos de decisión, responsabilidades, políticas, estándares y controles que se usa para gestionar los datos como un activo de la organización.

El linaje de datos es un registro rastreable de dónde se originaron los datos, cómo se movieron y cambiaron, y dónde se utilizan en todos los sistemas y procesos.

La calidad de los datos es el grado en que los datos son precisos, completos, consistentes, oportunos, válidos, únicos y aptos para su uso previsto.

La Ley de IA de la UE es el Reglamento (UE) 2024/1689, un marco legal basado en el riesgo que regula el desarrollo, la comercialización, la implementación y el uso de la inteligencia artificial en la Unión Europea.

La IA explicable comprende métodos y propiedades del sistema que ayudan a las personas pertinentes a comprender la base, el comportamiento o las limitaciones de un sistema de IA y sus resultados.

La optimización para motores generativos es la práctica de mejorar la precisión y visibilidad con la que una entidad o su contenido se recupera, representa, atribuye y cita en las respuestas producidas por los sistemas de búsqueda y respuesta generativos.

Human-in-the-Loop es un diseño de sistema en el que se incorpora deliberadamente el juicio humano, la revisión, los comentarios o la autorización en un proceso automatizado o impulsado por IA.

ISO 31000:2018 es una directriz internacional para integrar los principios de gestión de riesgos, un marco de referencia y un proceso en la gobernanza y la toma de decisiones de las organizaciones.

ISO/IEC 22989:2022 es una norma internacional que establece la terminología y describe los conceptos utilizados en las tecnologías y aplicaciones de inteligencia artificial.

ISO/IEC 23894:2023 es una norma internacional que ofrece orientación sobre cómo gestionar los riesgos a los que se enfrentan las organizaciones que desarrollan, ofrecen, implementan o utilizan sistemas de IA.

ISO/IEC 27001:2022 es la norma internacional de requisitos para establecer, implementar, mantener y mejorar continuamente un sistema de gestión de seguridad de la información.

ISO/IEC 38507:2022 ofrece orientación a los órganos de gobierno sobre las implicaciones del uso de la inteligencia artificial por parte de una organización.

La primera norma internacional que especifica los requisitos para establecer, implementar, mantener y mejorar continuamente un sistema de gestión de IA dentro de las organizaciones.

ISO/IEC 42005:2025 es la norma internacional publicada que ofrece orientación a las organizaciones que realizan evaluaciones de impacto de los sistemas de inteligencia artificial.

Un grafo de conocimiento es una representación estructurada de entidades, sus atributos y las relaciones entre ellas, organizada para su consulta y reutilización por máquinas.

Un modelo de lenguaje grande (LLM) es un modelo de lenguaje entrenado con conjuntos de datos muy grandes y parametrizado para procesar o generar lenguaje y secuencias relacionadas.

La puntuación de leads es un método para asignar valores a los atributos y comportamientos de los prospectos para apoyar la priorización o derivación hacia un resultado acordado.

La tokenización de LLM es la conversión de texto u otra entrada en identificadores de tokens específicos del modelo que un modelo de lenguaje grande puede procesar.

Una tarjeta de modelo es un documento estructurado que describe los usos previstos, el rendimiento, las condiciones de evaluación, las limitaciones y la información de gobernanza relevante de un modelo de inteligencia artificial o aprendizaje automático.

Una tarea de procesamiento de lenguaje natural que identifica y clasifica entidades nombradas, como personas, organizaciones, lugares y fechas, en un texto.

El campo de la informática dedicado a permitir que los sistemas analicen, generen e interactúen a través del lenguaje humano.

El Marco de Gestión de Riesgos de IA del NIST es un marco voluntario, que respeta los derechos y es agnóstico respecto al caso de uso, diseñado para ayudar a las organizaciones a gestionar los riesgos para las personas, las organizaciones y la sociedad a lo largo del ciclo de vida de la IA.

Una clase de ataque contra aplicaciones de modelos lingüísticos grandes en el que se elabora una entrada maliciosa para anular, redirigir o extraer información de las instrucciones previstas por el sistema.

Una arquitectura de IA que combina la generación de modelos de lenguaje grandes con la recuperación en tiempo real de fuentes de conocimiento externas para producir respuestas fundamentadas y verificables.

Search Generative Experience fue la designación experimental de Search Labs de Google para las funciones de IA generativa en la Búsqueda; ahora es un término heredado o de transición asociado con el desarrollo de los Resúmenes de IA y las experiencias de búsqueda con IA posteriores.

La clasificación o puntuación computacional de opiniones, actitudes o polaridad emocional expresada en texto u otros datos.

El contenido generado por el usuario es material creado y compartido por los clientes, los miembros de la comunidad u otros usuarios en lugar de ser producido únicamente por la organización que lo publica o presenta.

La accesibilidad web significa diseñar y desarrollar sitios web y herramientas web para que las personas con discapacidad puedan percibirlos, entenderlos, navegarlos, interactuar con ellos y aportar contenido.

Un conjunto de directrices reconocidas internacionalmente publicadas por el W3C que definen cómo hacer que el contenido web sea más accesible para personas con discapacidad, organizado en torno a cuatro principios: perceptible, operable, comprensible y robusto.

Los datos de orden cero son información que un cliente comparte de forma intencionada y proactiva con una organización, como preferencias, intenciones, contexto o el reconocimiento deseado.