Modelo fundacional

Los modelos fundacionales, denominados en el Reglamento Europeo de IA como "modelos de IA de propósito general" (modelos GPAI), son modelos de IA entrenados con datos amplios mediante autosupervisión a gran escala, que demuestran una generalidad significativa y son capaces de realizar de manera competente una amplia variedad de tareas distintas. Ejemplos destacados incluyen los grandes modelos de lenguaje (LLM) como GPT-4 y Claude, así como modelos multimodales capaces de procesar texto, imágenes y otros tipos de datos.

El Reglamento Europeo de IA introduce un marco regulatorio escalonado para los modelos GPAI. Todos los proveedores de modelos GPAI deben cumplir obligaciones básicas que incluyen el mantenimiento de documentación técnica, la provisión de información y documentación a los proveedores posteriores que integren el modelo en sistemas de IA, el establecimiento de una política de cumplimiento de la legislación de derechos de autor y la publicación de un resumen suficientemente detallado de los datos de entrenamiento.

Los modelos GPAI que plantean "riesgo sistémico" se enfrentan a requisitos adicionales más estrictos. Se presume que un modelo tiene riesgo sistémico cuando la capacidad de cálculo acumulada utilizada para su entrenamiento supera los 10^25 FLOP, o cuando la Comisión Europea lo designa como tal. Los proveedores de modelos con riesgo sistémico deben realizar evaluaciones del modelo, valorar y mitigar los riesgos sistémicos, rastrear y notificar incidentes graves, y garantizar protecciones adecuadas de ciberseguridad.

La regulación de los modelos fundacionales fue uno de los aspectos más debatidos del Reglamento de IA durante las negociaciones legislativas. Representa un enfoque novedoso de regulación de la IA a nivel de modelo, y no únicamente a nivel de aplicación, reflejando el reconocimiento de que las capacidades y riesgos de los modelos potentes de propósito general requieren una gobernanza desde la fase inicial del desarrollo.

• EU AI Act