Gobernanza de IA generativa en la empresa mediana: política de uso, datos y proveedores

En casi todas las empresas medianas que visitamos, la IA generativa llegó antes que la política. Alguien de marketing usa un asistente para redactar textos, el área legal prueba resúmenes de contratos, el área comercial pega la planilla de propuestas para pedir un análisis. Nada de esto es necesariamente malo. El problema es que nadie sabe exactamente qué herramientas se usan, con qué datos y bajo qué términos contractuales.

Prohibir rara vez funciona. Las herramientas están a un clic en el navegador y en el teléfono. El camino más eficaz es ofrecer una alternativa autorizada y establecer reglas claras sobre lo que se puede y lo que no.

Un marco a la medida de la empresa

En 2024 el NIST publicó el documento NIST AI 600-1, un perfil del AI Risk Management Framework específico para IA generativa. Describe doce categorías de riesgo propias o ampliadas por esta tecnología, entre ellas la confabulación (respuestas falsas presentadas con seguridad), la privacidad de datos, la seguridad de la información y la propiedad intelectual, y sugiere acciones organizadas según las cuatro funciones del marco: gobernar, mapear, medir y gestionar.

Para quien desarrolla aplicaciones sobre modelos de lenguaje, la lista OWASP Top 10 for LLM Applications, versión 2025, es la referencia técnica más usada. Incluye riesgos como inyección de prompts, divulgación de información sensible, vulnerabilidades en la cadena de suministro, manejo inadecuado de las respuestas y autonomía excesiva otorgada a agentes.

La empresa mediana no necesita implementar todo esto. Necesita tres piezas bien hechas.

Pieza 1: política de uso aceptable

La política debe caber en dos páginas y responder preguntas prácticas. ¿Qué herramientas están autorizadas? ¿Con qué tipo de cuenta (corporativa, con términos negociados, o personal)? ¿Qué datos se pueden ingresar? ¿Quién revisa el contenido generado antes de que salga de la empresa? ¿Qué hacer si alguien se da cuenta de que ingresó algo que no debía?

Dos reglas suelen resolver buena parte del riesgo. La primera: el contenido generado por IA que va a un cliente, a un organismo público o a publicación pasa por una revisión humana con responsable nombrado. La segunda: los datos personales de clientes y colaboradores, los secretos comerciales y la información de terceros bajo confidencialidad no entran en herramientas sin contrato corporativo.

Pieza 2: clasificación de datos aplicada a la IA

La política solo funciona si las personas saben clasificar lo que tienen en las manos. Una clasificación en cuatro niveles basta para la mayoría de las empresas.

Nivel	Ejemplos	Uso en IA generativa
Público	Sitio web, catálogo, material de difusión	Permitido en herramientas autorizadas
Interno	Procedimientos, presentaciones internas sin datos de clientes	Permitido solo en cuentas corporativas
Confidencial	Propuestas comerciales, precios, datos financieros no publicados	Solo en herramientas corporativas con cláusula de no uso para entrenamiento
Restringido	Datos personales sensibles, secretos industriales, datos bajo confidencialidad contractual	Prohibido, salvo proyecto específico aprobado

La LGPD, ley brasileña de protección de datos, se aplica siempre que haya datos personales. Ingresar datos de clientes en una herramienta de IA es una operación de tratamiento y necesita base legal y finalidad compatible. Cuando el proveedor procesa datos fuera de Brasil, también entran las reglas de transferencia internacional. Nada de esto impide el uso; exige que se piense.

Pieza 3: revisión de proveedores

La mayor parte del riesgo de IA generativa en empresas medianas está en el contrato, no en el modelo. Antes de autorizar una herramienta, conviene verificar puntos objetivos:

• ¿El proveedor usa los datos ingresados para entrenar modelos? ¿Se puede desactivar por contrato?
• ¿Por cuánto tiempo se retienen los datos y dónde se procesan?
• ¿Hay registros de uso (logs) accesibles para el administrador de la empresa?
• ¿El contrato prevé responsabilidades en caso de incidente de seguridad?
• ¿La herramienta permite gestión centralizada de usuarios y baja inmediata de accesos?
• Si la herramienta se conecta a sistemas internos o ejecuta acciones, ¿qué permisos recibe?

El último punto merece atención especial. Los asistentes que leen correos, acceden a carpetas compartidas o ejecutan tareas en sistemas amplían la superficie de ataque. Es justamente el escenario de inyección de prompts y autonomía excesiva que describe OWASP. La regla práctica es otorgar el menor permiso necesario y exigir confirmación humana para acciones irreversibles.

Quién se ocupa de esto

En empresas medianas no tiene sentido crear una estructura nueva. Un grupo pequeño, con representantes de TI, del área legal o del encargado de datos y de un área de negocio usuaria, reunido mensualmente, alcanza. La agenda es fija: nuevas herramientas solicitadas, incidentes y revisión de la política cada seis meses. Un inventario simple de los casos de uso en producción, con responsable y clasificación de riesgo, completa el mínimo.

Checklist de 30 días

• Relevar qué herramientas de IA generativa ya se usan, sin carácter punitivo.
• Elegir y contratar al menos una alternativa corporativa con términos revisados.
• Publicar la política de uso aceptable en lenguaje simple.
• Difundir la clasificación de datos con ejemplos de la propia empresa.
• Definir el grupo de gobernanza y su agenda mensual.
• Crear el inventario de casos de uso con responsable y nivel de riesgo.

Una gobernanza bien diseñada acelera la adopción, porque les quita a las personas la duda sobre lo que está permitido. Según nuestra experiencia, el uso aumenta después de que sale la política, no disminuye.