Anthropic y OpenAI buscan influir en lo que publican los auditores externos

Reuters informó el 13 de octubre, citando a dos personas con conocimiento del asunto, de que Anthropic y OpenAI buscan una influencia considerable sobre lo que los revisores externos de sus modelos pueden publicar. Según las fuentes, el motivo es el mismo en ambas compañías: el temor a que las conclusiones de las auditorías revelen secretos comerciales. Hay además un detalle incómodo. Hace muy poco, los dos laboratorios prometieron libertad de acción a los evaluadores independientes.

Qué se sabe hasta ahora

Los hechos del reportaje son pocos y están formulados con cautela. Las negociaciones de las que hablan las fuentes de Reuters se refieren a las condiciones en que grupos externos obtienen acceso a los modelos y publican resultados. Los laboratorios quieren tener voz en la publicación. En la parte accesible del material no se precisa hasta dónde llega esa voz. Tampoco se nombra a los evaluadores concretos ni el formato de las restricciones: aprobación del texto, derecho a introducir cambios, aplazamiento o veto directo.

El material original de TNW se interrumpe cuando menciona que, el mes pasado, el director de Anthropic, Dario Amodei, hizo una declaración. El fragmento disponible no permite saber qué dijo exactamente, así que no voy a glosarlo.

Dónde surge el conflicto

La evaluación externa de un modelo solo tiene sentido si su autor no controla el texto final. Si el laboratorio puede suavizar la redacción o retrasar la publicación, el informe se convierte en un comunicado de prensa pactado con el logotipo de otro.

El temor de los laboratorios, sin embargo, no es inventado. Para comprobar un modelo en serio, el evaluador necesita una interacción profunda con él: modos de acceso no estándar, versiones tempranas, detalles sobre el comportamiento del sistema. De un informe se pueden deducir muchas cosas sobre los métodos de entrenamiento, las decisiones de arquitectura y los puntos débiles. Para empresas que compiten por clientes corporativos y que tienen una valoración de cientos de miles de millones de dólares, es información sensible.

La industria dispone de un modelo de compromiso ya probado. En seguridad informática existe desde hace tiempo la divulgación coordinada de vulnerabilidades: se concede al proveedor un plazo fijo para corregir el fallo (en Google Project Zero son 90 días) y, pasado ese plazo, el investigador publica el resultado con independencia del consentimiento del proveedor. Los laboratorios pueden reclamar la verificación de errores factuales y una lectura previa para detectar fugas de secretos reales. El derecho de veto sobre las conclusiones es otra historia muy distinta.

Qué recoge el reportaje

• Fuente: Reuters, dos personas con conocimiento del asunto, ambas anónimas.
• Participantes: Anthropic y OpenAI.
• Objeto de la disputa: el grado de control sobre las publicaciones de los revisores externos.
• Argumento oficial de los laboratorios: la protección de los secretos comerciales.
• Contradicción: las recientes promesas públicas de dar libertad de acción a los evaluadores.
• Se desconoce: las condiciones de los contratos, los nombres de los evaluadores y el mecanismo de aprobación.

Cómo leer estas promesas en la práctica

Para quienes compran modelos, redactan requisitos regulatorios o cubren la industria, la conclusión es una: las palabras «evaluación independiente» no significan nada sin las condiciones de publicación. Conviene fijarse en varias cosas.

Primero: qué se acuerda exactamente antes de que salga el informe, si los datos fácticos y los secretos o la redacción de las conclusiones. Segundo: si existe un plazo firme tras el cual el evaluador publica el resultado sin consentimiento. Tercero: si el informe está obligado a indicar que parte del material se ha ocultado y por qué motivo. Cuarto: quién paga al evaluador. Que la financiación venga de la empresa evaluada no es en sí un defecto, pero, unida al control sobre el texto, crea un conflicto de intereses.

Mientras ambos laboratorios no hagan públicas las condiciones, es razonable leer los informes de las verificaciones externas con la salvedad de una posible edición. Si Reuters está en lo cierto, la prueba práctica más inmediata es sencilla: veremos si los evaluadores hacen declaraciones públicas sobre las condiciones en las que trabajaron y si esas condiciones coinciden con lo que las compañías prometieron antes.