OpenAI reescribe las reglas de comportamiento de GPT: cinco valores y una cadena de prioridades

OpenAI ha publicado una nueva versión del Model Spec, el documento público en el que la compañía describe cómo deben comportarse sus modelos: qué hacer cuando las peticiones del usuario y las reglas no coinciden y cómo responder en situaciones controvertidas. Antes, el comportamiento se definía mediante un conjunto de reglas sueltas. Ahora la base son cinco valores, y para los conflictos entre los participantes de una conversación se ha fijado una cadena de instancias.

Cinco valores en lugar de un puñado de reglas

En la especificación actualizada, la lógica de funcionamiento de GPT se apoya en cinco principios:

• fidelidad a las intenciones de la persona: el modelo intenta entender qué quería obtener el usuario, y no solo lo que escribió literalmente;
• reducción del daño;
• honestidad;
• apoyo a la autonomía: es la persona quien toma sus propias decisiones;
• atención al contexto.

El principal cambio práctico afecta a las situaciones en las que no hay una regla explícita. Antes, esos casos quedaban en una zona gris. Ahora el modelo debe ponderar los intereses a largo plazo del usuario y las consecuencias de sus propias acciones. Esto se parece más a un juicio que a una comprobación contra una lista de prohibiciones.

Otro cambio atañe a la manera de responder. OpenAI ha eliminado la mayoría de las plantillas de estilo rígidas. El modelo elige el tono por sí mismo, a partir del historial de diálogos y la memoria. Si el usuario está acostumbrado a un estilo breve y profesional, el modelo puede mantenerlo, y viceversa.

Un retoque menor, pero revelador: en la documentación, el término «asistente» se ha sustituido por «GPT».

Quién manda: OpenAI, el desarrollador o el usuario

En las respuestas del modelo intervienen tres partes a la vez. La primera es la propia OpenAI, con sus restricciones. La segunda es el desarrollador de la aplicación, que escribe el prompt de sistema, es decir, la instrucción oculta sobre cómo debe comportarse el bot. La tercera es el usuario, con su petición.

Los intereses de estas partes pueden no coincidir. Por ejemplo, el desarrollador ha prohibido hablar de la competencia y el usuario pregunta precisamente por ella. Para estos casos, la nueva versión del documento incluye una cadena de instancias: el orden que sigue el modelo para resolver los conflictos entre las restricciones de OpenAI, los prompts de sistema y las peticiones de los usuarios.

Para quienes construyen productos sobre GPT, es una ventaja directa. El comportamiento del modelo en los casos límite resulta más predecible y, por tanto, los prompts de sistema son más fáciles de escribir y depurar.

Qué más ha pasado hoy en las noticias de IA

El mismo resumen incluye otras cuatro noticias.

Anthropic ha multiplicado por cuatro el tamaño máximo de las solicitudes a la API de Claude. Los nuevos límites se aplican en las interfaces Messages y Token Counting. Están pensados para quienes envían al modelo PDF voluminosos, gráficos y cálculos de gran tamaño: con más margen de tamaño, la solicitud se rechaza con menos frecuencia. Además, si el prompt contiene más de 20 imágenes, la resolución máxima de cada una ha subido de 2000 a 3000 píxeles. A través de nubes de terceros, las solicitudes todavía pueden bloquearse por los límites de los propios proveedores.

Cursor (un editor de código con IA integrada) se ha topado con un clon malicioso de Claude Code, la herramienta de programación de Anthropic. La falsificación se hacía pasar por la oficial y estuvo en el catálogo unas 11 horas. Según la estimación de Cursor, la instalaron hasta 5000 personas. Investigadores de OpenSourceMalware descubrieron que al inicio de un plugin corriente se habían añadido 66 líneas de código malicioso, que se ejecutaban nada más arrancar el editor. El script:

• recopilaba el nombre del equipo, la dirección de correo y la dirección IP;
• añadía la clave del atacante a la lista de autorización de SSH, es decir, a la relación de claves a las que se permite el acceso remoto;
• intentaba levantar un túnel inverso.

El servicio SSH requiere permisos de administrador, que normalmente no se conceden a un plugin en macOS y Windows. Aun así, el robo de datos y la inyección de claves funcionaron en muchos casos. Cursor ha eliminado la falsificación, ha cerrado temporalmente el marketplace y ayuda a bloquear los servidores de los atacantes. Eliminar el plugin no basta: la puerta trasera seguirá funcionando. Los afectados deben buscar en los archivos de autorización la entrada «svc-telemetry» y ejecutar el script de limpieza oficial.

Google ha añadido a Gemini Notebook más de 700 libros de texto gratuitos de OpenStax, Open Textbook Library y S Chand Publishing. Gemini responde estrictamente a partir del material elegido y respalda sus explicaciones con citas que remiten a números de página. A partir de los textos se pueden generar resúmenes, tests, tarjetas y mapas de conocimiento, así como un debate en audio o un vídeo. La categoría correspondiente en el menú de fuentes es Textbooks.

Neuralink ha integrado el agente Grok en su neuroimplante. El usuario pronuncia mentalmente «Oye, Neuralink», formula la tarea y Grok controla el sistema operativo por sí solo. La actualización se probó en una sesión de 72 horas en casa de un paciente con esclerosis lateral amiotrófica. También incluye reconocimiento de intenciones de habla y conexión directa con el iPhone: una persona paralizada puede llamar a sus allegados o pedir comida, y las señales cerebrales se envían al sintetizador de voz del teléfono. En los ensayos clínicos de comunicación básica, el paciente escribía en la primera semana 75 palabras en inglés por minuto, con una tasa de error por palabra del 5,8%.

Qué deben llevarse de aquí los ingenieros

Quienes desarrollan productos sobre GPT deberían releer el Model Spec y contrastar sus prompts de sistema con la cadena de instancias. Los usuarios de Cursor deberían revisar los archivos de autorización SSH. Los usuarios de Claude que trabajan con documentos pesados deberían evaluar los nuevos límites.