OpenAI actualiza ChatGPT para detectar mejor el riesgo en conversaciones sensibles

OpenAI ha descrito las actualizaciones de seguridad de ChatGPT que ayudan al modelo a entender mejor el contexto en conversaciones sensibles. El sistema detecta con más precisión cuándo el riesgo no se manifiesta de inmediato, sino que se acumula a lo largo de la conversación o incluso en varios chats independientes.

Por qué importa el contexto

En un mensaje aislado, un usuario puede preguntar algo neutro o ambiguo, y sin los mensajes previos esa consulta parece inofensiva. Pero si antes en el diálogo hubo señales de angustia, conversaciones sobre autolesión o insinuaciones de causar daño a otros, el sentido cambia por completo. OpenAI centró la actualización precisamente en estos casos: entrenó al modelo para vincular señales de varios mensajes y aumentar la cautela no en todas las conversaciones, sino solo donde realmente aparecen indicios preocupantes.

La compañía señala que se trata de escenarios poco frecuentes pero críticos, sobre todo suicidio, autolesión y amenazas a otras personas. En esas situaciones, ChatGPT no debe limitarse a responder de manera formal: tiene que saber rechazar a tiempo detalles peligrosos, rebajar la tensión de la conversación y redirigir con suavidad al usuario hacia una ayuda más segura. El objetivo de la actualización no es volver al modelo excesivamente ansioso, sino enseñarle a distinguir las conversaciones normales de los episodios realmente arriesgados.

Qué ha cambiado

La novedad clave son los safety summaries: notas breves y factuales sobre el contexto relevante para la seguridad. Los crea un modelo distinto, entrenado para tareas de razonamiento de seguridad, y se usan solo en casos poco frecuentes en los que existe una señal de riesgo seria. Según OpenAI, estas notas no son personalización general ni se convierten en memoria a largo plazo sobre el usuario: se conservan durante un tiempo limitado y se aplican únicamente cuando el contexto pasado es realmente necesario para dar una respuesta más segura.

• Contrastan señales de mensajes actuales y pasados
• Ayudan a tener en cuenta el riesgo entre chats distintos
• Indican al modelo cuándo debe desescalar la conversación
• Refuerzan la negativa ante detalles peligrosos de una solicitud
• Redirigen al usuario hacia alternativas más seguras

OpenAI subraya además que el sistema no se desarrolló solo dentro del equipo de seguridad. Participaron psiquiatras y psicólogos de la Global Physicians Network, incluidos especialistas en psicología forense y en prevención del suicidio y la autolesión. Ayudaron a definir en qué momentos hay que crear safety summaries, cuánto contexto previo resulta realmente útil y durante cuánto tiempo debe tenerlo en cuenta el modelo al responder. Es un detalle importante: la compañía no se basó solo en heurísticas generales, sino también en la práctica de especialistas que trabajan con este tipo de crisis.

Qué mostraron las pruebas

OpenAI aporta varias métricas internas. En escenarios largos dentro de una misma conversación, la proporción de respuestas seguras aumentó un 50 % en casos de suicidio y autolesión, y un 16 % en casos de daño a otros.

La compañía también probó el rendimiento entre varias conversaciones y en varios modelos. En GPT-5.5 Instant, que actualmente es el modelo predeterminado de ChatGPT, las respuestas seguras mejoraron un 52 % en escenarios de daño a otros y un 39 % en escenarios de suicidio y autolesión. Esto indica que el sistema detecta mejor la acumulación de riesgo a lo largo del tiempo, y no solo reacciona ante señales de alarma evidentes.

La empresa evaluó asimismo la calidad de los propios safety summaries. En más de 4000 evaluaciones internas, obtuvieron una puntuación media de 4,93 sobre 5 en relevancia para la seguridad y de 4,34 sobre 5 en precisión factual.

OpenAI comprobó además si añadir este contexto perjudica las conversaciones normales. En las pruebas internas, las respuestas en chats cotidianos se mantuvieron en general comparables, y no se halló una preferencia apreciable de los usuarios entre las variantes con y sin safety summaries. Es decir, la apuesta es una cautela más precisa sin una caída perceptible de calidad en escenarios normales.

Qué significa

OpenAI avanza hacia un uso más sólido del contexto previo, no por personalización, sino por seguridad en situaciones críticas poco frecuentes. Si el enfoque realmente escala sin falsos positivos excesivos, ChatGPT podrá manejar con más cuidado conversaciones difíciles en las que el riesgo solo se vuelve evidente a través de una cadena de mensajes.

Para la industria es una señal importante: la seguridad depende cada vez más no de una sola solicitud, sino de la capacidad del modelo para ver cómo evoluciona una situación a lo largo del tiempo.