Habr AI explicó por qué ChatGPT no debería redactar la especificación técnica de una empresa para la implementación de AI

La tentación de confiar a la IA no solo la implementación de IA, sino también la preparación de una especificación técnica parece lógica: rápido, barato y sin largas entrevistas. Pero es precisamente en este paso donde el negocio a menudo obtiene un documento hermoso que está poco relacionado con la tarea real, los procesos y las limitaciones del equipo.

Por qué la plantilla no funciona

Cuando un gerente o cliente pide a ChatGPT que escriba una especificación para la implementación de IA, el modelo generalmente ensambla una plantilla universal plausible. Contiene muchas palabras correctas: análisis de datos, selección de modelo, seguridad, integración, métricas de calidad. El problema es que tal texto se construye sobre probabilidad, no sobre el conocimiento de una empresa específica.

No sabe cómo están estructuradas las aprobaciones, dónde se encuentran los datos, quién es responsable del soporte y qué soluciones ya han fracasado dentro del negocio. Debido a esto, el documento puede parecer maduro pero permanecer vacío a nivel de ejecución. A menudo carecen de prioridades, límites del proyecto, criterios de aceptación y descripción de excepciones.

Aún peor si la especificación fue escrita por alguien que no entiende completamente el dominio, e IA simplemente empaqueta estas brechas en estilo oficial. El resultado no es un documento de ingeniería sino una imitación convincente. Esto es peligroso desde el inicio del proyecto.

Qué problemas surgen

El material discute cómo la generación de IA es especialmente peligrosa para proyectos de implementación de IA. Hay demasiadas dependencias aquí: calidad de los datos de origen, restricciones legales, costos de infraestructura, integración con sistemas internos, requisitos de explicabilidad del resultado. El texto universal casi inevitablemente suaviza estos ángulos agudos y crea la ilusión de que la tarea ya está formalizada. Esto significa que los riesgos reales del proyecto afloran demasiado tarde, cuando el dinero ya ha sido parcialmente gastado.

• Las formulaciones siguen siendo demasiado genéricas y permiten docenas de interpretaciones
• Los requisitos de datos y su calidad se describen superficialmente
• Las métricas de éxito se reemplazan por KPI abstractos sin conexión al negocio
• Los plazos y el presupuesto se ven realistas solo en papel
• Comparar contratistas por tal especificación distorsiona la imagen, porque todos responden a una solicitud vaga

Esto afecta no solo la etapa de selección de contratistas. Si distribuye una especificación débil a varios equipos y luego pide a IA que evalúe sus propuestas, el error se amplifica. El sistema comparará respuestas con la misma plantilla superficial y recompensará a quienes mejor capturaron las palabras formales, en lugar de quienes comprendieron más profundamente el problema. Como resultado, podría seleccionar un contratista con una hermosa presentación y una arquitectura débil.

Dónde es útil la IA

Esto no significa que la IA deba ser eliminada del proceso de preparación de especificaciones. Tiene un papel útil, pero es un papel de apoyo. El modelo puede usarse para estructurar información ya recopilada: convertir entrevistas con el cliente en borradores de secciones, sugerir una lista de preguntas aclaratorias, ayudar a verificar brechas lógicas, estandarizar la terminología.

Es decir, la IA es útil donde se necesita un acelerador para trabajo editorial y analítico, no un sustituto para la investigación del proyecto. Un enfoque funcional se ve así: primero, el equipo documenta manualmente el objetivo comercial, el proceso actual, restricciones, datos disponibles, propietarios de la solución y criterios de éxito. Luego la IA ayuda a llevar esto a una forma comprensible, pero no sustituye la experiencia de expertos en dominio, analistas y el líder técnico.

Cuanto más costoso es el error de implementación, más peligroso es confiar al modelo la formulación de requisitos iniciales sin revisión humana. Solo después de eso entrega el texto al modelo para revisión y edición.

Qué significa esto

La conclusión principal es simple: la IA puede acelerar la preparación de especificaciones, pero no puede por sí sola determinar de manera confiable qué necesita ser implementado y cómo funcionará dentro de una organización específica. Si usa el modelo como autor de requisitos, el negocio corre el riesgo de comprar no una solución sino incertidumbre bellamente formateada. Especialmente en proyectos donde luego tendrá que cambiar procesos, presupuestos y responsabilidades de las personas. Esto es lo que hace que tales documentos sean particularmente costosos.