Un autor de Habr ajusta YOLOv8l con radiografías dentales y lleva el mAP50 a 0,642

El autor de un estudio en Habr ha publicado la segunda parte del proyecto «IA-Dentista»: el detector de patologías en ortopantomografías pasó de YOLO26n a YOLOv8l (209 capas, 43,6 millones de parámetros, 165,4 GFLOPs). El entrenamiento final en dos etapas, con resolución de 1280×1280, duró 29,3 minutos en una sola NVIDIA A100 80GB PCIe. En el conjunto de validación de DENTEX Challenge (144 imágenes, 709 objetos), el modelo obtuvo un mAP50 de 0,642 y un mAP50-95 de 0,408. El valor del trabajo no está en el récord, sino en el análisis honesto de lo que funcionó y lo que no.

Limpieza de datos y protección de la validación frente a fugas

En la primera parte, el prototipo se probó con cuatro clases, pero resultó que el archivo de entrenamiento incluía fotografías en color de la cavidad bucal. Esas imágenes provocaban detecciones fuera de la distribución objetivo. Una ejecución intermedia con nueve clases (con empastes, coronas e implantes) dio un mAP50 de 0,511 y un AP50 de solo 0,069 en focos periapicales: los empastes y los conductos obturados representaban más del 65% de todas las etiquetas, mientras que los focos eran apenas 1 584. Se eliminaron las restauraciones y quedaron cuatro clases: Caries, Deep Caries, Impacted y Periapical Lesion.

El conjunto Clean_Dental_v3 se compone de DENTEX (2585×1353), Tufts Dental Database (1 000 imágenes) y el repositorio Loki_Dental (13 932 archivos). La validación procede únicamente de DENTEX: según su reglamento, cada imagen corresponde a un paciente, así que no hay solapamiento entre train y val. Las bases externas se usaron exclusivamente para entrenar. La deduplicación por dHash eliminó 33 duplicados, y el filtro de proporciones y canales de color descartó 1 571 imágenes.

También se corrigieron dos errores del script de ensamblado. Antes, los recuadros grandes de Loki_Dental se convertían automáticamente en Deep Caries según su área (2 463 objetos), aunque la profundidad de una caries se determina por su cercanía a la cámara pulpar, no por su tamaño. Ahora Deep Caries son las 565 anotaciones de DENTEX, y todas las caries de Loki permanecen en la clase Caries (3 556 objetos).

Además, la lectura de Loki se interrumpía en el archivo 6 118 de 13 932 por un límite de 1 200 imágenes, y se perdía el 56% del archivo. La nueva selección en dos pasadas encontró 2 379 candidatos con focos periapicales y quistes. Las clases poco frecuentes se duplicaron en la lista de entrenamiento: 3 veces para las imágenes de DENTEX con Deep Caries y Periapical Lesion, y 2 veces para las imágenes periapicales de Tufts y Loki.

Dos etapas de entrenamiento y tres trucos fallidos

La primera etapa partió del yolov8l.pt preentrenado con todas las capas activas: 25 épocas en 23,9 minutos, con parada por EarlyStopping y el mejor resultado en la época 10. La segunda etapa duró 12 épocas y 5,4 minutos, con las 10 primeras capas del backbone congeladas, lr0=0,0001 y un peso algo mayor para la pérdida de clasificación (1,8 frente a 1,6). La depuración previa en una Tesla T4 en Colab llevó unas tres horas. Resultado por etapas: el mAP50 subió de 0,609 a 0,642 y el AP50 de focos periapicales, de 0,461 a 0,516. El tiempo por imagen en la A100 es de 5,8 ms.

También se probaron dos mejoras «gratuitas». El promediado lineal de los pesos de ambas etapas (Model Soup 50/50) dio una pequeña mejora en la T4 a 1024 px, pero a 1280 px redujo el mAP50 a 0,634. La precision en el punto de F1 máximo sí subió del 69,6% al 75,6%, y el tiempo por imagen aumentó a 7,3 ms.

Para la versión de producción se eligió el checkpoint limpio de la segunda etapa. El TTA multiescala de Ultralytics empeoró el resultado: la precision en Deep Caries cayó del 60,5% al 25,9% y en Periapical Lesion, del 39,2% al 20,3%, mientras que el tiempo por imagen en la T4 pasó de 54,5 a 128 ms. El autor lo atribuye a la inferencia sobre una copia reducida (0,83x) y a la fusión de recuadros de umbral bajo antes del NMS.

Esa hipótesis no se comprobó por separado.

El umbral único conf=0,50 se sustituyó por umbrales por clase, calculados a partir de las curvas F1-Confidence: Caries 0,23, Deep Caries 0,21, Impacted 0,56 y Periapical Lesion 0,26. Los umbrales son más altos para imágenes comprimidas de internet y más bajos para cribado.

Dónde falla el modelo y qué impide su uso clínico

La mejor clase es Impacted: F1 de 0,914, precision del 92,3% y recall del 90,6%. Los focos periapicales rinden peor: precision del 76,4%, pero recall de solo el 43,3%; es decir, se pasan por alto más de la mitad de los focos. Para un cribado, esto es relevante.

En las panorámicas de control, el modelo encontró todas las zonas anotadas en un caso y 5 de 6 en otro, pero no detectó una caries en un molar superior derecho. También añadió recuadros que no figuran en la anotación de DENTEX (dientes #48, #36, #25, #26). Sin una revisión ciega por radiólogos, no se puede saber si se trata de patologías omitidas o de falsos positivos.

Existe además un error sistemático: la numeración dental FDI se calcula a partir del centro del recuadro respecto a la línea y=0,52, de modo que una caries en un premolar superior recibió el número #45 en lugar de #15. El autor planea sustituir la fórmula por una segmentación independiente de los 32 dientes.

El propio autor señala las limitaciones prácticas. Las métricas se obtuvieron solo en DENTEX, y las clínicas rusas necesitarían una muestra de ortopantomógrafos nacionales. En imágenes comprimidas de mensajería (650×340–900×600), las caries pequeñas se detectan peor, por lo que la interfaz necesita un aviso de baja resolución. La conclusión principal para los profesionales es que, en un dataset médico pequeño, cuidar la anotación, aislar la validación y calibrar los umbrales aportó más que cambiar de arquitectura o recurrir a técnicas como el TTA y el promediado de pesos. Todo el entrenamiento cupo en media hora en una sola tarjeta.