Ingénierie de données diagnostiques — test moléculaire de la tuberculose (GeneXpert MTB/RIF)

ETL des résultats GeneXpert MTB/RIF et analyse des tests groupés

transformer des exports d'appareils désordonnés et multi-encodages en un jeu de résultats propre et prêt à l'analyse

A GeneXpert instrument beside its results software — the raw exports behind the ETL pipeline.
L'appareil GeneXpert et son logiciel de résultats — environ 1 700 fichiers bruts par série transformés en une seule table de résultats propre.

Les appareils de test moléculaire GeneXpert de dix-sept laboratoires camerounais exportent des fichiers CSV bruts qui varient selon la langue et l'encodage des caractères, alimentant plusieurs études de recherche sur la TB et un manuscrit sur l'efficacité diagnostique.

Le problème

Les exports bruts variaient selon la langue de la machine (anglais/français) et l'encodage (UTF-16-LE, UTF-8-SIG, windows-1252, latin-1), les identifiants d'étude étaient malformés ou saisis à la main, les tests groupés produisaient des doublons, et les tests à cheval sur minuit donnaient des durées négatives invalides.

Ce que j'ai fait

J'ai construit un parseur haute performance doté d'une cascade d'encodage (BOM puis chardet) et d'un pool de processus qui bascule automatiquement en mode streaming au-delà de dix mille fichiers, puis une couche de nettoyage qui applique plus de 200 correspondances français→anglais, extrait les identifiants d'étude par expressions régulières propres à chaque projet, corrige les passages de minuit et résout les cartouches groupées en prélèvements individuels.

1,721 files
Analysés par exécution planifiée
133,556 rows
Jeu de résultats consolidé
17 labs
Laboratoires consolidés
77.5 / 84.3 min
Délai médian de résultat (pos/nég)
ETL pipelineGeneXpert / TB diagnosticsencoding detectionPython / Polarspooled testingbiostatistics
Résultat

Une seule exécution automatisée consolide 1 721 exports bruts d'appareils en un jeu de données de 133 556 lignes prêt à l'analyse, et une analyse des tests groupés sur 14 404 pools a quantifié les situations où le regroupement économise des cartouches sans manquer de cas.

DISCUTONS

Prêt à commencer ?

Parlez-moi de votre projet, question ou objectif. Je réponds sous 24 heures, en anglais ou en français.

Me contacter