Medyx
Laboratoire actif — recherche en cours
Dossier technique — 2026-07-12

Un LLM médical entraîné from scratch sur le vocabulaire clinique français.

Avant d'investir dans un entraînement à l'échelle, nous avons testé l'hypothèse la plus simple : un tokenizer entraîné sur corpus médical français segmente-t-il vraiment mieux le vocabulaire clinique qu'un modèle généraliste ? Résultat mesuré : -32% de tokens nécessaires face au tokenizer Mistral actuel, -21% face à GPT-5.6. Chaque étape est publiée avec les chiffres, pas seulement les promesses.

Phase 1Tokenizer médical — terminée
Phase 1.5Corpus — 32 534 documents tiérés
Phase 2Pré-entraînement — en scoping
01

Notre approche

Publier les chiffres avant de lever les fonds.
01

From scratch, pas un fine-tune

Poids initialisés aléatoirement, jamais empruntés à un modèle existant. Un vrai modèle propriétaire, pas une couche ajoutée sur les poids de quelqu'un d'autre.

02

Zéro contamination

Aucune donnée d'entraînement générée par un LLM propriétaire. Le format règle → cas → résultat vient mécaniquement du texte réglementaire réel, jamais d'une génération synthétique.

03

Sources publiques, zéro donnée patient

BDPM, PubMed FR, NCBI Bookshelf, recherche ouverte. Méthodologie et code reproductibles de bout en bout, sans jamais toucher une donnée patient réelle.

04

Vérifié, pas estimé

Chaque nombre publié vient d'une exécution réelle sur données réelles — jamais une projection, jamais un chiffre marketing.

02

La preuve, chiffrée

Avant d'investir dans un entraînement à l'échelle, nous avons validé l'hypothèse centrale : un tokenizer entraîné sur corpus médical français segmente-t-il réellement mieux le vocabulaire médical qu'un tokenizer généraliste ?

Fertility — tokens nécessaires par mot (corpus médical réel)
Plus bas = plus efficace. Vérifié contre les modèles réellement actuels au 12 juillet 2026.
Tokenizer Medyx
1.325
GPT-4o / GPT-5.6
1.686
GPT-4
1.858
Mistral actuel (2026)
1.938
Mistral (2024)
2.221
Métrique : fertility = tokens / mot, agrégée sur 3 254 documents médicaux réels (fiches RCP complètes, littérature PubMed FR, recherche frontière). Méthodologie et code source reproductibles de bout en bout — aucune donnée patient utilisée.
-32%
vs. tokenizer Mistral actuel
(Small 4, mars 2026)
-21%
vs. GPT-5.6
(sorti le 09/07/2026)
32 534
documents médicaux
tagués par ontologie
03

La méthode

Trois piliers, chacun documenté et reproductible.

A —

Tokenizer spécialisé, sources 100% publiques

BDPM, PubMed FR, NCBI Bookshelf, recherche ouverte — zéro donnée patient. Vocabulaire optimisé empiriquement (32k→50k), pas deviné.

Phase 1 — terminée
B —

Curriculum ancré sur ontologies biomédicales

Cell Ontology, UBERON, MeSH — 21 287 concepts réels pour hiérarchiser le corpus, du fondamental à la recherche de pointe.

Phase 1.5 — terminée
C —

Format règle → cas → résultat

Chaque fiche RCP découpée mécaniquement selon sa structure réglementaire. Aucune donnée générée par un LLM propriétaire.

Prêt pour Phase 2
04

Le contexte réglementaire

Au-delà de la performance technique mesurée ci-dessus, le calendrier joue en notre faveur.

Conformité

La réglementation HDS interdit déjà à OpenAI et Anthropic d'héberger des données patients françaises — un blocage réglementaire, pas technique.

Marché

Éditeurs de DPI, RCM et logiciels de codage médical : une infrastructure IA à licencier, pas un produit grand public de plus.

05

Feuille de route

Deux paliers. Le premier valide l'approche à faible coût ; le second est le livrable réel.

01Palier 1 — validation

~200M paramètres

  • ~4 milliards de tokens, ratio Chinchilla
  • Architecture Llama/Mistral, initialisation aléatoire
  • Pipeline de données et d'entraînement déjà construits et testés
  • Objectif : signal go/no-go avant le palier 2
02Palier 2 — le livrable

1–3 milliards de paramètres

  • 20–60 milliards de tokens
  • Financement visé : Bpifrance amorçage puis EIC Accelerator
  • Calcul : GENCI/Jean Zay, crédits startup (NVIDIA, OVHcloud, Scaleway)
  • Poids entraînés from scratch — pas un fine-tune sur un modèle emprunté
06

Demander une démonstration

Le tokenizer et le pipeline de données sont réels et fonctionnels dès aujourd'hui — pas des slides. Le modèle entraîné (Palier 1) sera disponible pour démonstration une fois l'entraînement réel terminé.

Ce qu'on peut vous montrer maintenant

  • Comparaison live du tokenizer sur vos propres textes médicaux
  • Le pipeline de curriculum ontologique (Cell Ontology, UBERON, MeSH)
  • Le code et la méthodologie complète, reproductibles de bout en bout
Demander une démo