Ingénierie IA
Des features IA qui survivent à la prod.
Je livre des intégrations LLM de bout en bout : retrieval, sorties structurées, évaluations, et toute l'infra ingrate qui les garde fiables. Python, FastAPI, Postgres, pgvector.
(01)Ce que vous obtenez
J'aide les équipes à transformer des idées LLM en fonctionnalités qui se livrent et qui tiennent. Pipelines RAG qui gèrent des données désordonnées, sorties structurées fiables, évaluations qui détectent les régressions, et l'observabilité qui vous dit quand un changement de prompt casse quelque chose.
- 01
Retrieval-augmented generation
Ingestion propre, recherche hybride (BM25 + vecteur), reranking, synthèse. Sourcé, citable, rapide.
- 02
Sorties structurées, pipelines typés
Schémas Pydantic / Zod, JSON-mode, function calling. Des sorties qu'on peut valider, router, stocker.
- 03
Développement piloté par les évaluations
Jeux d'éval ciblés, comparaisons par paires, gates en CI. Les changements de prompt ne partent que si les chiffres s'améliorent.
- 04
Observabilité et contrôle de coût
Tracing Langfuse / OpenTelemetry, budgets par feature, cache de prompts, dégradation gracieuse.
(02)Comment on travaille
- 01
Cadrer
Choisir la feature la plus étroite utile. Définir le succès avec un jeu d'éval livré avant le premier prompt.
- 02
Construire
Itérer sur prompts + retrieval contre le jeu d'éval. Boucles de feedback rapides, pas de tuning au feeling.
- 03
Intégrer
Service FastAPI, contrats typés, jobs idempotents, feature flags, et un rollback qui fonctionne.
- 04
Monitorer
Tracing, dashboards de coût, détection de drift, éval hebdomadaire. La surprise est l'ennemie.
(03)Stack et engagement
Python 3.12, FastAPI, Pydantic, OpenAI, Anthropic Claude, Postgres + pgvector, Qdrant, Langfuse
Missions typiques : PoC 2 semaines, build 6-12 semaines. Forfait ou TJM. Accès aux données et co-développement du jeu d'éval dès la semaine 1.
(04)Questions fréquentes
Faites-vous du fine-tuning ?
Rarement en premier recours. La plupart des problèmes 'on a besoin de fine-tuning' sont en fait des problèmes de retrieval, de prompt, ou de schéma déguisés. Quand c'est justifié, je fais du LoRA / QLoRA sur modèles ouverts ou utilise l'API de fine-tuning OpenAI, mais seulement après que les baselines prouvent que c'est le bon levier.
Pouvez-vous travailler avec nos données existantes ?
Oui. La plupart de mes projets impliquent d'ingérer des documents internes désordonnés, des tables de BDD, ou des données d'API dans un système de retrieval. Je suis à l'aise avec l'ETL, la conception de schéma, et le nettoyage qui rend vraiment les LLM utiles.
Comment choisissez-vous les modèles ?
Les évaluations décident. Je benchmark au moins 2-3 modèles par tâche sur vos données, note sur latence + coût + qualité, et route le trafic en conséquence. Défauts que je privilégie : Claude Sonnet pour le raisonnement, GPT-4o-mini pour la classification, modèles d'embedding par domaine.
Livrez-vous aussi le frontend ?
Je peux livrer l'API et un frontend React/Next.js minimal pour les PoC. Pour l'UI de production, je préfère m'associer avec votre équipe frontend et posséder le backend + la couche IA de bout en bout.
À quoi ressemble la fin d'une mission réussie ?
Un jeu d'éval documenté en CI, tracé dans Langfoe, avec des SLO clairs coût + latence, un rollback, et un rituel de revue hebdomadaire. Votre équipe peut livrer des changements de prompt en confiance après mon départ.