Ingénieur IA - Expert Infrastructure & Architecture IA Générative H/F - collectivite

Information importanteType de contrat: FreelanceTaux journalier : Salaire selon profilLocalisation : 78000 Versailles, FranceDate de démarrage :UrgentMode de travail : HybridePublié le : 6 juillet 2026Le besoinContexte de la missionAu sein d'une Direction des Infrastructures et des Opérations, vous aurez en charge l'intégration et le déploiement de nouvelles fonctionnalités sur une plateforme groupe, ainsi que la mise en place des composants d'infrastructure nécessaires aux usages d'IA générative (LLM, assistants, agents).Nous recherchons un prestataire expert disposant de compétences avérées en infrastructure, Kubernetes et architectures IA (AI Gateway, gestion des LLM, observabilité IA, sécurité) pour accompagner cette mission.ActivitésArchitecture & design IAConcevoir l'architecture d'infrastructure pour les usages IA (LLM, RAG, agents) en s'appuyant sur les standards du marché.Définir les patterns d'intégration de l'IA dans le SI (APIs, applications internes, outils collaboratifs) et les bonnes pratiques d'usage.Mise en place de l'infra IAConcevoir les composants d'infrastructure IA : routage multi-fournisseurs, policies, quotas, logging, contrôle des coûts.Intégrer des services IA cloud (ex. AWS Agentcore / frameworks d'agents, Bedrock ou équivalents, OpenAI / Azure OpenAI...) et exposer des endpoints métiers robustes.Mettre en place l'orchestration d'agents IA (outils, contextes, sécurité, monitoring).Kubernetes & industrialisation IAConcevoir et configurer les configurations Kubernetes pour les workloads IA (services d'orchestration, gateways, APIs).Structurer les pipelines CI/CD IA (tests, déploiement, configuration, feature flags, gestion des versions de modèles et de prompts).Observabilité, sécurité & gouvernance IAMettre en place l'observabilité IA : suivi de la qualité de service (latence, erreurs), consommation (tokens, coûts), usage par application/métier.Travailler avec les équipes Sécurité / Legal pour intégrer les exigences de gouvernance IA (données sensibles, journaux, rétention, conformité).Formaliser les standards d'architecture, de sécurité et d'usage de l'IA, et accompagner les équipes dans leur adoption.Environnement techniqueKubernetes, AWS, LLMCompétences requises (obligatoires)Expérience significative sur des plateformes IA en production (LLM, RAG, agents) à l'échelle entreprise.Maîtrise des patterns d'architecture pour l'IA générative : AI Gateway, orchestration d'agents, intégration multi-fournisseurs, gouvernance des modèles.Très bonne connaissance de Kubernetes et des architectures cloud natives pour héberger les briques IA.Pratique confirmée des services IA des hyperscalers (OpenAI / Azure OpenAI / AWS Bedrock ou équivalents) et de leur intégration dans un SI.Profil recherchéProfil recherchéExpérience professionnelle8 à 12 ans d'expérience minimum en infrastructure / cloud, dont une expérience significative (2 ans+) sur des projets IA générative en production à l'échelle entreprise.Expérience confirmée en tant qu'architecte infrastructure, DevOps/MLOps senior, ou architecte cloud, idéalement avec une spécialisation récente sur les plateformes IA (LLM/GenAI).Références concrètes sur la mise en place d'un AI Gateway, d'une plateforme d'orchestration d'agents, ou d'une infrastructure LLM en production (pas uniquement en POC).Compétences techniques clésKubernetes : conception, configuration et exploitation avancées (Helm, opérateurs, autoscaling, networking, RBAC) sur des workloads critiques.Cloud AWS : maîtrise des services coeur (EKS, IAM, VPC, networking) et des services IA (Bedrock, Agentcore ou équivalents).Architectures IA générative :Patterns AI Gateway (routage multi-fournisseurs, quotas, policies, contrôle des coûts).Orchestration d'agents (frameworks type LangChain, LlamaIndex, AutoGen, ou solutions propriétaires des hyperscalers).Intégration de LLM (OpenAI, Azure OpenAI, AWS Bedrock ou équivalents) via API dans un SI existant.Notions solides de RAG (retrieval augmented generation) et de gestion des embeddings/vector stores.CI/CD & industrialisation : pipelines pour workloads IA (gestion de versions de modèles/prompts, feature flags, tests automatisés).Observabilité : mise en place de monitoring spécifique IA (latence, taux d'erreur, consommation de tokens, coûts) avec des outils type Prometheus/Grafana, Datadog, ou solutions dédiées à l'observabilité LLM (LangSmith, Langfuse, etc.).Sécurité & gouvernance IA : sensibilité aux enjeux de sécurité des données, conformité, gestion des logs et rétention, notions de gouvernance des modèles.

• Contrôle des coûts
• API
• Intelligence artificielle
• Kubernetes
• Routage
• AWS