Main Page: Difference between revisions

From Essential
Jump to navigation Jump to search
No edit summary
(ajout trending 2026-09-23)
 
(365 intermediate revisions by the same user not shown)
Line 32: Line 32:


== Vue d’ensemble ==
== Vue d’ensemble ==
* [[File:Ailab-architecture.png|thumb|'''Infra architecture overview''']]
[[File:Ailab-architecture.png|thumb|'''Infra architecture overview''']]
 
----


= Démarrer rapidement =
= Démarrer rapidement =
Line 41: Line 39:


; 1. Construire un assistant IA privé
; 1. Construire un assistant IA privé
* Déployer une stack type '''Open WebUI + Ollama + GPU'''
* Déployer une stack type '''Hermes WebUI + Ollama + GPU'''
* Ajouter un modèle de chat et un modèle de résumé
* Ajouter un modèle de chat et un modèle de résumé
* Brancher des données internes via '''RAG + embeddings'''
* Brancher des données internes via '''RAG + embeddings'''
Line 73: Line 71:
* les déploiements sont industrialisés,
* les déploiements sont industrialisés,
* l’infrastructure reste '''compréhensible, portable et réutilisable'''.
* l’infrastructure reste '''compréhensible, portable et réutilisable'''.
Chaque sortie IA est mesurée en temps réel, les modèles faibles sont remplacés automatiquement, et les tâches sans valeur sont coupées. L'autonomie vient de mécanismes techniques qui fonctionnent quand personne ne regarde — pas de règles écrites dans un doc.


[[File:SUMMARY-DIAGRAM-7311e6b1-aede-4989-ade2-a42d1a6e0ff2.png|thumb|right|Main page summary]]
[[File:SUMMARY-DIAGRAM-7311e6b1-aede-4989-ade2-a42d1a6e0ff2.png|thumb|right|Main page summary]]
Line 82: Line 82:
{| class="wikitable"
{| class="wikitable"
|+ Services principaux
|+ Services principaux
! Catégorie !! Service !! Lien !! Rôle
! Catégorie !! Service !! Rôle
|-
|-
| API || LLM || [https://api.ailab.infocepo.com:wait-2026-06 API LLM] || Modèles de chat, code, RAG, OCR
| API || [https://api-nothink.ailab.infocepo.com/docs LLM] || Modèles de chat, code, RAG, OCR
|-
|-
| API || STT || [https://api-audio2txt.ailab.infocepo.com/docs API STT] || Transcription audio
| API || [https://api-audio2txt.ailab.infocepo.com/docs STT] || Transcription audio
|-
|-
| API || TTS || [https://api-txt2audio.ailab.infocepo.com/docs API TTS] || Synthèse vocale
| API || [https://api-tts-omnivoice.ailab.infocepo.com/docs TTS] || Synthèse vocale
|-
|-
| API || Realtime AI || [https://github.com/ynotopec/api-realtime-ai api-realtime-ai] || Temps réel WebSocket / WebRTC
| API || [https://github.com/ynotopec/api-realtime-ai realtime-ai] || Temps réel WebSocket / WebRTC
|-
|-
| API || Image to Text || [https://api.ailab.infocepo.com:wait-2026-06 API LLM] || OCR / VLM via endpoint dédié
| API || [https://api-nothink.ailab.infocepo.com/docs IMAGE2TXT] || OCR / VLM via endpoint dédié
|-
|-
| API || Summary || [https://api-summary.ailab.infocepo.com:wait-2026-06/docs API Summary] || Résumé de textes longs
| API || [https://api-summary.ailab.infocepo.com:wait-2026-12/docs summary] || Résumé de textes longs
|-
|-
| API || Text Embeddings || [https://text-embeddings.ailab.infocepo.com:wait-2026-06/docs Text Embeddings] || Embeddings pour RAG
| API || [https://api-embedding.ailab.infocepo.com/docs EMBEDDINGS] || Embeddings pour RAG
|-
|-
| API || ChromaDB || [https://chromadb.ailab.infocepo.com:wait-2026-06 ChromaDB] || Base vecteur
| API || [https://chromadb.ailab.infocepo.com:wait-2026-12 ChromaDB] || Base vecteur
|-
|-
| API || Text to Image || [https://api-txt2image.ailab.infocepo.com/docs TXT2IMAGE] || Génération d’images
| API || [https://api-txt2image.ailab.infocepo.com/docs TXT2IMAGE] || Génération d’images
|-
|-
| API || Diarization || [https://api-diarization.ailab.infocepo.com/docs Diarization] || Segmentation locuteurs
| API || [https://api-diarization.ailab.infocepo.com/docs diarization] || Segmentation locuteurs
|-
|-
| Observabilité || Monitoring || [https://grafana.ailab.infocepo.com:wait-2026-06 Grafana] || Dashboards techniques
| Observabilité || [https://grafana.ailab.infocepo.com:wait-2026-12 monitoring] || Dashboards techniques
|-
|-
| Observabilité || Status || [https://uptime-kuma.ailab.infocepo.com:wait-2026-06/status/ai Uptime Kuma] || Disponibilité des services
| Observabilité || [https://uptime-kuma.ailab.infocepo.com:wait-2026-12/status/ai status] || Disponibilité des services
|-
|-
| Observabilité || Web stats || [https://web-stat.c1.ailab.infocepo.com:wait-2026-06 Web Stat] || Statistiques web
| Observabilité || [https://web-stat.c1.ailab.infocepo.com:wait-2026-12 web-stat] || Statistiques web
|-
|-
| Observabilité || LLM stats || [https://api.ailab.infocepo.com:wait-2026-06/ui LLM Stat] || Vue API / usage
| Observabilité || [https://api.ailab.infocepo.com:wait-2026-09/ui LLM-stat] || Vue API / usage
|-
|-
| Outils || DataLab || [https://datalab.ailab.infocepo.com:wait-2026-06 DataLab] || Environnement de travail hors-production
| Outils || [https://datalab.ailab.infocepo.com:wait-2026-12 dataLab] || Environnement de travail hors-production
|-
|-
| Outils || Translation UI || [https://translate-rt.ailab.infocepo.com Translation] || Traduction
| Outils || [https://translate-rt.ailab.infocepo.com realtime translation] || Traduction
|-
|-
| Outils || Demos || [https://demos.ailab.infocepo.com Demos] || Démonstrateurs
| Outils || [https://demos.ailab.infocepo.com Demos] || Démonstrateurs
|}
|}


----
----
= Sélection AI & architecture par couche =
Le tableau de bord [https://ai.arch.infocepo.com '''Sélection AI'''] présente l'architecture par couche des modèles IA déployés :
{| class="wikitable"
! Couche !! Modèle !! Alias(s) !! Taille
|-
| rowspan="7" style="text-align:center; vertical-align:middle; background:#f0f0f0;"| '''HYBRID-CLOUD'''
| '''Qwen3.6-35B''' || flash, default, thinking, vision || Option 1, 35B MoE / 3B actif
|-
| '''Qwen3.8-Flash-Next''' || flash, default, thinking, vision, max || Option 2, 125B MoE, 51B n-grames internes, 6B actif, 1M contexte
|-
| '''MiniMax-H3''' || video || 33B dense
|-
| '''BGE-M3''' || embedding || 568M
|-
| '''BGE-reranker-v2-m3''' || reranker || 568M
|-
| '''FLUX.2-klein-4B''' || image || 4B
|-
| '''GLiNER2.5-Multi-V1''' || privacy || 287M, mDeBERTa-v3-base — privacy filter: [https://api-llm-privacy-proxy-gliner2.infocepo.com api-llm-privacy-proxy-gliner2]
|-
| '''Public-Cloud''' || '''GLM-5.3-Flash''' || max || 320B MoE / 18B actif — 1M contexte, multimodal
|-
| rowspan="2" style="text-align:center; vertical-align:middle; background:#f0f0f0;"| '''LOCAL'''
| '''Qwen3.5-9B''' || flash, default, thinking, vision || Option 1, 9B dense
|-
| '''Qwen3.8-27B''' || flash, default, thinking, vision, max || Option 2, 27B dense
|}
== Frameworks ==
{| class="wikitable"
! Outil !! Usage
|-
| '''Hermes''' || Usage général, raisonnement
|-
| '''OpenCode''' || DevSecOps
|-
| '''Kilo Code''' || Développement pur
|}
== Mémoire ==
Pour la couche d'embedding vectoriel (RAG, mémoire sémantique) :
* '''BGE-M3''' — 568M paramètres, architecture XLM-RoBERTa. Multi-fonction (dense + sparse + multi-vector), 100+ langues, licence MIT. Idéal comme moteur de mémoire à échelle.


= Nouveautés =
= Nouveautés =


== Nouveautés 21/03/2026 ==
== Nouveautés implémentés ==
* Ajout de '''nemotron-cascade-2''' : modèle open 30B MoE NVIDIA orienté raisonnement et tâches agentiques.
* [https://github.com/ynotopec/api-txt2image '''api-txt2image'''] (2026-09-20) : Text-to-image generation API for AI-powered image creation
* Ajout de [https://github.com/sst/opencode '''opencode'''] : CLI coder à comparer avec Aider / OpenHands.
* [https://github.com/ynotopec/api-rag '''api-rag'''] (2026-09-19) : RAG API — semantic search over knowledge bases with retrieval-augmented generation
* Ajout de [https://localai.ailab.infocepo.com:wait-2026-06 '''localai'''] : infrastructure locale unifiée pour STT / TTS / LLM.
* [https://github.com/ynotopec/gouv-fr-code-package-mi '''gouv-fr-code-package-mi'''] (2026-09-19) : gouv-fr-code-package-mi
* DGX Spark : architecture CPU ARM.
* [https://github.com/ynotopec/agent-saas '''agent-saas'''] (2026-09-17) : SaaS AI agent platform — deploy autonomous AI agents as a service
* Ajout de '''qwen3.5''' : famille de modèles open source multimodaux.
* [https://github.com/ynotopec/api-llm-privacy-proxy-gliner2-5 '''api-llm-privacy-proxy-gliner2-5'''] (2026-09-16) : api-llm-privacy-proxy-gliner2-5
* Ajout de [https://github.com/ynotopec/api-convert2md '''api-convert2md'''] : extraction de tableaux pour RAG compatible Open WebUI.
* [https://github.com/ynotopec/qwen36-sglang '''qwen36-sglang'''] (2026-09-15) : Qwen 3.6 deployment with SGLang for high-performance inference
* Mise à jour des paramètres '''RAG optimisation'''.
* [https://github.com/ynotopec/omnivoice-tts '''omnivoice-tts'''] (2026-09-13) : omnivoice-tts
* Ajout de [https://github.com/ynotopec/coder-brain/blob/main/first-architecture.md '''experimental brains'''].
* [https://github.com/ynotopec/api-llm-privacy-proxy-gliner2 '''api-llm-privacy-proxy-gliner2'''] (2026-09-10) : GLiNER2-powered LLM privacy proxy for named entity detection and filtering
* Ajout de [https://github.com/ynotopec/legal-agent '''legal-agent'''].
* [https://github.com/ynotopec/tricoteuses-k8s '''tricoteuses-k8s'''] (2026-09-08) : Kubernetes deployment for tricoteuses-juridique
* Ajout de [https://github.com/ynotopec/ai-security '''ai-security'''].
* [https://github.com/ynotopec/dashboard-superset-mcp '''dashboard-superset-mcp'''] (2026-09-03) : Automate Apache Superset dashboard creation via MCP server 6.1.0+
* Ajout de [https://langextract.ailab.infocepo.com '''langextract'''] : démo extraction d’entités.
* [https://github.com/ynotopec/superset-k8s '''superset-k8s'''] (2026-09-01) : superset-k8s
* Ajout de [https://sam-audio.c1.ailab.infocepo.com:wait-2026-06 '''sam-audio'''] : séparation audio sémantique.
* [https://github.com/ynotopec/dind-build '''dind-build'''] (2026-08-31) : Docker-in-Docker build factory on Kubernetes — build, push, pull via K8s DinD pod
* Ajout de '''glm-4.7-flash''' : modèle 30B léger orienté performance / efficacité.
* [https://github.com/ynotopec/quality-gate '''quality-gate'''] (2026-08-28) : quality-gate
* Ajout de '''API Realtime''' : WebRTC / WebSocket bidirectionnel basse latence.
* [https://github.com/ynotopec/api-convert2md '''api-convert2md'''] (2026-08-26) : Document-to-Markdown conversion API — clean markdown from various formats
* Ajout de '''gpt-oss''' : modèles open-weight conçus pour raisonnement et tâches agentiques.
* [https://github.com/ynotopec/trafilatura-local '''trafilatura-local'''] (2026-08-23) : trafilatura-local
* [https://github.com/ynotopec/models-todo '''models-todo'''] (2026-08-19) : models-todo
* [https://github.com/ynotopec/minimax-music3 '''minimax-music3'''] (2026-08-18) : minimax-music3
* [https://github.com/ynotopec/hermes-img-gen-infocepo '''hermes-img-gen-infocepo'''] (2026-08-15) : hermes-img-gen-infocepo
* [https://github.com/ynotopec/api-llm-custom '''api-llm-custom'''] (2026-08-13) : Custom LLM proxy API — route requests to any language model backend
* [https://github.com/ynotopec/infocepo-infra-mcp '''infocepo-infra-mcp'''] (2026-08-12) : infocepo-infra-mcp
* [https://github.com/ynotopec/api-mcp-openai '''api-mcp-openai'''] (2026-08-11) : AI MCP OpenAI Integration
* [https://github.com/ynotopec/api-embedding '''api-embedding'''] (2026-08-07) : Text embedding API — convert text to vector embeddings for semantic search
* [https://github.com/ynotopec/api-reranker '''api-reranker'''] (2026-08-06) : Cross-encoder reranking API for improving search retrieval quality
* [https://github.com/ynotopec/nemotron-embed '''nemotron-embed'''] (2026-07-31) : nemotron-embed
* [https://github.com/ynotopec/coder-brain '''coder-brain'''] (2026-07-28) : AI-powered code analysis and generation engine
* [https://github.com/ynotopec/translate-rt '''translate-rt'''] (2026-07-28) : Real-time translation API — multilingual translation with low latency
=== Top tasks ===
* [https://github.com/Significant-Gravitas/AutoGPT '''AutoGPT'''] (2026-09-21) : AutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mission is to provide the tools, so that you can focus on what matters. (187k⭐)
* [https://github.com/labring/FastGPT '''FastGPT'''] (2026-09-21) : FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities ... (29k⭐)
* [https://github.com/Tencent/WeKnora '''WeKnora'''] (2026-09-21) : Open-source LLM knowledge platform: turn raw documents into a queryable RAG, an autonomous reasoning agent, and sel... (28k⭐)


----
* [https://github.com/NousResearch/hermes-agent '''hermes-agent'''] (2026-09-15) : The agent that grows with you (245k⭐)
* [https://github.com/ggml-org/llama.cpp '''llama.cpp'''] (2026-09-15) : LLM inference in C/C++ (128k⭐)
* [https://github.com/supabase/supabase '''supabase'''] (2026-09-15) : The Postgres development platform. Supabase gives you a dedicated Postgres database to build your... (109k⭐)
* [https://github.com/BerriAI/litellm '''litellm'''] (2026-09-13) : Passerelle AI qui appelle 100+ APIs LLM. Rust core avec SDK Python. (58k⭐)
* [https://github.com/CherryHQ/cherry-studio '''cherry-studio'''] (2026-09-13) : Studio de productivité IA avec chat intelligent, agents autonomes et 300+ assistants. (51k⭐)
* [https://github.com/ruvnet/ruflo '''ruflo'''] (2026-09-13) : Harnais d'agents intelligent multi-joueurs. Déployer des essaims coordonnés avec mémoire locale. (72k⭐)
 
* [https://github.com/openclaw/openclaw '''openclaw'''] (2026-09-12) : Plateforme IA autonome multi-plateforme. Tout système d'exploitation. (389k⭐)
* [https://github.com/affaan-m/ECC '''ECC'''] (2026-09-12) : Optimisation performance agents IA - compétences, mémoire, sécurité. (256k⭐)
* [https://github.com/tt-a1i/archify '''archify'''] (2026-09-11) : Agent skill for architecture, workflow, data-flow, and lifecycle diagrams — self-contained HTML with motion and crisp export. (58k⭐, 12k/semaine)
* [https://github.com/mksglu/context-mode '''context-mode'''] (2026-09-11) : Context window optimization for AI coding agents. Sandboxes tool output, persists session memory, enforces routing via MCP. (22k⭐, 1.6k/semaine)
* [https://github.com/openai/plugins '''plugins'''] (2026-09-11) : OpenAI Plugins — plugin ecosystem for OpenAI models. (6k⭐, 1k/semaine)
* [https://github.com/microsoft/markitdown '''markitdown'''] (2026-09-11) : Conversion fichiers et documents bureautiques vers Markdown — pipeline de données pour pipelines IA. (182k⭐, 4.5k/semaine)
* [https://github.com/ayghri/i-have-adhd '''i-have-adhd'''] (2026-09-11) : Agent skill pour sortie ADHD-friendly — formatage clair et direct des réponses d'agents IA. (38k⭐, 10k/semaine)
* [https://github.com/cathrynlavery/diagram-design '''diagram-design'''] (2026-09-11) : 38 types de diagrammes éditoriaux pour agents de codage (Claude, Codex, Pi). HTML + SVG auto-contenu. (37k⭐, 7k/semaine)
* [https://github.com/anthropics/skills '''skills'''] (2026-09-11) : Repository public officiel des compétences d'agents Anthropic. (175k⭐, 2.2k/semaine)
* [https://github.com/microsoft/presidio '''Presidio'''] : anonymisation / masquage PII, socle RGPD obligatoire.
* [https://github.com/temporalio/temporal '''Temporal'''] : orchestration de workflows critiques et fiables.
* [https://github.com/diegosouzapw/OmniRoute '''OmniRoute'''] : passerelle IA unifiée, auto-fallback, compression de tokens.
* [https://github.com/NVIDIA-NeMo/Guardrails '''NeMo Guardrails'''] : garde-fous et politiques de sécurité IA.
* [https://github.com/langfuse/langfuse '''Langfuse'''] : observabilité, evals et metrics pour pipelines IA.
* [https://github.com/vllm-project/LMCache '''LMCache'''] : couche KV cache ultra-rapide, latence d'inférence réduite.
* [https://github.com/meshery/meshery '''Meshery'''] : gestion cloud native multi-cluster, observabilité.
* [https://github.com/VectifyAI/PageIndex '''PageIndex'''] : RAG vectorless à raisonnement, alternative aux embeddings.
* '''Coût unitaire par tâche''' : chaque API doit exposer son prix/ml/token en temps réel — pas une facture mensuelle.
* '''Qualité auto''' : précision/hallucination rate branchés sur les sorties IA, avec rollback automatique si qualité < seuil.
 
* [https://github.com/unslothai/unsloth '''unsloth'''] (2026-09-14) : Interface locale pour exécuter et entraîner des LLMs et modèles de diffusion. Optimisation d'inférence. (76k⭐)
* [https://github.com/Douf00/RAGFlow '''ragflow'''] (2026-09-14) : Système RAG open-source avancé pour la génération augmentée par la récupération. (90k⭐)
* [https://github.com/All-Hands-AI/OpenHands '''OpenHands'''] (2026-09-14) : Développement piloté par IA — agent autonome qui code, debug et itère. (87k⭐)
 
* [https://github.com/ClickHouse/ClickHouse '''ClickHouse'''] (2026-09-16) : Base de données analytique temps réel. (49k⭐)
* [https://github.com/volcengine/OpenViking '''OpenViking'''] (2026-09-16) : Base de contexte auto-évolutive pour agents IA. Mémoire, RAG et compétences unifiés. (37k⭐)
* [https://github.com/Mintplex-Labs/anything-llm '''anything-llm'''] (2026-09-16) : Plateforme LLM locale tout-en-un. Vector store, RAG, et assistants autonomes. (66k⭐)
* [https://github.com/livekit/livekit '''livekit'''] (2026-09-17) : End-to-end realtime stack for connecting humans and AI (21.0k⭐)
* [https://github.com/infiniflow/ragflow '''ragflow'''] (2026-09-17) : RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent c... (90.8k⭐)
* [https://github.com/alibaba/open-code-review '''open-code-review'''] (2026-09-17) : Fast, efficient, battle-tested at Alibaba's scale. Hybrid architecture code review tool: deterministic pipelines + LL... (32.4k⭐)
* [https://github.com/danny-avila/LibreChat '''LibreChat'''] (2026-09-18) : Enhanced ChatGPT Clone: Features Agents, MCP, Skills, DeepSeek, Anthropic, AWS, OpenAI, Responses API, Azure, Groq, o1, GPT-5, Mistral, OpenRouter, Vertex AI, Gemini, Artifacts, AI model switching, message search, Code Interpreter, langchain, DALL-E-3, OpenAPI Actions, Functions, Secure Multi-User Auth, Presets, open-source for self-hosting. Active (44k⭐)
* [https://github.com/jumpserver/jumpserver '''jumpserver'''] (2026-09-18) : JumpServer is an Open-source Privileged Access Management (PAM) platform with AI-powered capabilities, providing DevOps and IT teams a unified workspace to securely access SSH, RDP, Kubernetes, databases, websites, RemoteApp, VirtualApp, and more. (32k⭐)
* [https://github.com/mastra-ai/mastra '''mastra'''] (2026-09-18) : Mastra is the modern TypeScript framework for AI-powered applications and agents. (28k⭐)
* [https://github.com/bytedance/deer-flow '''deer-flow'''] (2026-09-20) : An open-source long-horizon SuperAgent harness that researches, codes, and creat (82.7k⭐)
* [https://github.com/esengine/DeepSeek-Reasonix '''DeepSeek-Reasonix'''] (2026-09-20) : DeepSeek-native AI coding agent for your terminal. Engineered around prefix-cach (35.6k⭐)
* [https://github.com/zeroclaw-labs/zeroclaw '''zeroclaw'''] (2026-09-20) : Fast, small, and fully autonomous AI personal assistant infrastructure, any OS,  (32.8k⭐)
 
* [https://github.com/vllm-project/vllm '''vllm'''] (2026-09-23) : High-throughput LLM inference engine — 92.5k⭐
* [https://github.com/promptfoo/promptfoo '''promptfoo'''] (2026-09-23) : AI testing, red teaming & pentesting for prompts, agents, and RAGs — 25.4k⭐
* [https://github.com/elizaOS/eliza '''eliza'''] (2026-09-23) : Open source agentic operating system — 19.4k⭐
=== Backlog / Veille Technologique ===
 
=== Agents IA & Orchestration ===
 
* [https://github.com/langchain-ai/langchain '''LangChain'''] : Framework pour applications basées sur les LLM. Le plus mature. (145k⭐).
* [https://github.com/langgenius/dify '''Dify'''] : Plateforme de développement d'applications IA (LLM Ops). Déployable en self-host. (154k⭐).
* [https://github.com/browser-use/browser-use '''browser-use'''] : Framework pour contrôler les navigateurs via des agents IA. (112k⭐).
* [https://github.com/vllm-project/vllm '''vllm'''] : Moteur d'inférence haute performance pour LLMs. (91k⭐).
* [https://github.com/open-webui/open-webui '''open-webui'''] : Interface web IA (Ollama, OpenAI API, MCP). (151k⭐).
* [https://github.com/ollama/ollama '''ollama'''] : Get up and running with Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models. (180k⭐).
* [https://github.com/n8n-io/n8n '''n8n'''] : Fair-code workflow automation with native AI. 400+ intégrations. (203k⭐).
* [https://github.com/milvus-io/milvus '''milvus'''] : Base de données vectorielle haute performance. (46k⭐).
* [https://github.com/qdrant/qdrant '''qdrant'''] : Vector database haute performance. (34k⭐).
* [https://github.com/minimax-ai/Minimax-Text-01 '''Minimax-Text-01'''] : Modèle LLM open-source Minimax.
 
=== Audio & TTS ===
* [https://github.com/SYSTRAN/faster-whisper '''faster-whisper (mutualisé)'''] — Transcription speech-to-text optimisée.
* [https://huggingface.co/Qwen/Qwen3-Omni-30B-A3B-Instruct '''Qwen3-Omni-30B-A3B-Instruct'''] — Modèle multimodal Qwen (audio + texte + image).
 
=== Génération & Édition d'Images ===
* [https://github.com/Comfy-Org/ComfyUI '''ComfyUI''' ] : GUI et backend diffusion model le plus modulaire. (131k⭐)
 
=== RAG & Traitement de Documents ===
 
* [https://github.com/firecrawl/firecrawl '''firecrawl'''] : API web contextuelle pour search, scrape et interaction. (178k⭐).
* [https://github.com/paperless-ngx/paperless-ngx '''paperless-ngx'''] : Document management : scan, index, archive. ML, OCR. (45k⭐).
* [https://github.com/graphify-labs/graphify '''graphify'''] : Transforme codebase en graphe de connaissances interrogeable. (115k⭐).
* [https://github.com/HKUDS/LightRAG '''LightRAG'''] : RAG simple et rapide. (39k⭐).
* [https://github.com/microsoft/graphrag '''graphrag'''] : RAG modulaire basé sur les graphes. (35k⭐).
* [https://github.com/headroomlabs-ai/headroom '''headroom'''] : Compress tool outputs, logs, files et RAG chunks. 20-95% token savings. (69k⭐).
* [https://github.com/mem0ai/mem0 '''Mem0'''] : — Mémorie à long terme pour agents IA. (64k⭐).


= Priorités =
=== APIs à Développer ===
* '''Classificateur IA''' — Classification de contenu.
* '''Résumé mutualisé''' — API de résumé de texte partagée.
* '''NER''' — Reconnaissance d'entités nommées.
* '''Compressor''' — Compression de contenu.


== Top tasks ==
=== Infrastructure & Backend ===
* Ajouter [https://github.com/microsoft/presidio '''Presidio'''] : anonymisation / masquage PII, socle RGPD.
* [https://github.com/vllm-project/semantic-router '''Semantic Router'''] — Routage sémantique de requêtes vLLM.
* Ajouter [https://github.com/sgl-project/sglang '''SGLang'''] : serving LLM haute performance.
* Ajouter [https://github.com/llm-d/llm-d '''llm-d'''] : blueprints + charts Kubernetes pour industrialiser les déploiements.
* Ajouter [https://github.com/ai-dynamo/dynamo '''Dynamo'''] : orchestration inférence multi-nœuds.
* Ajouter [https://github.com/vllm-project/guidellm '''GuideLLM'''] : capacity planning / benchmark réaliste.
* Ajouter [https://github.com/NVIDIA-NeMo/Guardrails '''NeMo Guardrails'''] : garde-fous et politiques.


== Backlog / veille ==
=== Outils Dev ===
* OPENRAG > implement / evaluate / add OIDC
* [https://github.com/Aider-AI/aider '''Aider'''] — Assistant de codage IA en ligne de commande.
* short audio transcription
* [https://github.com/continuedev/continue '''Continue'''] — Extension IDE IA (VS Code, JetBrains). (35k⭐)
* translation latency > [https://github.com/ynotopec/api-realtime-ai api-realtime-ai]
* RAG sur PDF avec images
* compatibilité Open WebUI avec Agentic RAG
* scalability
* security > [https://github.com/ynotopec/ai-security ai-security] / [https://github.com/NVIDIA-NeMo/Guardrails NeMo Guardrails]
* [https://github.com/openclaw/openclaw openclaw]
* faster-whisper mutualisé
* API classificateur IA
* API résumé mutualisée
* API KV (LDAP user / group)
* API NER
* parsing structuré docs : granite-docling + meilisearch
* Temporal pour workflows critiques
* [https://github.com/appwrite/appwrite appwrite]
* [https://github.com/vllm-project/semantic-router semantic-router]
* [https://github.com/KeygraphHQ/shannon Shannon]
* [https://huggingface.co/Qwen/Qwen3-ASR-1.7B Qwen3-ASR-1.7B]
* [https://huggingface.co/tencent/Youtu-VL-4B-Instruct Youtu-VL-4B-Instruct]
* [https://huggingface.co/stepfun-ai/Step3-VL-10B Step3-VL-10B]
* [https://huggingface.co/Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice Qwen3-TTS-12Hz-1.7B-CustomVoice]
* [https://github.com/resemble-ai/chatterbox chatterbox]
* deepset-ai/haystack
* meilisearch
* [https://huggingface.co/ibm-granite/granite-docling-258M granite-docling-258M]
* Airbyte
* [https://github.com/Aider-AI/aider aider]
* [https://github.com/continuedev/continue continue]
* OpenHands
* N8N
* API Compressor
* LightRAG
* [https://huggingface.co/Qwen/Qwen3-Omni-30B-A3B-Instruct Qwen3-Omni-30B-A3B-Instruct]
* Metabase
* browser-use
* MCP LLM
* Dify
* Rasa
* supabase
* mem0
* DeepResearch
* AppFlowy
* dx8152/Qwen-Edit-2509-Multiple-angles


----
----
= Assistants IA & outils cloud =
= Assistants IA & outils cloud =


== Assistants IA ==
== Assistants IA ==
; '''ChatGPT'''
* [https://chatgpt.com ChatGPT] – Assistant conversationnel public, utile pour exploration, rédaction, expérimentation rapide.


; '''Assistants IA auto-hébergés'''
; '''Assistants IA auto-hébergés'''
* [https://github.com/open-webui/open-webui Open WebUI] + [https://ollama.com Ollama] + GPU   
* [https://github.com/nesquena/hermes-webui '''Hermes WebUI'''] + [https://ollama.com '''Ollama'''] + GPU   
: Stack typique pour assistant privé, API OpenAI-compatible et expérimentation locale.
: Stack typique pour assistant privé, API OpenAI-compatible et expérimentation locale.
* [https://github.com/ynotopec/summarize Private summary] 
: Outil de résumé local, rapide et hors ligne.


== Développement, modèles & veille ==
== Développement, modèles & veille ==


; '''Découverte de modèles'''
; '''Découverte de modèles'''
* [https://ollama.com/library LLM Trending]
* [https://huggingface.co/models '''Models Trending''']
* [https://huggingface.co/models Models Trending]
* [https://huggingface.co/models?pipeline_tag=image-text-to-text&sort=trending Img2txt Trending]
* [https://huggingface.co/spaces/TIGER-Lab/GenAI-Arena Txt2img Evaluation]


; '''Évaluation & benchmarks'''
; '''Évaluation & benchmarks'''
* [https://lmarena.ai/leaderboard ChatBot Evaluation]
* [https://arena.ai/leaderboard/code '''Agentic Evaluation''']
* [https://huggingface.co/spaces/mteb/leaderboard Embedding Leaderboard]
* [https://ann-benchmarks.com Vectors DB Ranking]
* [https://top500.org/lists/green500/ HPC Efficiency]


; '''Outils de développement & fine-tuning'''
; '''Outils de développement & fine-tuning'''
* [https://github.com/search?q=stars%3A%3E15000+forks%3A%3E1500+created%3A%3E2022-06-01&type=repositories&s=updated&o=desc Project Trending]
* [https://github.com/trending?since=weekly '''Project Trending''']
* [https://github.com/hiyouga/LLaMA-Factory LLM Fine Tuning]
* [https://grok.com '''News search''']
* [https://www.perplexity.ai Perplexity AI]


== Matériel IA & GPU ==
== Matériel IA & GPU ==
* [https://www.nvidia.com/en-us/data-center/h100/ NVIDIA H100]
* NVIDIA GH200
* NVIDIA 5080
* DGX Spark
* [https://www.mouser.fr/ProductDetail/BittWare/RS-GQ-GC1-0109?qs=ST9lo4GX8V2eGrFMeVQmFw%3D%3D GROQ LLM accelerator]
* [https://www.mouser.fr/ProductDetail/BittWare/RS-GQ-GC1-0109?qs=ST9lo4GX8V2eGrFMeVQmFw%3D%3D '''GROQ LLM accelerator''']
 
----
 
= Modèles ouverts & endpoints internes =
 
''Dernière mise à jour : 2026-02-13''
 
Les modèles ci-dessous correspondent à des '''endpoints logiques''' exposés derrière une passerelle.
 
{| class="wikitable"
! Endpoint !! Description / usage principal
|-
| '''ai-chat''' || Basé sur '''gpt-oss-20b''' – chat généraliste, bon compromis coût / qualité
|-
| '''ai-translate''' || gpt-oss-20b, température = 0 – traduction déterministe et reproductible
|-
| '''ai-summary''' || qwen3 – résumé de textes longs
|-
| '''ai-code''' || gpt-oss-20b – raisonnement et explication de code
|-
| '''ai-code-completion''' || gpt-oss-20b – auto-complétion rapide
|-
| '''ai-parse''' || qwen3 – extraction structurée, parsing logs / JSON / tableaux
|-
| '''ai-RAG-FR''' || qwen3 – RAG en français
|-
| '''gpt-oss-20b''' || tâches agentiques
|}


----
----
Line 275: Line 331:
! Variable !! Valeur
! Variable !! Valeur
|-
|-
| OPENAI_API_BASE || <code>wss://api-realtime-ai.ailab.infocepo.com:wait-2026-06/v1</code>
| OPENAI_API_BASE || <code>wss://api-realtime-ai.ailab.infocepo.com:wait-2026-12/v1</code>
|-
|-
| OPENAI_API_KEY || <code>sk-XXXXX</code>
| OPENAI_API_KEY || <code>sk-XXXXX</code>
Line 281: Line 337:


== Dépôt GitHub ==
== Dépôt GitHub ==
* [https://github.com/ynotopec/api-realtime-ai ynotopec/api-realtime-ai]
* [https://github.com/ynotopec/api-realtime-ai '''ynotopec/api-realtime-ai''']


== Page de test ==
== Page de test ==
Line 293: Line 349:
= API LLM (OpenAI compatible) =
= API LLM (OpenAI compatible) =


* URL de base : <code>https://api.ailab.infocepo.com:wait-2026-06/v1</code>
* URL de base : <code>https://api-nothink.ailab.infocepo.com/v1</code>
* Création du token : [https://llm-token.ailab.infocepo.com:wait-2026-06 OPENAI_API_KEY]
* Création du token : [https://llm-token.ailab.infocepo.com:wait-2026-12 OPENAI_API_KEY]
* Documentation : [https://api.ailab.infocepo.com:wait-2026-06 Documentation API]
* Documentation : [https://api-nothink.ailab.infocepo.com/docs Documentation API]


== Liste des modèles ==
== Liste des modèles ==
<pre>
<pre>
curl -X GET \
curl -X GET \
   'https://api.ailab.infocepo.com:wait-2026-06/v1/models' \
   'https://api-nothink.ailab.infocepo.com/v1/models' \
   -H 'Authorization: Bearer sk-XXXXX' \
   -H 'Authorization: Bearer sk-XXXXX' \
   -H 'accept: application/json' \
   -H 'accept: application/json' \
Line 306: Line 362:
</pre>
</pre>


== Modèles mis en avant ==
== Modèles ouverts & endpoints internes ==
 
''Dernière mise à jour : 2026-06-30''
 
Les modèles ci-dessous correspondent à des '''endpoints logiques''' exposés derrière une passerelle.
 
{| class="wikitable"
{| class="wikitable"
! Model !! Commentaire
! Endpoint !! Description / usage principal
|-
|-
| '''ai-chat''' || qwen3-coder
| '''ai-thinking''' || '''qwen3.6 fp8''' – thinking
|-
|-
| '''ai-translate''' || qwen3-coder
| '''ai-fast''' || '''qwen3.6 fp8''' en mode '''fast''' – vision/OCR/ai-default
|-
|-
| '''ai-summary''' || qwen3-coder
| '''ai-embedding''' || '''bge-m3''' – recherche sémantique
|-
|-
| '''ai-code-completion''' || qwen3-coder
| '''ai-stt''' || '''whisper3-turbo''' – transcription vocale multilingual
|-
|-
| '''ai-RAG-FR''' || qwen3-coder
| '''ai-tts''' || '''OmniVoice''' – TTS multilingual
|-
|-
| '''qwen3-coder''' || Function Calling
| '''ai-image''' || '''OpenDalle''' – image génération
|-
| '''ai-ocr''' || qwen3-vl
|}
|}


== Exemple bash ==
== Exemple bash ==
<pre>
<pre>
export OPENAI_API_MODEL="ai-chat"
export OPENAI_API_MODEL="ai-default"
export OPENAI_API_BASE="https://api.ailab.infocepo.com:wait-2026-06/v1"
export OPENAI_API_BASE="https://api-nothink.ailab.infocepo.com/v1"
export OPENAI_API_KEY="sk-XXXXX"
export OPENAI_API_KEY="sk-XXXXX"


Line 338: Line 397:
}'
}'


curl -k ${OPENAI_API_BASE}/chat/completions \
curl ${OPENAI_API_BASE}/chat/completions \
   -H "Content-Type: application/json" \
   -H "Content-Type: application/json" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
Line 348: Line 407:


'''DEV (au choix)'''
'''DEV (au choix)'''
* '''A.''' <code>LiteLLM → vLLM</code> : tests perf / compatibilité
* '''A.''' <code>LiteLLM → vLLM/SgLang</code> : tests perf / compatibilité
* '''B.''' <code>LiteLLM → Ollama</code> : simple, rapide à itérer
* '''B.''' <code>LiteLLM → Ollama</code> : simple, rapide à itérer
* '''C.''' <code>Ollama</code> direct : POC ultra-léger
* '''C.''' <code>Ollama</code> direct : POC ultra-léger
Line 356: Line 415:


'''PROD'''
'''PROD'''
* '''Standard :''' <code>LiteLLM → vLLM</code>
* '''Standard :''' <code>LiteLLM → vLLM/SgLang</code>
* '''Pont DEV→PROD :''' <code>LiteLLM (DEV) → LiteLLM (PROD) → vLLM</code>
* '''Pont DEV→PROD :''' <code>LiteLLM (DEV) → LiteLLM (PROD) → vLLM/SgLang</code>


'''Notes :'''
'''Notes :'''
* '''LiteLLM''' = passerelle unique (clés, quotas, logs)
* '''LiteLLM''' = passerelle unique (clés, quotas, logs)
* '''vLLM''' = performance / stabilité en charge
* '''vLLM/SgLang''' = performance / stabilité en charge
* '''Ollama''' = simplicité de prototypage
* '''Ollama''' = simplicité de prototypage


Line 369: Line 428:


* Utilise l’API LLM avec un endpoint adapté à l’OCR / VLM.
* Utilise l’API LLM avec un endpoint adapté à l’OCR / VLM.
* Modèle recommandé : <code>ai-ocr</code>
* Modèle recommandé : <code>ai-vision</code>


== Exemple bash ==
== Exemple bash ==
Line 379: Line 438:
jq -n --rawfile img img.b64 \
jq -n --rawfile img img.b64 \
'{
'{
   model: "ai-ocr",
   model: "ai-vision",
   messages: [
   messages: [
     {
     {
Line 394: Line 453:
}' > payload.json
}' > payload.json


curl https://api.ailab.infocepo.com:wait-2026-06/v1/chat/completions \
curl https://api-nothink.ailab.infocepo.com/v1/chat/completions \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Content-Type: application/json" \
   -H "Content-Type: application/json" \
Line 408: Line 467:


API_KEY = os.getenv("OPENAI_API_KEY")
API_KEY = os.getenv("OPENAI_API_KEY")
MODEL = "ai-ocr"
MODEL = "ai-vision"
IMG_PATH = "/path/to/image.png"
IMG_PATH = "/path/to/image.png"
API_URL = "https://api.ailab.infocepo.com:wait-2026-06/v1/chat/completions"
API_URL = "https://api-nothink.ailab.infocepo.com/v1/chat/completions"


with open(IMG_PATH, "rb") as f:
with open(IMG_PATH, "rb") as f:
Line 448: Line 507:
= API STT =
= API STT =


* URL : <code>https://stt.ailab.infocepo.com:wait-2026-06/v1</code>
* URL : <code>https://api-audio2txt.ailab.infocepo.com/v1</code>
* Clé : <code>OPENAI_API_KEY=sk-XXXXX</code>
* Clé : <code>OPENAI_API_KEY=sk-XXXXX</code>
* Modèle : <code>whisper-1</code>
* Modèle : <code>whisper-1</code>
* Documentation : [https://stt.ailab.infocepo.com:wait-2026-06/docs API STT docs]
* Documentation : [https://api-audio2txt.ailab.infocepo.com/docs API STT docs]


== Exemple Python ==
== Exemple Python ==
Line 459: Line 518:
OPENAI_API_KEY = 'sk-XXXXX'
OPENAI_API_KEY = 'sk-XXXXX'


url = 'https://stt.ailab.infocepo.com:wait-2026-06/v1/audio/transcriptions'
url = 'https://api-audio2txt.ailab.infocepo.com/v1/audio/transcriptions'
headers = {
headers = {
     'Authorization': f'Bearer {OPENAI_API_KEY}',
     'Authorization': f'Bearer {OPENAI_API_KEY}',
Line 478: Line 537:
export OPENAI_API_KEY=sk-XXXXX
export OPENAI_API_KEY=sk-XXXXX


curl https://stt.ailab.infocepo.com:wait-2026-06/v1/audio/transcriptions \
curl https://api-audio2txt.ailab.infocepo.com/v1/audio/transcriptions \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -F model="whisper-1" \
   -F model="whisper-1" \
Line 496: Line 555:
= API TTS =
= API TTS =


* URL : <code>https://tts.ailab.infocepo.com:wait-2026-06/v1</code>
* URL : <code>https://api-tts-omnivoice.ailab.infocepo.com/v1</code>
* Clé : <code>OPENAI_API_KEY=sk-XXXXX</code>
* Clé : <code>OPENAI_API_KEY=sk-XXXXX</code>
* Documentation : [https://tts.ailab.infocepo.com:wait-2026-06/docs API TTS docs]
* Documentation : [https://api-tts-omnivoice.ailab.infocepo.com/docs API TTS docs]


== Exemple ==
== Exemple ==
Line 504: Line 563:
export OPENAI_API_KEY=sk-XXXXX
export OPENAI_API_KEY=sk-XXXXX


curl https://tts.ailab.infocepo.com:wait-2026-06/v1/audio/speech \
curl https://api-tts-omnivoice.ailab.infocepo.com/v1/audio/speech \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Content-Type: application/json" \
   -H "Content-Type: application/json" \
Line 520: Line 579:
= API Text to Image =
= API Text to Image =


* URL : <code>https://api-txt2image.ailab.infocepo.com:wait-2026-06/v1</code>
* URL : <code>https://api-txt2image.ailab.infocepo.com/v1</code>
* Clé API : <code>OPENAI_API_KEY=EMPTY</code>
* Clé API : <code>OPENAI_API_KEY=sk-...</code>
* Documentation : [https://api-txt2image.ailab.infocepo.com:wait-2026-06/docs API TXT2IMAGE docs]
* Documentation : [https://api-txt2image.ailab.infocepo.com/docs API TXT2IMAGE docs]


== Exemple ==
== Exemple ==
Line 528: Line 587:
export OPENAI_API_KEY=EMPTY
export OPENAI_API_KEY=EMPTY


curl https://api-txt2image.ailab.infocepo.com:wait-2026-06/v1/images/generations \
curl https://api-txt2image.ailab.infocepo.com/v1/images/generations \
   -H "Content-Type: application/json" \
   -H "Content-Type: application/json" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
Line 542: Line 601:
= API Diarization =
= API Diarization =


* Documentation : [https://api-diarization.ailab.infocepo.com:wait-2026-06/docs API Diarization docs]
* Documentation : [https://api-diarization.ailab.infocepo.com/docs API Diarization docs]


== Exemple ==
== Exemple ==
Line 548: Line 607:
wget "https://upload.wikimedia.org/wikipedia/commons/6/60/Mike_Peters_on_Politics_and_Emotion_%28Interview_1984%29.mp3" -O /tmp/test.mp3
wget "https://upload.wikimedia.org/wikipedia/commons/6/60/Mike_Peters_on_Politics_and_Emotion_%28Interview_1984%29.mp3" -O /tmp/test.mp3


curl -X POST "https://api-diarization.ailab.infocepo.com:wait-2026-06/upload-audio/" \
curl -X POST "https://api-diarization.ailab.infocepo.com/upload-audio/" \
   -H "Authorization: Bearer token1" \
   -H "Authorization: Bearer token1" \
   -F "file=@/tmp/test.mp3"
   -F "file=@/tmp/test.mp3"
Line 557: Line 616:
= API Summary =
= API Summary =


* Documentation : [https://api-summary.ailab.infocepo.com:wait-2026-06/docs API Summary docs]
* Documentation : [https://api-summary.ailab.infocepo.com:wait-2026-12/docs API Summary docs]


== Exemple ==
== Exemple ==
Line 565: Line 624:
json_payload=$(jq -nc --arg text "$text" '{"text": $text}')
json_payload=$(jq -nc --arg text "$text" '{"text": $text}')


curl -X POST https://api-summary.ailab.infocepo.com:wait-2026-06/summary/ \
curl -X POST https://api-summary.ailab.infocepo.com:wait-2026-12/summary/ \
   -H "Content-Type: application/json" \
   -H "Content-Type: application/json" \
   -d "$json_payload"
   -d "$json_payload"
Line 574: Line 633:
= API Text Embeddings =
= API Text Embeddings =


* URL : <code>https://text-embeddings.ailab.infocepo.com:wait-2026-06</code>
* URL : <code>https://api-embedding.ailab.infocepo.com/v1</code>
* URL utilisée par MRSIE : <code>https://tei.ailab.infocepo.com:wait-2026-06/</code>
* Documentation : [https://api-embedding.ailab.infocepo.com/docs Documentation]
* Documentation : [https://text-embeddings.ailab.infocepo.com:wait-2026-06/docs Documentation]


== Exemple ==
== Exemple ==
<pre>
<pre>
curl -k https://text-embeddings.ailab.infocepo.com:wait-2026-06/embed \
curl https://api-embedding.ailab.infocepo.com/v1/embeddings \
   -X POST \
   -X POST \
   -d '{"inputs":"What is Deep Learning?"}' \
   -d '{"model":"bge-m3","input":"What is Deep Learning?"}' \
   -H 'Content-Type: application/json'
   -H 'Content-Type: application/json'
</pre>
</pre>
Line 591: Line 649:


== Production ==
== Production ==
* URL : <code>https://chromadb.ailab.infocepo.com:wait-2026-06</code>
* URL : <code>https://chromadb.ailab.infocepo.com:wait-2026-12</code>
* Token : <code>XXXXX</code>
* Token : <code>XXXXX</code>


== Lab ==
== Lab ==
<pre>
<pre>
export CHROMA_HOST=https://chromadb.c1.ailab.infocepo.com:wait-2026-06
export CHROMA_HOST=https://chromadb.c1.ailab.infocepo.com:wait-2026-12
export CHROMA_PORT=443
export CHROMA_PORT=443
export CHROMA_TOKEN=XXXX
export CHROMA_TOKEN=XXXX
Line 633: Line 691:
<pre>
<pre>
export nameSpace=your_namespace
export nameSpace=your_namespace
domainRoot=ailab.infocepo.com:wait-2026-06
domainRoot=ailab.infocepo.com


helm repo add chroma https://amikos-tech.github.io/chromadb-chart/
helm repo add chroma https://amikos-tech.github.io/chromadb-chart/
Line 662: Line 720:
= Registry =
= Registry =


* URL : [https://registry.ailab.infocepo.com:wait-2026-06 registry.ailab.infocepo.com:wait-2026-06]
* URL : [https://registry.ailab.infocepo.com:wait-2026-09 registry.ailab.infocepo.com:wait-2026-09]
* Login : <code>user</code>
* Login : <code>user</code>
* Password : <code>XXXXX</code>
* Password : <code>XXXXX</code>
Line 668: Line 726:
== Exemple ==
== Exemple ==
<pre>
<pre>
curl -u "user:XXXXX" https://registry.ailab.infocepo.com:wait-2026-06/v2/_catalog
curl -u "user:XXXXX" https://registry.ailab.infocepo.com:wait-2026-09/v2/_catalog
</pre>
</pre>


Line 677: Line 735:


kubectl -n ${nameSpace} create secret docker-registry pull-secret \
kubectl -n ${nameSpace} create secret docker-registry pull-secret \
   --docker-server=registry.ailab.infocepo.com:wait-2026-06 \
   --docker-server=registry.ailab.infocepo.com:wait-2026-09 \
   --docker-username=user \
   --docker-username=user \
   --docker-password=XXXXX \
   --docker-password=XXXXX \
Line 690: Line 748:
= Stockage objet externe (S3) =
= Stockage objet externe (S3) =


* Endpoint : <code>https://s3.ailab.infocepo.com:wait-2026-06</code>
* Endpoint : <code>https://s3.ailab.infocepo.com:wait-2026-09</code>
* Access key : <code>XXXX</code>
* Access key : <code>XXXX</code>
* Secret key : <code>XXXX</code>
* Secret key : <code>XXXX</code>
Line 701: Line 759:


* Embeddings : <code>BAAI/bge-m3</code>
* Embeddings : <code>BAAI/bge-m3</code>
* <code>chunk_size=1200</code>
* <code>chunk_size=1000</code>
* <code>chunk_overlap=100</code>
* <code>chunk_overlap=100</code>
* LLM : <code>qwen3</code>
* LLM : <code>qwen3.6</code>
* Pour les PDF mixtes : '''PDF → image → OCR / VLM''' peut améliorer les résultats.
* Pour les PDF mixtes : '''PDF → image → OCR / VLM''' peut améliorer les résultats.


----
----


= Processus usine IA =
= Workflow =


{| class="wikitable" style="width:80%;"
Autoroute directe : code → CI/CD → deploy → monitoring. Pas de comité, pas de responsable désigné — chaque étape se déclenche automatiquement si la précédente passe. Si ça rate, alerte directe sans passer par un humain sauf décision explicite de fallback.
! Étape !! Description !! Outils utilisés !! Responsable(s)
|-
| 1 || Idée || - || Équipe projet
|-
| 2 || Développement || Environnement Onyxia / lab || Équipe projet
|-
| 3 || Déploiement || CI/CD, GitHub, Kubernetes || Équipe DevOps
|-
| 4 || Surveillance || Uptime-Kuma, dashboards || Équipe DevOps
|-
| 5 || Alertes || Mattermost || Équipe DevOps
|-
| 6 || Support infrastructure || - || Équipe SRE
|-
| 7 || Support applicatif || - || Équipe applicative
|}


----
----
Line 733: Line 775:


== Hors production ==
== Hors production ==
* Utiliser [https://datalab.ailab.infocepo.com:wait-2026-06 datalab]
* Utiliser [https://datalab.ailab.infocepo.com:wait-2026-12 datalab]
* Support : canal Mattermost Offre IA
* Support : canal Mattermost Offre IA
* Le pseudo utilisateur doit respecter la convention interne
* Le pseudo utilisateur doit respecter la convention interne
Line 745: Line 787:
== Limites de l’infrastructure ==
== Limites de l’infrastructure ==
* Les charges GPU sont intentionnellement limitées en journée.
* Les charges GPU sont intentionnellement limitées en journée.
 
* Coût unitaire mesuré automatiquement (dashboards temps réel, pas Excel).
----
----


Line 804: Line 847:
| Extinction / redémarrage simultané de tous les nœuds || Les services repartent correctement après reboot
| Extinction / redémarrage simultané de tous les nœuds || Les services repartent correctement après reboot
|}
|}
'''Autonomie testée''' : vérifier que la migration fonctionne seule en tirant le repo et lançant le script, sans personne qui connaît le système de tête.


----
----
Line 927: Line 973:


== Dépôts de code ==
== Dépôts de code ==
* [https://github.com/ynotopec GitHub ynotopec]
* [https://github.com/ynotopec '''GitHub ynotopec''']


== Base de connaissance ==
== Base de connaissance ==
* ce wiki
* [https://infocepo.com '''ce wiki''']


== Messagerie ==
== Messagerie ==
Line 936: Line 982:


== SSO ==
== SSO ==
* [https://auth-lab.ailab.infocepo.com:wait-2026-06/auth Keycloak]
* [https://auth-lab.ailab.infocepo.com:wait-2026-12/auth Keycloak]
 
== MLflow ==
* [[MLFlow|MLFlow]]


----
----

Latest revision as of 05:47, 23 September 2026

Discover cloud and AI on infocepo.com

infocepo.com – Cloud, AI & Labs

Bienvenue sur le portail infocepo.com.

Ce wiki documente l’écosystème Cloud, IA, automatisation et lab d’Infocepo. Il s’adresse aux :

  • administrateurs systèmes,
  • ingénieurs cloud,
  • développeurs,
  • étudiants,
  • curieux qui veulent apprendre en pratiquant.

L’objectif est simple : transformer la théorie en scripts réutilisables, schémas, architectures, APIs et laboratoires concrets.


Accès rapide

Portail principal

Assistant IA

Liste des pages du wiki

Vue d’ensemble

Infra architecture overview

Démarrer rapidement

Parcours recommandés

1. Construire un assistant IA privé
  • Déployer une stack type Hermes WebUI + Ollama + GPU
  • Ajouter un modèle de chat et un modèle de résumé
  • Brancher des données internes via RAG + embeddings
2. Lancer un lab cloud
  • Créer un petit cluster Kubernetes, OpenStack ou bare-metal
  • Mettre en place un pipeline de déploiement (Helm, Ansible, Terraform…)
  • Ajouter un service IA : transcription, résumé, chatbot, OCR…
3. Préparer un audit ou une migration
  • Inventorier les serveurs avec ServerDiff.sh
  • Concevoir l’architecture cible
  • Automatiser la migration avec des scripts reproductibles

Vue d’ensemble du contenu

  • Guides IA & outils : assistants, modèles, évaluation, GPU, RAG
  • Cloud & infrastructure : Kubernetes, OpenStack, HA, HPC, DevSecOps
  • Labs & scripts : audit, migration, automatisation
  • Comparatifs : Kubernetes vs OpenStack vs AWS vs bare-metal, etc.

Vision

The world after automation

Le but à long terme est de construire un environnement où :

  • les assistants IA privés accélèrent la production,
  • les tâches répétitives sont automatisées,
  • les déploiements sont industrialisés,
  • l’infrastructure reste compréhensible, portable et réutilisable.

Chaque sortie IA est mesurée en temps réel, les modèles faibles sont remplacés automatiquement, et les tâches sans valeur sont coupées. L'autonomie vient de mécanismes techniques qui fonctionnent quand personne ne regarde — pas de règles écrites dans un doc.

Main page summary

Catalogue rapide des services

Services principaux
Catégorie Service Rôle
API LLM Modèles de chat, code, RAG, OCR
API STT Transcription audio
API TTS Synthèse vocale
API realtime-ai Temps réel WebSocket / WebRTC
API IMAGE2TXT OCR / VLM via endpoint dédié
API summary Résumé de textes longs
API EMBEDDINGS Embeddings pour RAG
API ChromaDB Base vecteur
API TXT2IMAGE Génération d’images
API diarization Segmentation locuteurs
Observabilité monitoring Dashboards techniques
Observabilité status Disponibilité des services
Observabilité web-stat Statistiques web
Observabilité LLM-stat Vue API / usage
Outils dataLab Environnement de travail hors-production
Outils realtime translation Traduction
Outils Demos Démonstrateurs

Sélection AI & architecture par couche

Le tableau de bord Sélection AI présente l'architecture par couche des modèles IA déployés :

Couche Modèle Alias(s) Taille
HYBRID-CLOUD Qwen3.6-35B flash, default, thinking, vision Option 1, 35B MoE / 3B actif
Qwen3.8-Flash-Next flash, default, thinking, vision, max Option 2, 125B MoE, 51B n-grames internes, 6B actif, 1M contexte
MiniMax-H3 video 33B dense
BGE-M3 embedding 568M
BGE-reranker-v2-m3 reranker 568M
FLUX.2-klein-4B image 4B
GLiNER2.5-Multi-V1 privacy 287M, mDeBERTa-v3-base — privacy filter: api-llm-privacy-proxy-gliner2
Public-Cloud GLM-5.3-Flash max 320B MoE / 18B actif — 1M contexte, multimodal
LOCAL Qwen3.5-9B flash, default, thinking, vision Option 1, 9B dense
Qwen3.8-27B flash, default, thinking, vision, max Option 2, 27B dense

Frameworks

Outil Usage
Hermes Usage général, raisonnement
OpenCode DevSecOps
Kilo Code Développement pur

Mémoire

Pour la couche d'embedding vectoriel (RAG, mémoire sémantique) :

  • BGE-M3 — 568M paramètres, architecture XLM-RoBERTa. Multi-fonction (dense + sparse + multi-vector), 100+ langues, licence MIT. Idéal comme moteur de mémoire à échelle.

Nouveautés

Nouveautés implémentés

  • api-txt2image (2026-09-20) : Text-to-image generation API for AI-powered image creation
  • api-rag (2026-09-19) : RAG API — semantic search over knowledge bases with retrieval-augmented generation
  • gouv-fr-code-package-mi (2026-09-19) : gouv-fr-code-package-mi
  • agent-saas (2026-09-17) : SaaS AI agent platform — deploy autonomous AI agents as a service
  • api-llm-privacy-proxy-gliner2-5 (2026-09-16) : api-llm-privacy-proxy-gliner2-5
  • qwen36-sglang (2026-09-15) : Qwen 3.6 deployment with SGLang for high-performance inference
  • omnivoice-tts (2026-09-13) : omnivoice-tts
  • api-llm-privacy-proxy-gliner2 (2026-09-10) : GLiNER2-powered LLM privacy proxy for named entity detection and filtering
  • tricoteuses-k8s (2026-09-08) : Kubernetes deployment for tricoteuses-juridique
  • dashboard-superset-mcp (2026-09-03) : Automate Apache Superset dashboard creation via MCP server 6.1.0+
  • superset-k8s (2026-09-01) : superset-k8s
  • dind-build (2026-08-31) : Docker-in-Docker build factory on Kubernetes — build, push, pull via K8s DinD pod
  • quality-gate (2026-08-28) : quality-gate
  • api-convert2md (2026-08-26) : Document-to-Markdown conversion API — clean markdown from various formats
  • trafilatura-local (2026-08-23) : trafilatura-local
  • models-todo (2026-08-19) : models-todo
  • minimax-music3 (2026-08-18) : minimax-music3
  • hermes-img-gen-infocepo (2026-08-15) : hermes-img-gen-infocepo
  • api-llm-custom (2026-08-13) : Custom LLM proxy API — route requests to any language model backend
  • infocepo-infra-mcp (2026-08-12) : infocepo-infra-mcp
  • api-mcp-openai (2026-08-11) : AI MCP OpenAI Integration
  • api-embedding (2026-08-07) : Text embedding API — convert text to vector embeddings for semantic search
  • api-reranker (2026-08-06) : Cross-encoder reranking API for improving search retrieval quality
  • nemotron-embed (2026-07-31) : nemotron-embed
  • coder-brain (2026-07-28) : AI-powered code analysis and generation engine
  • translate-rt (2026-07-28) : Real-time translation API — multilingual translation with low latency

Top tasks

  • AutoGPT (2026-09-21) : AutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mission is to provide the tools, so that you can focus on what matters. (187k⭐)
  • FastGPT (2026-09-21) : FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities ... (29k⭐)
  • WeKnora (2026-09-21) : Open-source LLM knowledge platform: turn raw documents into a queryable RAG, an autonomous reasoning agent, and sel... (28k⭐)
  • hermes-agent (2026-09-15) : The agent that grows with you (245k⭐)
  • llama.cpp (2026-09-15) : LLM inference in C/C++ (128k⭐)
  • supabase (2026-09-15) : The Postgres development platform. Supabase gives you a dedicated Postgres database to build your... (109k⭐)
  • litellm (2026-09-13) : Passerelle AI qui appelle 100+ APIs LLM. Rust core avec SDK Python. (58k⭐)
  • cherry-studio (2026-09-13) : Studio de productivité IA avec chat intelligent, agents autonomes et 300+ assistants. (51k⭐)
  • ruflo (2026-09-13) : Harnais d'agents intelligent multi-joueurs. Déployer des essaims coordonnés avec mémoire locale. (72k⭐)
  • openclaw (2026-09-12) : Plateforme IA autonome multi-plateforme. Tout système d'exploitation. (389k⭐)
  • ECC (2026-09-12) : Optimisation performance agents IA - compétences, mémoire, sécurité. (256k⭐)
  • archify (2026-09-11) : Agent skill for architecture, workflow, data-flow, and lifecycle diagrams — self-contained HTML with motion and crisp export. (58k⭐, 12k/semaine)
  • context-mode (2026-09-11) : Context window optimization for AI coding agents. Sandboxes tool output, persists session memory, enforces routing via MCP. (22k⭐, 1.6k/semaine)
  • plugins (2026-09-11) : OpenAI Plugins — plugin ecosystem for OpenAI models. (6k⭐, 1k/semaine)
  • markitdown (2026-09-11) : Conversion fichiers et documents bureautiques vers Markdown — pipeline de données pour pipelines IA. (182k⭐, 4.5k/semaine)
  • i-have-adhd (2026-09-11) : Agent skill pour sortie ADHD-friendly — formatage clair et direct des réponses d'agents IA. (38k⭐, 10k/semaine)
  • diagram-design (2026-09-11) : 38 types de diagrammes éditoriaux pour agents de codage (Claude, Codex, Pi). HTML + SVG auto-contenu. (37k⭐, 7k/semaine)
  • skills (2026-09-11) : Repository public officiel des compétences d'agents Anthropic. (175k⭐, 2.2k/semaine)
  • Presidio : anonymisation / masquage PII, socle RGPD obligatoire.
  • Temporal : orchestration de workflows critiques et fiables.
  • OmniRoute : passerelle IA unifiée, auto-fallback, compression de tokens.
  • NeMo Guardrails : garde-fous et politiques de sécurité IA.
  • Langfuse : observabilité, evals et metrics pour pipelines IA.
  • LMCache : couche KV cache ultra-rapide, latence d'inférence réduite.
  • Meshery : gestion cloud native multi-cluster, observabilité.
  • PageIndex : RAG vectorless à raisonnement, alternative aux embeddings.
  • Coût unitaire par tâche : chaque API doit exposer son prix/ml/token en temps réel — pas une facture mensuelle.
  • Qualité auto : précision/hallucination rate branchés sur les sorties IA, avec rollback automatique si qualité < seuil.
  • unsloth (2026-09-14) : Interface locale pour exécuter et entraîner des LLMs et modèles de diffusion. Optimisation d'inférence. (76k⭐)
  • ragflow (2026-09-14) : Système RAG open-source avancé pour la génération augmentée par la récupération. (90k⭐)
  • OpenHands (2026-09-14) : Développement piloté par IA — agent autonome qui code, debug et itère. (87k⭐)
  • ClickHouse (2026-09-16) : Base de données analytique temps réel. (49k⭐)
  • OpenViking (2026-09-16) : Base de contexte auto-évolutive pour agents IA. Mémoire, RAG et compétences unifiés. (37k⭐)
  • anything-llm (2026-09-16) : Plateforme LLM locale tout-en-un. Vector store, RAG, et assistants autonomes. (66k⭐)
  • livekit (2026-09-17) : End-to-end realtime stack for connecting humans and AI (21.0k⭐)
  • ragflow (2026-09-17) : RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent c... (90.8k⭐)
  • open-code-review (2026-09-17) : Fast, efficient, battle-tested at Alibaba's scale. Hybrid architecture code review tool: deterministic pipelines + LL... (32.4k⭐)
  • LibreChat (2026-09-18) : Enhanced ChatGPT Clone: Features Agents, MCP, Skills, DeepSeek, Anthropic, AWS, OpenAI, Responses API, Azure, Groq, o1, GPT-5, Mistral, OpenRouter, Vertex AI, Gemini, Artifacts, AI model switching, message search, Code Interpreter, langchain, DALL-E-3, OpenAPI Actions, Functions, Secure Multi-User Auth, Presets, open-source for self-hosting. Active (44k⭐)
  • jumpserver (2026-09-18) : JumpServer is an Open-source Privileged Access Management (PAM) platform with AI-powered capabilities, providing DevOps and IT teams a unified workspace to securely access SSH, RDP, Kubernetes, databases, websites, RemoteApp, VirtualApp, and more. (32k⭐)
  • mastra (2026-09-18) : Mastra is the modern TypeScript framework for AI-powered applications and agents. (28k⭐)
  • deer-flow (2026-09-20) : An open-source long-horizon SuperAgent harness that researches, codes, and creat (82.7k⭐)
  • DeepSeek-Reasonix (2026-09-20) : DeepSeek-native AI coding agent for your terminal. Engineered around prefix-cach (35.6k⭐)
  • zeroclaw (2026-09-20) : Fast, small, and fully autonomous AI personal assistant infrastructure, any OS, (32.8k⭐)
  • vllm (2026-09-23) : High-throughput LLM inference engine — 92.5k⭐
  • promptfoo (2026-09-23) : AI testing, red teaming & pentesting for prompts, agents, and RAGs — 25.4k⭐
  • eliza (2026-09-23) : Open source agentic operating system — 19.4k⭐

Backlog / Veille Technologique

Agents IA & Orchestration

  • LangChain : Framework pour applications basées sur les LLM. Le plus mature. (145k⭐).
  • Dify : Plateforme de développement d'applications IA (LLM Ops). Déployable en self-host. (154k⭐).
  • browser-use : Framework pour contrôler les navigateurs via des agents IA. (112k⭐).
  • vllm : Moteur d'inférence haute performance pour LLMs. (91k⭐).
  • open-webui : Interface web IA (Ollama, OpenAI API, MCP). (151k⭐).
  • ollama : Get up and running with Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models. (180k⭐).
  • n8n : Fair-code workflow automation with native AI. 400+ intégrations. (203k⭐).
  • milvus : Base de données vectorielle haute performance. (46k⭐).
  • qdrant : Vector database haute performance. (34k⭐).
  • Minimax-Text-01 : Modèle LLM open-source Minimax.

Audio & TTS

Génération & Édition d'Images

  • ComfyUI  : GUI et backend diffusion model le plus modulaire. (131k⭐)

RAG & Traitement de Documents

  • firecrawl : API web contextuelle pour search, scrape et interaction. (178k⭐).
  • paperless-ngx : Document management : scan, index, archive. ML, OCR. (45k⭐).
  • graphify : Transforme codebase en graphe de connaissances interrogeable. (115k⭐).
  • LightRAG : RAG simple et rapide. (39k⭐).
  • graphrag : RAG modulaire basé sur les graphes. (35k⭐).
  • headroom : Compress tool outputs, logs, files et RAG chunks. 20-95% token savings. (69k⭐).
  • Mem0 : — Mémorie à long terme pour agents IA. (64k⭐).

APIs à Développer

  • Classificateur IA — Classification de contenu.
  • Résumé mutualisé — API de résumé de texte partagée.
  • NER — Reconnaissance d'entités nommées.
  • Compressor — Compression de contenu.

Infrastructure & Backend

Outils Dev

  • Aider — Assistant de codage IA en ligne de commande.
  • Continue — Extension IDE IA (VS Code, JetBrains). (35k⭐)

Assistants IA & outils cloud

Assistants IA

Assistants IA auto-hébergés
Stack typique pour assistant privé, API OpenAI-compatible et expérimentation locale.

Développement, modèles & veille

Découverte de modèles
Évaluation & benchmarks
Outils de développement & fine-tuning

Matériel IA & GPU


API Realtime AI (DEV)

Statut : environnement DEV, remplaçante prévue de l’API OpenAI pour les cas temps réel.

Configuration

Variable Valeur
OPENAI_API_BASE wss://api-realtime-ai.ailab.infocepo.com:wait-2026-12/v1
OPENAI_API_KEY sk-XXXXX

Dépôt GitHub

Page de test

  • external-test/half-duplex.html — annulation d’écho + mode half-duplex.

Compatibilité

Remplacer l’URL OpenAI par $OPENAI_API_BASE pour tester compatibilité et performances.


API LLM (OpenAI compatible)

Liste des modèles

curl -X GET \
  'https://api-nothink.ailab.infocepo.com/v1/models' \
  -H 'Authorization: Bearer sk-XXXXX' \
  -H 'accept: application/json' \
  | jq | sed -rn 's#^.*id.*: "(.*)".*$#* \1#p' | sort -u

Modèles ouverts & endpoints internes

Dernière mise à jour : 2026-06-30

Les modèles ci-dessous correspondent à des endpoints logiques exposés derrière une passerelle.

Endpoint Description / usage principal
ai-thinking qwen3.6 fp8 – thinking
ai-fast qwen3.6 fp8 en mode fast – vision/OCR/ai-default
ai-embedding bge-m3 – recherche sémantique
ai-stt whisper3-turbo – transcription vocale multilingual
ai-tts OmniVoice – TTS multilingual
ai-image OpenDalle – image génération

Exemple bash

export OPENAI_API_MODEL="ai-default"
export OPENAI_API_BASE="https://api-nothink.ailab.infocepo.com/v1"
export OPENAI_API_KEY="sk-XXXXX"

promptValue="Quel est ton nom ?"
jsonValue='{
  "model": "'${OPENAI_API_MODEL}'",
  "messages": [{"role": "user", "content": "'${promptValue}'"}],
  "temperature": 0
}'

curl ${OPENAI_API_BASE}/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d "${jsonValue}" 2>/dev/null | jq '.choices[0].message.content'

Vue infra LLM

DEV (au choix)

  • A. LiteLLM → vLLM/SgLang : tests perf / compatibilité
  • B. LiteLLM → Ollama : simple, rapide à itérer
  • C. Ollama direct : POC ultra-léger

DEV – modèle FR / résumé

  • LiteLLM → Ollama /v1

PROD

  • Standard : LiteLLM → vLLM/SgLang
  • Pont DEV→PROD : LiteLLM (DEV) → LiteLLM (PROD) → vLLM/SgLang

Notes :

  • LiteLLM = passerelle unique (clés, quotas, logs)
  • vLLM/SgLang = performance / stabilité en charge
  • Ollama = simplicité de prototypage

API Image to Text

  • Utilise l’API LLM avec un endpoint adapté à l’OCR / VLM.
  • Modèle recommandé : ai-vision

Exemple bash

OPENAI_API_KEY=sk-XXXXX

base64 -w0 "/path/to/image.png" > img.b64

jq -n --rawfile img img.b64 \
'{
  model: "ai-vision",
  messages: [
    {
      role: "user",
      content: [
        { "type": "text", "text": "Décris cette image." },
        {
          "type": "image_url",
          "image_url": { "url": ("data:image/png;base64," + ($img | rtrimstr("\n"))) }
        }
      ]
    }
  ]
}' > payload.json

curl https://api-nothink.ailab.infocepo.com/v1/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  --data-binary @payload.json

Exemple Python

import base64
import json
import requests
import os

API_KEY = os.getenv("OPENAI_API_KEY")
MODEL = "ai-vision"
IMG_PATH = "/path/to/image.png"
API_URL = "https://api-nothink.ailab.infocepo.com/v1/chat/completions"

with open(IMG_PATH, "rb") as f:
    img_b64 = base64.b64encode(f.read()).decode("utf-8")

payload = {
    "model": MODEL,
    "messages": [
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "Décris cette image."},
                {
                    "type": "image_url",
                    "image_url": {"url": f"data:image/png;base64,{img_b64}"}
                }
            ]
        }
    ]
}

headers = {
    "Authorization": f"Bearer {API_KEY}",
    "Content-Type": "application/json"
}

response = requests.post(API_URL, headers=headers, data=json.dumps(payload))

if response.ok:
    print(json.dumps(response.json(), indent=2, ensure_ascii=False))
else:
    print(f"Erreur {response.status_code}: {response.text}")

API STT

Exemple Python

import requests

OPENAI_API_KEY = 'sk-XXXXX'

url = 'https://api-audio2txt.ailab.infocepo.com/v1/audio/transcriptions'
headers = {
    'Authorization': f'Bearer {OPENAI_API_KEY}',
}
files = {
    'file': ('file.opus', open('/path/to/file.opus', 'rb')),
    'model': (None, 'whisper-1')
}

response = requests.post(url, headers=headers, files=files)
print(response.json())

Exemple curl

[ ! -f /tmp/test.ogg ] && wget "https://upload.wikimedia.org/wikipedia/commons/1/17/Fables_de_La_Fontaine_Livre_1_01.ogg" -O /tmp/test.ogg

export OPENAI_API_KEY=sk-XXXXX

curl https://api-audio2txt.ailab.infocepo.com/v1/audio/transcriptions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -F model="whisper-1" \
  -F file="@/tmp/test.ogg"

Notes

  • Plusieurs formats audio sont acceptés.
  • Le flux final est normalisé en 16 kHz mono.
  • Pour une qualité optimale : privilégier OPUS 16 kHz mono.

UI


API TTS

Exemple

export OPENAI_API_KEY=sk-XXXXX

curl https://api-tts-omnivoice.ailab.infocepo.com/v1/audio/speech \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini-tts",
    "input": "Bonjour, ceci est un test de synthèse vocale.",
    "voice": "coral",
    "instructions": "Speak in a cheerful and positive tone.",
    "response_format": "opus"
  }' | ffplay -i -

API Text to Image

Exemple

export OPENAI_API_KEY=EMPTY

curl https://api-txt2image.ailab.infocepo.com/v1/images/generations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d '{
    "prompt": "a photo of a happy corgi puppy sitting and facing forward, studio light, longshot",
    "n": 1,
    "size": "1024x1024"
  }'

API Diarization

Exemple

wget "https://upload.wikimedia.org/wikipedia/commons/6/60/Mike_Peters_on_Politics_and_Emotion_%28Interview_1984%29.mp3" -O /tmp/test.mp3

curl -X POST "https://api-diarization.ailab.infocepo.com/upload-audio/" \
  -H "Authorization: Bearer token1" \
  -F "file=@/tmp/test.mp3"

API Summary

Exemple

text="The tower is 324 metres tall and is one of the most recognizable monuments in the world."

json_payload=$(jq -nc --arg text "$text" '{"text": $text}')

curl -X POST https://api-summary.ailab.infocepo.com:wait-2026-12/summary/ \
  -H "Content-Type: application/json" \
  -d "$json_payload"

API Text Embeddings

Exemple

curl https://api-embedding.ailab.infocepo.com/v1/embeddings \
  -X POST \
  -d '{"model":"bge-m3","input":"What is Deep Learning?"}' \
  -H 'Content-Type: application/json'

API DB Vectors (ChromaDB)

Production

Lab

export CHROMA_HOST=https://chromadb.c1.ailab.infocepo.com:wait-2026-12
export CHROMA_PORT=443
export CHROMA_TOKEN=XXXX

Exemple curl

curl -v "${CHROMA_HOST}"/api/v1/collections \
  -H "Authorization: Bearer ${CHROMA_TOKEN}"

Exemple Python

import chromadb
from chromadb.config import Settings

def chroma_http(host, port=80, token=None):
    return chromadb.HttpClient(
        host=host,
        port=port,
        ssl=host.startswith('https') or port == 443,
        settings=(
            Settings(
                chroma_client_auth_provider='chromadb.auth.token.TokenAuthClientProvider',
                chroma_client_auth_credentials=token,
            ) if token else Settings()
        )
    )

client = chroma_http(CHROMA_HOST, CHROMA_PORT, CHROMA_TOKEN)
collections = client.list_collections()
print(collections)

Déployer sa propre instance

export nameSpace=your_namespace
domainRoot=ailab.infocepo.com

helm repo add chroma https://amikos-tech.github.io/chromadb-chart/
helm repo update

helm upgrade --install chromadb chroma/chromadb -n ${nameSpace} \
  --set chromadb.apiVersion="0.4.24" \
  --set ingress.enabled=true \
  --set ingress.hosts[0].host="${nameSpace}-chromadb.${domainRoot}" \
  --set ingress.hosts[0].paths[0].path=/ \
  --set ingress.hosts[0].paths[0].pathType=ImplementationSpecific \
  --set ingress.annotations."cert-manager\.io/cluster-issuer"=letsencrypt-prod \
  --set ingress.tls[0].secretName=${nameSpace}-chromadb.${domainRoot}-tls \
  --set ingress.tls[0].hosts[0]="${nameSpace}-chromadb.${domainRoot}"

kubectl -n ${nameSpace} patch ingress/chromadb --type=json \
  -p '[{"op":"add","path":"/metadata/annotations/nginx.ingress.kubernetes.io~1proxy-body-size","value":"0"}]'

Récupérer le token

kubectl --namespace ${nameSpace} get secret chromadb-auth \
  -o jsonpath="{.data.token}" | base64 --decode && echo

Registry

Exemple

curl -u "user:XXXXX" https://registry.ailab.infocepo.com:wait-2026-09/v2/_catalog

Exemple K8S

deploymentName=
nameSpace=

kubectl -n ${nameSpace} create secret docker-registry pull-secret \
  --docker-server=registry.ailab.infocepo.com:wait-2026-09 \
  --docker-username=user \
  --docker-password=XXXXX \
  --docker-email=contact@example.com

kubectl -n ${nameSpace} patch deployment ${deploymentName} \
  -p '{"spec":{"template":{"spec":{"imagePullSecrets":[{"name":"pull-secret"}]}}}}'

Stockage objet externe (S3)

Un bucket nommé ORG a été créé pour stocker des documents de démonstration.


RAG optimisation

  • Embeddings : BAAI/bge-m3
  • chunk_size=1000
  • chunk_overlap=100
  • LLM : qwen3.6
  • Pour les PDF mixtes : PDF → image → OCR / VLM peut améliorer les résultats.

Workflow

Autoroute directe : code → CI/CD → deploy → monitoring. Pas de comité, pas de responsable désigné — chaque étape se déclenche automatiquement si la précédente passe. Si ça rate, alerte directe sans passer par un humain sauf décision explicite de fallback.


Environnements

Hors production

  • Utiliser datalab
  • Support : canal Mattermost Offre IA
  • Le pseudo utilisateur doit respecter la convention interne
  • Demander si besoin un accès Linux + Kubernetes

Production (best-effort)

  • Publier le code applicatif, les secrets (format SOPS), le Dockerfile et le code infra (Helm ou manifests K8S) sur Git
  • Demander un namespace
  • Lire la documentation de surveillance associée

Limites de l’infrastructure

  • Les charges GPU sont intentionnellement limitées en journée.
  • Coût unitaire mesuré automatiquement (dashboards temps réel, pas Excel).

Cloud Lab & projets d’audit

Cloud Lab reference diagram

Le Cloud Lab fournit des scénarios reproductibles : audit d’infrastructure, migration cloud, automatisation, haute disponibilité.

Projet d’audit

ServerDiff.sh

Script Bash d’audit permettant de :

  • détecter les dérives de configuration,
  • comparer plusieurs environnements,
  • préparer un plan de migration ou de remédiation.

Exemple de migration cloud

Cloud migration diagram

Tâche Description Durée (jours)
Audit infrastructure 82 services, audit automatisé via ServerDiff.sh 1.5
Diagramme d’architecture Conception visuelle et documentation 1.5
Contrôles de conformité 2 clouds, 6 hyperviseurs, 6 To RAM 1.5
Installation plateforme cloud Déploiement des environnements cibles 1.0
Vérification de stabilité Premiers tests fonctionnels 0.5
Étude d’automatisation Identification des tâches répétitives 1.5
Développement des templates 6 templates, 8 environnements, 2 clouds / OS 1.5
Diagramme de migration Illustration du processus 1.0
Écriture du code de migration 138 lignes (voir MigrationApp.sh) 1.5
Stabilisation Validation de la reproductibilité 1.5
Benchmark cloud Comparaison vs legacy 1.5
Réglage des temps d’arrêt Calcul du downtime 0.5
Chargement VM 82 VMs : OS, code, 2 IP par VM 0.1
Total 15 jours.homme

Vérifications de stabilité (HA minimale)

Action Résultat attendu
Extinction d’un nœud Tous les services redémarrent automatiquement sur les autres nœuds
Extinction / redémarrage simultané de tous les nœuds Les services repartent correctement après reboot


Autonomie testée : vérifier que la migration fonctionne seule en tirant le repo et lançant le script, sans personne qui connaît le système de tête.


Architecture web & bonnes pratiques

Reference web architecture

Principes de conception :

  • privilégier une infrastructure simple, modulaire et flexible,
  • rapprocher le contenu du client (GDNS ou équivalent),
  • utiliser des load balancers réseau (LVS, IPVS),
  • comparer les coûts et éviter le vendor lock-in,
  • pour TLS :
    • HAProxy pour les frontends rapides,
    • Envoy pour les cas avancés (mTLS, HTTP/2/3),
  • pour le cache :
    • Varnish, Apache Traffic Server,
  • favoriser les stacks open-source,
  • utiliser files, buffers, queues et quotas pour lisser les pics.

Références


Comparatif des grandes plateformes cloud

Fonctionnalité Kubernetes OpenStack AWS Bare-metal HPC CRM oVirt
Outils de déploiement Helm, YAML, ArgoCD, Juju Ansible, Terraform, Juju CloudFormation, Terraform, Juju Ansible, Shell xCAT, Clush Ansible, Shell Ansible, Python
Méthode de bootstrap API API, PXE API PXE, IPMI PXE, IPMI PXE, IPMI PXE, API
Contrôle routeur Kube-router Router/Subnet API Route Table / Subnet API Linux, OVS xCAT Linux API
Contrôle firewall Istio, NetworkPolicy Security Groups API Security Group API Linux firewall Linux firewall Linux firewall API
Virtualisation réseau VLAN, VxLAN VPC VPC OVS, Linux xCAT Linux API
DNS CoreDNS DNS-Nameserver Route 53 GDNS xCAT Linux API
Load balancer Kube-proxy, LVS LVS Network Load Balancer LVS SLURM Ldirectord N/A
Stockage Local, cloud, PVC Swift, Cinder, Nova S3, EFS, EBS, FSx Swift, XFS, EXT4, RAID10 GPFS SAN NFS, SAN

Cette table sert de point de départ pour choisir la bonne stack selon :

  • le niveau de contrôle souhaité,
  • le contexte (on-prem, cloud public, HPC…),
  • les outils d’automatisation existants.

Haute disponibilité, HPC & DevSecOps

Haute disponibilité avec Corosync & Pacemaker

HA cluster architecture

Principes :

  • clusters multi-nœuds ou multi-sites,
  • fencing via IPMI,
  • provisioning PXE / NTP / DNS / TFTP,
  • pour 2 nœuds : attention au split-brain,
  • 3 nœuds ou plus recommandés en production.

Ressources fréquentes

  • multipath, LUNs, LVM, NFS,
  • processus applicatifs,
  • IP virtuelles, DNS, listeners réseau.

HPC

Overview of an HPC cluster

  • orchestration de jobs (SLURM ou équivalent),
  • stockage partagé haute performance,
  • intégration possible avec des workloads IA.

DevSecOps

DevSecOps reference design

  • CI/CD avec contrôles de sécurité intégrés,
  • observabilité dès la conception,
  • scans de vulnérabilité,
  • gestion des secrets,
  • policy-as-code.

News & trends


Formation & apprentissage


Liens cloud & IT utiles


Outils collaboratifs

Dépôts de code

Base de connaissance

Messagerie

  • contact interne / support selon les projets

SSO


À propos & contributions

Suggestions de corrections, améliorations de schémas, retours d’expérience ou nouveaux labs bienvenus.

Ce wiki a vocation à rester un laboratoire vivant pour l’IA, le cloud et l’automatisation.