Main Page: Difference between revisions

From Essential
Jump to navigation Jump to search
(Nettoyage Priorités: suppression des injections GitHub Trending dans Backlog/Agents IA. -39% contenu.)
Tag: Reverted
(Nettoyage Priorités: suppression des injections GitHub Trending dans Backlog/Agents IA. -52% contenu.)
Tag: Reverted
Line 39: Line 39:


; 1. Construire un assistant IA privé
; 1. Construire un assistant IA privé
* Déployer une stack type '''Hermes WebUI + Ollama + GPU'''
* Déployer une stack type '''Open WebUI + Ollama + GPU'''
* Ajouter un modèle de chat et un modèle de résumé
* Ajouter un modèle de chat et un modèle de résumé
* Brancher des données internes via '''RAG + embeddings'''
* Brancher des données internes via '''RAG + embeddings'''
Line 71: Line 71:
* les déploiements sont industrialisés,
* les déploiements sont industrialisés,
* l’infrastructure reste '''compréhensible, portable et réutilisable'''.
* l’infrastructure reste '''compréhensible, portable et réutilisable'''.
Chaque sortie IA est mesurée en temps réel, les modèles faibles sont remplacés automatiquement, et les tâches sans valeur sont coupées. L'autonomie vient de mécanismes techniques qui fonctionnent quand personne ne regarde — pas de règles écrites dans un doc.


[[File:SUMMARY-DIAGRAM-7311e6b1-aede-4989-ade2-a42d1a6e0ff2.png|thumb|right|Main page summary]]
[[File:SUMMARY-DIAGRAM-7311e6b1-aede-4989-ade2-a42d1a6e0ff2.png|thumb|right|Main page summary]]
Line 84: Line 82:
! Catégorie !! Service !! Rôle
! Catégorie !! Service !! Rôle
|-
|-
| API || [https://api-nothink.ailab.infocepo.com/docs LLM] || Modèles de chat, code, RAG, OCR
| API || [https://api.ailab.infocepo.com:wait-2026-06 LLM] || Modèles de chat, code, RAG, OCR
|-
|-
| API || [https://api-audio2txt.ailab.infocepo.com/docs STT] || Transcription audio
| API || [https://api-audio2txt.ailab.infocepo.com/docs STT] || Transcription audio
Line 92: Line 90:
| API || [https://github.com/ynotopec/api-realtime-ai realtime-ai] || Temps réel WebSocket / WebRTC
| API || [https://github.com/ynotopec/api-realtime-ai realtime-ai] || Temps réel WebSocket / WebRTC
|-
|-
| API || [https://api-nothink.ailab.infocepo.com/docs IMAGE2TXT] || OCR / VLM via endpoint dédié
| API || [https://api.ailab.infocepo.com:wait-2026-06 IMAGE2TXT] || OCR / VLM via endpoint dédié
|-
|-
| API || [https://api-summary.ailab.infocepo.com:wait-2026-12/docs summary] || Résumé de textes longs
| API || [https://api-summary.ailab.infocepo.com:wait-2026-06/docs summary] || Résumé de textes longs
|-
|-
| API || [https://api-embedding.ailab.infocepo.com/docs EMBEDDINGS] || Embeddings pour RAG
| API || [https://text-embeddings.ailab.infocepo.com:wait-2026-06/docs text2embeddings] || Embeddings pour RAG
|-
|-
| API || [https://chromadb.ailab.infocepo.com:wait-2026-12 ChromaDB] || Base vecteur
| API || [https://chromadb.ailab.infocepo.com:wait-2026-06 ChromaDB] || Base vecteur
|-
|-
| API || [https://api-txt2image.ailab.infocepo.com/docs TXT2IMAGE] || Génération d’images
| API || [https://api-txt2image.ailab.infocepo.com/docs TXT2IMAGE] || Génération d’images
Line 104: Line 102:
| API || [https://api-diarization.ailab.infocepo.com/docs diarization] || Segmentation locuteurs
| API || [https://api-diarization.ailab.infocepo.com/docs diarization] || Segmentation locuteurs
|-
|-
| Observabilité || [https://grafana.ailab.infocepo.com:wait-2026-12 monitoring] || Dashboards techniques
| Observabilité || [https://grafana.ailab.infocepo.com:wait-2026-06 monitoring] || Dashboards techniques
|-
|-
| Observabilité || [https://uptime-kuma.ailab.infocepo.com:wait-2026-12/status/ai status] || Disponibilité des services
| Observabilité || [https://uptime-kuma.ailab.infocepo.com:wait-2026-06/status/ai status] || Disponibilité des services
|-
|-
| Observabilité || [https://web-stat.c1.ailab.infocepo.com:wait-2026-12 web-stat] || Statistiques web
| Observabilité || [https://web-stat.c1.ailab.infocepo.com:wait-2026-06 web-stat] || Statistiques web
|-
|-
| Observabilité || [https://api.ailab.infocepo.com:wait-2026-09/ui LLM-stat] || Vue API / usage
| Observabilité || [https://api.ailab.infocepo.com:wait-2026-06/ui LLM-stat] || Vue API / usage
|-
|-
| Outils || [https://datalab.ailab.infocepo.com:wait-2026-12 dataLab] || Environnement de travail hors-production
| Outils || [https://datalab.ailab.infocepo.com:wait-2026-06 dataLab] || Environnement de travail hors-production
|-
|-
| Outils || [https://translate-rt.ailab.infocepo.com realtime translation] || Traduction
| Outils || [https://translate-rt.ailab.infocepo.com realtime translation] || Traduction
Line 120: Line 118:


----
----
= Sélection AI & architecture par couche =
Le tableau de bord [https://ai.arch.infocepo.com '''Sélection AI'''] présente l'architecture par couche des modèles IA déployés :
{| class="wikitable"
! Couche !! Modèle !! Alias(s) !! Notes
|-
| rowspan="6" style="text-align:center; vertical-align:middle; background:#f0f0f0;"| '''HYBRID-CLOUD'''
| '''Qwen3.X-XXB''' || flash, default, thinking, vision, org || 35B MoE — Option 1
|-
| '''Qwen3.8-Flash-Next''' || flash, default, thinking, org, max, vision || 125B MoE — Option 2
|-
| '''MiniMax-H3''' || video || 33B
|-
| '''BGE-M3''' || embedding || 568M
|-
| '''BGE-reranker-v2-m3''' || reranker || 568M
|-
| '''FLUX.2-klein-4B''' || Image || 4B
|-
| rowspan="2" style="text-align:center; vertical-align:middle; background:#f0f0f0;"| '''LOCAL'''
| '''Ornith-1.5-9B''' || flash, default, thinking, vision, org || 9B — Option 1
|-
| '''Qwen3.8-27B''' || flash, default, thinking, vision, org, max || 27.8B — Option 2
|}
== Frameworks ==
{| class="wikitable"
! Outil !! Usage
|-
| '''Hermes''' || Usage général, raisonnement
|-
| '''OpenCode''' || DevSecOps
|-
| '''Kilo Code''' || Développement pur
|}
== Mémoire ==
Pour la couche d'embedding vectoriel (RAG, mémoire sémantique) :
* '''BGE-M3''' — 568M paramètres, architecture XLM-RoBERTa. Multi-fonction (dense + sparse + multi-vector), 100+ langues, licence MIT. Idéal comme moteur de mémoire à échelle.


= Nouveautés =
= Nouveautés =


== Nouveautés implémentés 12/08/2026 ==
== Nouveautés 03/06/2026 ==
 
* [https://docs.openwebui.com/features/workspace/knowledge'''Agentic RAG'''] : compatibilité Open WebUI avec Agentic RAG.
* [https://github.com/ynotopec/api-txt2image '''api-txt2image'''] (2026-08-29) : Text-to-image generation API for AI-powered image creation
* [https://translate-rt.ailab.infocepo.com '''Traduction temps réel'''] : réduction significative des hallucinations lors des silences, diminution de la latence et ajout de la plupart des langues en TTS.
* [https://github.com/ynotopec/dind-build '''dind-build'''] (2026-08-29) : Docker-in-Docker build factory on Kubernetes — build, push, pull via K8s DinD pod
* [https://api-tts-omnivoice.ailab.infocepo.com '''TTS Omnivoice'''] : Qualité TTS augmenté et ajout plus global des langues (600).
* [https://github.com/ynotopec/quality-gate '''quality-gate'''] (2026-08-28) : Quality gate auto - auto-scoring, detection hallucination, verification citations, fix patterns regex
* [https://api-lightrag.ailab.infocepo.com '''LightRAG'''] : LightRAG est un framework RAG avancé et léger qui combine graphes de connaissances et recherche vectorielle pour une analyse contextuelle profonde et efficace.
* [https://github.com/ynotopec/agent-saas '''agent-saas'''] (2026-08-27) : SaaS AI agent platform — deploy autonomous AI agents as a service
* [https://api-reranker.ailab.infocepo.com '''API reranker'''].
* [https://github.com/ynotopec/api-convert2md '''api-convert2md'''] (2026-08-26) : Document-to-Markdown conversion API — clean markdown from various formats
* [https://api-embedding.ailab.infocepo.com '''API embedding'''].
* [https://github.com/ynotopec/qwen36-sglang '''qwen36-sglang'''] (2026-08-24) : Qwen 3.6 deployment with SGLang for high-performance inference
* [https://huggingface.co/openai/privacy-filter '''privacy-filter'''] : filtrage données personnelles.
* [https://github.com/ynotopec/trafilatura-local '''trafilatura-local'''] (2026-08-23) : Initial: service extraction trafilatura-local (clean)
* [https://github.com/multica-ai/andrej-karpathy-skills '''Un seul fichier CLAUDE.md'''] inspiré d'Andrej Karpathy pour transformer Claude en un vrai ingénieur logiciel.
* [https://github.com/ynotopec/api-rag '''api-rag'''] (2026-08-19) : RAG API — semantic search over knowledge bases with retrieval-augmented generation
* [https://qwen.ai/blog/qwen3.6 '''Qwen3.6'''] : Qwen3.6 delivers substantial upgrades in agentic coding and thinking preservation than previous Qwen models.
* [https://github.com/ynotopec/models-todo '''models-todo'''] (2026-08-19) : HuggingFace Model Tracker Dashboard - generate_top100_dow.py + deploy
* [https://github.com/NousResearch/hermes-agent '''Hermes Agent'''] : l'agent qui s'améliore et grandit avec toi.
* [https://github.com/ynotopec/minimax-music3 '''minimax-music3'''] (2026-08-18) : Initial: studio generation musique IA MiniMax-Music3
* [https://github.com/ynotopec/api-audio2txt-gemma4 '''gemma4 STT'''] : API de transcription compatible OpenAI. La qualité est très bonne. Il faut comparer avec Whisper3-turbo. Il est plus gourmand en mémoire. Il ne retourne pas de "timestamp" "sentence".
* [https://github.com/ynotopec/hermes-img-gen-infocepo '''hermes-img-gen-infocepo'''] (2026-08-15) : Plugin Hermes Image Gen pour API TXT2IMAGE infocepo
* [https://github.com/anomalyco/opencode '''opencode'''] : CLI coder à comparer avec Aider / OpenHands. (⚠️ migration : ancienne URL `github.com/sst/opencode` → redirige vers `anomalyco/opencode`)
* [https://github.com/ynotopec/api-llm-custom '''api-llm-custom'''] (2026-08-13) : Custom LLM proxy API — route requests to any language model backend
* [https://github.com/ynotopec/api-convert2md '''api-convert2md'''] : extraction de tableaux pour RAG compatible Open WebUI.
* [https://github.com/ynotopec/infocepo-infra-mcp '''infocepo-infra-mcp'''] (2026-08-12) : Fix wiki cache permission failures (PR #7)
* Mise à jour des paramètres RAG optimisation : bge-m3 (chunk 1200, 100 overlap).
* [https://github.com/ynotopec/api-mcp-openai '''api-mcp-openai'''] (2026-08-11) : AI MCP OpenAI Integration — Selection port libre, simplification setup (PR #2)
* Ajout de [https://github.com/ynotopec/coder-brain/blob/main/first-architecture.md '''brains expérimentaux'''].
* [https://github.com/ynotopec/api-embedding '''api-embedding'''] (2026-08-07) : Text embedding API — convert text to vector embeddings for semantic search (PR #7)
* Ajout de [https://github.com/ynotopec/legal-agent '''legal-agent'''].
* [https://github.com/ynotopec/api-reranker '''api-reranker'''] (2026-08-06) : Cross-encoder reranking API for improving search retrieval quality (PR #2)
* Ajout de [https://github.com/ynotopec/ai-security '''ai-security'''].
* [https://langextract.ailab.infocepo.com '''langextract'''] : démo extraction d'entités. (⚠️ nécessite authentification)
* [https://sam-audio.c1.ailab.infocepo.com '''sam-audio'''] : séparation audio sémantique. (⚠️ inaccessible depuis l'extérieur — sous-domaine c1 réservé au réseau interne)
* Ajout de l'[https://github.com/ynotopec/api-realtime-ai '''API Realtime'''] : WebRTC / WebSocket bidirectionnel basse latence.


----
----


= Priorités =
= Priorités =


== Top tasks ==
== Top tasks ==
Line 199: Line 153:
* Ajouter [https://github.com/vllm-project/guidellm '''GuideLLM'''] : capacity planning / benchmark réaliste.
* Ajouter [https://github.com/vllm-project/guidellm '''GuideLLM'''] : capacity planning / benchmark réaliste.
* Ajouter [https://github.com/NVIDIA-NeMo/Guardrails '''NeMo Guardrails'''] : garde-fous et politiques.
* Ajouter [https://github.com/NVIDIA-NeMo/Guardrails '''NeMo Guardrails'''] : garde-fous et politiques.
* '''Coût unitaire par tâche''' : chaque API doit exposer son prix/ml/token en temps réel — pas une facture mensuelle.
* '''Qualité auto''' : précision/hallucination rate branchés sur les sorties IA, avec rollback automatique si qualité < seuil.


== Backlog / Veille Technologique ==
== Backlog / Veille Technologique ==


=== Agents IA & Orchestration ===
=== Agents IA & Orchestration ===
 
* [https://github.com/paperclipai/paperclip Paperclip] — Orchestrateur open-source pour coordonner et superviser une équipe d'agents IA autonomes
 
* [https://github.com/openclaw/openclaw OpenClaw]
 
* [https://github.com/All-Hands-AI/OpenHands OpenHands] — Agent IA autonome pour le développement logiciel
* [https://github.com/langgenius/dify Dify] — Plateforme de développement d'applications IA (LLM Ops)
* [https://github.com/browser-use/browser-use browser-use] — Framework pour contrôler les navigateurs via des agents IA
* [https://github.com/langchain-ai/langchain LangChain] — Framework pour applications basées sur les LLM
* [https://github.com/FlowiseAI/Flowise FlowiseAI] — Build LLM apps visually
* [https://github.com/RasaHQ/rasa '''Rasa'''] — Framework open-source pour chatbots et assistants vocaux


=== Audio & TTS ===
=== Audio & TTS ===
* [https://huggingface.co/Supertone/supertonic-3 '''Superto
* [https://huggingface.co/Supertone/supertonic-3 '''Supertonic-3'''] — TTS léger pour inférence locale, ONNX Runtime, zéro cloud
* [https://github.com/SYSTRAN/faster-whisper '''faster-whisper (mutualisé)'''] — Transcription speech-to-text optimisée
* [https://huggingface.co/Qwen/Qwen3-Omni-30B-A3B-Instruct '''Qwen3-Omni-30B-A3B-Instruct'''] — Modèle multimodal Qwen (audio + texte + image)
* [https://huggingface.co/Qwen/Qwen3-Omni-30B-A3B-Instruct '''Qwen3-Omni-30B-A3B-Instruct'''] — Modèle multimodal Qwen (audio + texte + image)
* '''nemotron-3.5-asr-streaming-0.6b''' — Modèle ASR streaming NVIDIA, faible latence pour transcription temps réel
* '''nemotron-3.5-asr-streaming-0.6b''' — Modèle ASR streaming NVIDIA, faible latence pour transcription temps réel
Line 220: Line 178:
* '''RAG sur PDF avec images'''
* '''RAG sur PDF avec images'''
* [https://huggingface.co/ibm-granite/granite-docling-258M '''granite-docling-258M'''] — Parsing structuré de documents IBM Granite
* [https://huggingface.co/ibm-granite/granite-docling-258M '''granite-docling-258M'''] — Parsing structuré de documents IBM Granite
 
* [https://github.com/deepset-ai/haystack '''Haystack'''] — Framework RAG end-to-end (deepset)
 
* [https://github.com/mem0ai/mem0 '''Mem0'''] — Mémorie à long terme pour agents IA
* [https://github.com/meilisearch/meilisearch '''meilisearch'''] — Moteur de recherche full-text


=== APIs à Développer ===
=== APIs à Développer ===
Line 230: Line 189:


=== Infrastructure & Backend ===
=== Infrastructure & Backend ===
* [https://github.com/temporalio/temporal '''Temporal'''] — Orchestration de workflows critiques
* [https://github.com/vllm-project/semantic-router '''Semantic Router'''] — Routage sémantique de requêtes vLLM
* [https://github.com/supabase/supabase '''Supabase'''] — Alternative open-source Firebase (PostgreSQL, Auth, etc.)
* [https://github.com/metabase/metabase '''Metabase'''] — Analytics et dashboards open-source
* [https://github.com/n8n-io/n8n '''N8N'''] — Workflow automation open-source


=== Outils Dev ===
=== Outils Dev ===
* [https://github.com/Aider-AI/aider '''Aider'''] — Assistant de codage IA en ligne de commande
* [https://github.com/continuedev/continue '''Continue'''] — Extension IDE IA (VS Code, JetBrains)
* [https://modelcontextprotocol.io '''MCP LLM'''] — Modèle de langage via Model Context Protocol
* [https://modelcontextprotocol.io '''MCP LLM'''] — Modèle de langage via Model Context Protocol


Line 237: Line 203:


== Assistants IA ==
== Assistants IA ==
; '''ChatGPT'''
* [https://chatgpt.com '''ChatGPT'''] – Assistant conversationnel public, utile pour exploration, rédaction, expérimentation rapide.


; '''Assistants IA auto-hébergés'''
; '''Assistants IA auto-hébergés'''
* [https://github.com/open-webui/open-webui Open WebUI] + [https://ollama.com Ollama] + GPU 
: Stack typique pour assistant privé, API OpenAI-compatible et expérimentation locale.
: Stack typique pour assistant privé, API OpenAI-compatible et expérimentation locale.
* [https://github.com/ynotopec/summarize Private summary] 
: Outil de résumé local, rapide et hors ligne.


== Développement, modèles & veille ==
== Développement, modèles & veille ==
Line 250: Line 222:


; '''Outils de développement & fine-tuning'''
; '''Outils de développement & fine-tuning'''
* [https://github.com/trending?since=weekly '''Project Trending''']
* [https://grok.com '''News search''']
* [https://grok.com '''News search''']


Line 267: Line 240:
! Variable !! Valeur
! Variable !! Valeur
|-
|-
| OPENAI_API_BASE || <code>wss://api-realtime-ai.ailab.infocepo.com:wait-2026-12/v1</code>
| OPENAI_API_BASE || <code>wss://api-realtime-ai.ailab.infocepo.com:wait-2026-06/v1</code>
|-
|-
| OPENAI_API_KEY || <code>sk-XXXXX</code>
| OPENAI_API_KEY || <code>sk-XXXXX</code>
Line 273: Line 246:


== Dépôt GitHub ==
== Dépôt GitHub ==
* [https://github.com/ynotopec/api-realtime-ai ynotopec/api-realtime-ai]


== Page de test ==
== Page de test ==
Line 284: Line 258:
= API LLM (OpenAI compatible) =
= API LLM (OpenAI compatible) =


* URL de base : <code>https://api-nothink.ailab.infocepo.com/v1</code>
* URL de base : <code>https://api.ailab.infocepo.com:wait-2026-06/v1</code>
* Création du token : [https://llm-token.ailab.infocepo.com:wait-2026-12 OPENAI_API_KEY]
* Création du token : [https://llm-token.ailab.infocepo.com:wait-2026-06 OPENAI_API_KEY]
* Documentation : [https://api-nothink.ailab.infocepo.com/docs Documentation API]
* Documentation : [https://api.ailab.infocepo.com:wait-2026-06 Documentation API]


== Liste des modèles ==
== Liste des modèles ==
<pre>
<pre>
curl -X GET \
curl -X GET \
   'https://api-nothink.ailab.infocepo.com/v1/models' \
   'https://api.ailab.infocepo.com:wait-2026-06/v1/models' \
   -H 'Authorization: Bearer sk-XXXXX' \
   -H 'Authorization: Bearer sk-XXXXX' \
   -H 'accept: application/json' \
   -H 'accept: application/json' \
Line 299: Line 273:
== Modèles ouverts & endpoints internes ==
== Modèles ouverts & endpoints internes ==


''Dernière mise à jour : 2026-06-30''
''Dernière mise à jour : 2026-04-20''


Les modèles ci-dessous correspondent à des '''endpoints logiques''' exposés derrière une passerelle.
Les modèles ci-dessous correspondent à des '''endpoints logiques''' exposés derrière une passerelle.
Line 305: Line 279:
{| class="wikitable"
{| class="wikitable"
! Endpoint !! Description / usage principal
! Endpoint !! Description / usage principal
|-
| '''ai-multilingual''' || '''qwen3.6 fp8''' en mode '''nothink''' – multilingual
|-
| '''ai-tools''' || '''qwen3.6 fp8''' – tâches agentiques et outils
|-
|-
| '''ai-thinking''' || '''qwen3.6 fp8''' – thinking
| '''ai-thinking''' || '''qwen3.6 fp8''' – thinking
|-
|-
| '''ai-fast''' || '''qwen3.6 fp8''' en mode '''fast''' – vision/OCR/ai-default
| '''ai-vision''' || '''qwen3.6 fp8''' en mode '''nothink''' – vision/OCR
|-
|-
| '''ai-embedding''' || '''bge-m3''' – recherche sémantique
| '''ai-embedding''' || '''bge-m3''' – recherche sémantique
Line 321: Line 299:
== Exemple bash ==
== Exemple bash ==
<pre>
<pre>
export OPENAI_API_MODEL="ai-default"
export OPENAI_API_MODEL="ai-chat"
export OPENAI_API_BASE="https://api-nothink.ailab.infocepo.com/v1"
export OPENAI_API_BASE="https://api.ailab.infocepo.com:wait-2026-06/v1"
export OPENAI_API_KEY="sk-XXXXX"
export OPENAI_API_KEY="sk-XXXXX"


Line 332: Line 310:
}'
}'


curl ${OPENAI_API_BASE}/chat/completions \
curl -k ${OPENAI_API_BASE}/chat/completions \
   -H "Content-Type: application/json" \
   -H "Content-Type: application/json" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
Line 388: Line 366:
}' > payload.json
}' > payload.json


curl https://api-nothink.ailab.infocepo.com/v1/chat/completions \
curl https://api.ailab.infocepo.com:wait-2026-06/v1/chat/completions \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Authorization: Bearer $OPENAI_API_KEY" \
   -H "Content-Type: application/json" \
   -H "Content-Type: application/json" \
Line 404: Line 382:
MODEL = "ai-vision"
MODEL = "ai-vision"
IMG_PATH = "/path/to/image.png"
IMG_PATH = "/path/to/image.png"
API_URL = "https://api-nothink.ailab.infocepo.com/v1/chat/completions"
API_URL = "https://api.ailab.infocepo.com:wait-2026-06/v1/chat/completions"


with open(IMG_PATH, "rb") as f:
with open(IMG_PATH, "rb") as f:
Line 492: Line 470:
* URL : <code>https://api-tts-omnivoice.ailab.infocepo.com/v1</code>
* URL : <code>https://api-tts-omnivoice.ailab.infocepo.com/v1</code>
* Clé : <code>OPENAI_API_KEY=sk-XXXXX</code>
* Clé : <code>OPENAI_API_KEY=sk-XXXXX</code>
* Documentation : [https://api-tts-omnivoice.ailab.infocepo.com/docs API TTS docs]
* Documentation : [https://tts.ailab.infocepo.com:wait-2026-06/docs API TTS docs]


== Exemple ==
== Exemple ==
Line 551: Line 529:
= API Summary =
= API Summary =


* Documentation : [https://api-summary.ailab.infocepo.com:wait-2026-12/docs API Summary docs]
* Documentation : [https://api-summary.ailab.infocepo.com:wait-2026-06/docs API Summary docs]


== Exemple ==
== Exemple ==
Line 559: Line 537:
json_payload=$(jq -nc --arg text "$text" '{"text": $text}')
json_payload=$(jq -nc --arg text "$text" '{"text": $text}')


curl -X POST https://api-summary.ailab.infocepo.com:wait-2026-12/summary/ \
curl -X POST https://api-summary.ailab.infocepo.com:wait-2026-06/summary/ \
   -H "Content-Type: application/json" \
   -H "Content-Type: application/json" \
   -d "$json_payload"
   -d "$json_payload"
Line 568: Line 546:
= API Text Embeddings =
= API Text Embeddings =


* URL : <code>https://api-embedding.ailab.infocepo.com/v1</code>
* URL : <code>https://text-embeddings.ailab.infocepo.com:wait-2026-06</code>
* Documentation : [https://api-embedding.ailab.infocepo.com/docs Documentation]
* Documentation : [https://text-embeddings.ailab.infocepo.com:wait-2026-06/docs Documentation]


== Exemple ==
== Exemple ==
<pre>
<pre>
curl https://api-embedding.ailab.infocepo.com/v1/embeddings \
curl -k https://text-embeddings.ailab.infocepo.com:wait-2026-06/embed \
   -X POST \
   -X POST \
   -d '{"model":"bge-m3","input":"What is Deep Learning?"}' \
   -d '{"inputs":"What is Deep Learning?"}' \
   -H 'Content-Type: application/json'
   -H 'Content-Type: application/json'
</pre>
</pre>
Line 584: Line 562:


== Production ==
== Production ==
* URL : <code>https://chromadb.ailab.infocepo.com:wait-2026-12</code>
* URL : <code>https://chromadb.ailab.infocepo.com:wait-2026-06</code>
* Token : <code>XXXXX</code>
* Token : <code>XXXXX</code>


== Lab ==
== Lab ==
<pre>
<pre>
export CHROMA_HOST=https://chromadb.c1.ailab.infocepo.com:wait-2026-12
export CHROMA_HOST=https://chromadb.c1.ailab.infocepo.com:wait-2026-06
export CHROMA_PORT=443
export CHROMA_PORT=443
export CHROMA_TOKEN=XXXX
export CHROMA_TOKEN=XXXX
Line 655: Line 633:
= Registry =
= Registry =


* URL : [https://registry.ailab.infocepo.com:wait-2026-09 registry.ailab.infocepo.com:wait-2026-09]
* URL : [https://registry.ailab.infocepo.com:wait-2026-06 registry.ailab.infocepo.com:wait-2026-06]
* Login : <code>user</code>
* Login : <code>user</code>
* Password : <code>XXXXX</code>
* Password : <code>XXXXX</code>
Line 661: Line 639:
== Exemple ==
== Exemple ==
<pre>
<pre>
curl -u "user:XXXXX" https://registry.ailab.infocepo.com:wait-2026-09/v2/_catalog
curl -u "user:XXXXX" https://registry.ailab.infocepo.com:wait-2026-06/v2/_catalog
</pre>
</pre>


Line 670: Line 648:


kubectl -n ${nameSpace} create secret docker-registry pull-secret \
kubectl -n ${nameSpace} create secret docker-registry pull-secret \
   --docker-server=registry.ailab.infocepo.com:wait-2026-09 \
   --docker-server=registry.ailab.infocepo.com:wait-2026-06 \
   --docker-username=user \
   --docker-username=user \
   --docker-password=XXXXX \
   --docker-password=XXXXX \
Line 683: Line 661:
= Stockage objet externe (S3) =
= Stockage objet externe (S3) =


* Endpoint : <code>https://s3.ailab.infocepo.com:wait-2026-09</code>
* Endpoint : <code>https://s3.ailab.infocepo.com:wait-2026-06</code>
* Access key : <code>XXXX</code>
* Access key : <code>XXXX</code>
* Secret key : <code>XXXX</code>
* Secret key : <code>XXXX</code>
Line 694: Line 672:


* Embeddings : <code>BAAI/bge-m3</code>
* Embeddings : <code>BAAI/bge-m3</code>
* <code>chunk_size=1000</code>
* <code>chunk_size=1200</code>
* <code>chunk_overlap=100</code>
* <code>chunk_overlap=100</code>
* LLM : <code>qwen3.6</code>
* LLM : <code>qwen3.6</code>
Line 701: Line 679:
----
----


= Workflow =
= Processus usine IA =


Autoroute directe : code → CI/CD → deploy → monitoring. Pas de comité, pas de responsable désigné — chaque étape se déclenche automatiquement si la précédente passe. Si ça rate, alerte directe sans passer par un humain sauf décision explicite de fallback.
{| class="wikitable" style="width:80%;"
! Étape !! Description !! Outils utilisés !! Responsable(s)
|-
| 1 || Idée || - || Équipe projet
|-
| 2 || Développement || Environnement Onyxia / lab || Équipe projet
|-
| 3 || Déploiement || CI/CD, GitHub, Kubernetes || Équipe DevOps
|-
| 4 || Surveillance || Uptime-Kuma, dashboards || Équipe DevOps
|-
| 5 || Alertes || Mattermost || Équipe DevOps
|-
| 6 || Support infrastructure || - || Équipe SRE
|-
| 7 || Support applicatif || - || Équipe applicative
|}


----
----
Line 710: Line 704:


== Hors production ==
== Hors production ==
* Utiliser [https://datalab.ailab.infocepo.com:wait-2026-12 datalab]
* Utiliser [https://datalab.ailab.infocepo.com:wait-2026-06 datalab]
* Support : canal Mattermost Offre IA
* Support : canal Mattermost Offre IA
* Le pseudo utilisateur doit respecter la convention interne
* Le pseudo utilisateur doit respecter la convention interne
Line 722: Line 716:
== Limites de l’infrastructure ==
== Limites de l’infrastructure ==
* Les charges GPU sont intentionnellement limitées en journée.
* Les charges GPU sont intentionnellement limitées en journée.
* Coût unitaire mesuré automatiquement (dashboards temps réel, pas Excel).
 
----
----


Line 782: Line 775:
| Extinction / redémarrage simultané de tous les nœuds || Les services repartent correctement après reboot
| Extinction / redémarrage simultané de tous les nœuds || Les services repartent correctement après reboot
|}
|}
'''Autonomie testée''' : vérifier que la migration fonctionne seule en tirant le repo et lançant le script, sans personne qui connaît le système de tête.


----
----
Line 808: Line 798:
== Références ==
== Références ==
* [https://wikitech.wikimedia.org/wiki/Wikimedia_infrastructure Wikimedia infrastructure]
* [https://wikitech.wikimedia.org/wiki/Wikimedia_infrastructure Wikimedia infrastructure]
* [https://github.com/systemdesign42/system-design System Design GitHub]


----
----
Line 879: Line 870:
* [https://www.youtube.com/@lev-selector/videos Top AI News]
* [https://www.youtube.com/@lev-selector/videos Top AI News]
* [https://betterprogramming.pub/color-your-captions-streamlining-live-transcriptions-with-diart-and-openais-whisper-6203350234ef Real-time transcription with Diart + Whisper]
* [https://betterprogramming.pub/color-your-captions-streamlining-live-transcriptions-with-diart-and-openais-whisper-6203350234ef Real-time transcription with Diart + Whisper]
* [https://github.com/openai-translator/openai-translator OpenAI Translator]
* [https://opensearch.org/docs/latest/search-plugins/conversational-search Opensearch with LLM]
* [https://opensearch.org/docs/latest/search-plugins/conversational-search Opensearch with LLM]


Line 906: Line 898:


== Dépôts de code ==
== Dépôts de code ==
* [https://github.com/ynotopec GitHub ynotopec]


== Base de connaissance ==
== Base de connaissance ==
* [https://infocepo.com '''ce wiki''']
* ce wiki


== Messagerie ==
== Messagerie ==
Line 914: Line 907:


== SSO ==
== SSO ==
* [https://auth-lab.ailab.infocepo.com:wait-2026-12/auth Keycloak]
* [https://auth-lab.ailab.infocepo.com:wait-2026-06/auth Keycloak]
 
== MLflow ==
* [[MLFlow|MLFlow]]


----
----

Revision as of 12:59, 7 September 2026

Discover cloud and AI on infocepo.com

infocepo.com – Cloud, AI & Labs

Bienvenue sur le portail infocepo.com.

Ce wiki documente l’écosystème Cloud, IA, automatisation et lab d’Infocepo. Il s’adresse aux :

  • administrateurs systèmes,
  • ingénieurs cloud,
  • développeurs,
  • étudiants,
  • curieux qui veulent apprendre en pratiquant.

L’objectif est simple : transformer la théorie en scripts réutilisables, schémas, architectures, APIs et laboratoires concrets.


Accès rapide

Portail principal

Assistant IA

Liste des pages du wiki

Vue d’ensemble

Infra architecture overview

Démarrer rapidement

Parcours recommandés

1. Construire un assistant IA privé
  • Déployer une stack type Open WebUI + Ollama + GPU
  • Ajouter un modèle de chat et un modèle de résumé
  • Brancher des données internes via RAG + embeddings
2. Lancer un lab cloud
  • Créer un petit cluster Kubernetes, OpenStack ou bare-metal
  • Mettre en place un pipeline de déploiement (Helm, Ansible, Terraform…)
  • Ajouter un service IA : transcription, résumé, chatbot, OCR…
3. Préparer un audit ou une migration
  • Inventorier les serveurs avec ServerDiff.sh
  • Concevoir l’architecture cible
  • Automatiser la migration avec des scripts reproductibles

Vue d’ensemble du contenu

  • Guides IA & outils : assistants, modèles, évaluation, GPU, RAG
  • Cloud & infrastructure : Kubernetes, OpenStack, HA, HPC, DevSecOps
  • Labs & scripts : audit, migration, automatisation
  • Comparatifs : Kubernetes vs OpenStack vs AWS vs bare-metal, etc.

Vision

The world after automation

Le but à long terme est de construire un environnement où :

  • les assistants IA privés accélèrent la production,
  • les tâches répétitives sont automatisées,
  • les déploiements sont industrialisés,
  • l’infrastructure reste compréhensible, portable et réutilisable.
Main page summary

Catalogue rapide des services

Services principaux
Catégorie Service Rôle
API LLM Modèles de chat, code, RAG, OCR
API STT Transcription audio
API TTS Synthèse vocale
API realtime-ai Temps réel WebSocket / WebRTC
API IMAGE2TXT OCR / VLM via endpoint dédié
API summary Résumé de textes longs
API text2embeddings Embeddings pour RAG
API ChromaDB Base vecteur
API TXT2IMAGE Génération d’images
API diarization Segmentation locuteurs
Observabilité monitoring Dashboards techniques
Observabilité status Disponibilité des services
Observabilité web-stat Statistiques web
Observabilité LLM-stat Vue API / usage
Outils dataLab Environnement de travail hors-production
Outils realtime translation Traduction
Outils Demos Démonstrateurs

Nouveautés

Nouveautés 03/06/2026

  • Agentic RAG : compatibilité Open WebUI avec Agentic RAG.
  • Traduction temps réel : réduction significative des hallucinations lors des silences, diminution de la latence et ajout de la plupart des langues en TTS.
  • TTS Omnivoice : Qualité TTS augmenté et ajout plus global des langues (600).
  • LightRAG : LightRAG est un framework RAG avancé et léger qui combine graphes de connaissances et recherche vectorielle pour une analyse contextuelle profonde et efficace.
  • API reranker.
  • API embedding.
  • privacy-filter : filtrage données personnelles.
  • Un seul fichier CLAUDE.md inspiré d'Andrej Karpathy pour transformer Claude en un vrai ingénieur logiciel.
  • Qwen3.6 : Qwen3.6 delivers substantial upgrades in agentic coding and thinking preservation than previous Qwen models.
  • Hermes Agent : l'agent qui s'améliore et grandit avec toi.
  • gemma4 STT : API de transcription compatible OpenAI. La qualité est très bonne. Il faut comparer avec Whisper3-turbo. Il est plus gourmand en mémoire. Il ne retourne pas de "timestamp" "sentence".
  • opencode : CLI coder à comparer avec Aider / OpenHands. (⚠️ migration : ancienne URL `github.com/sst/opencode` → redirige vers `anomalyco/opencode`)
  • api-convert2md : extraction de tableaux pour RAG compatible Open WebUI.
  • Mise à jour des paramètres RAG optimisation : bge-m3 (chunk 1200, 100 overlap).
  • Ajout de brains expérimentaux.
  • Ajout de legal-agent.
  • Ajout de ai-security.
  • langextract : démo extraction d'entités. (⚠️ nécessite authentification)
  • sam-audio : séparation audio sémantique. (⚠️ inaccessible depuis l'extérieur — sous-domaine c1 réservé au réseau interne)
  • Ajout de l'API Realtime : WebRTC / WebSocket bidirectionnel basse latence.

Priorités

Top tasks

  • Ajouter Presidio : anonymisation / masquage PII, socle RGPD.
  • Ajouter llm-d : blueprints + charts Kubernetes pour industrialiser les déploiements.
  • Ajouter Dynamo : orchestration inférence multi-nœuds.
  • Ajouter GuideLLM : capacity planning / benchmark réaliste.
  • Ajouter NeMo Guardrails : garde-fous et politiques.

Backlog / Veille Technologique

Agents IA & Orchestration

  • Paperclip — Orchestrateur open-source pour coordonner et superviser une équipe d'agents IA autonomes
  • OpenClaw
  • OpenHands — Agent IA autonome pour le développement logiciel
  • Dify — Plateforme de développement d'applications IA (LLM Ops)
  • browser-use — Framework pour contrôler les navigateurs via des agents IA
  • LangChain — Framework pour applications basées sur les LLM
  • FlowiseAI — Build LLM apps visually
  • Rasa — Framework open-source pour chatbots et assistants vocaux

Audio & TTS

  • Supertonic-3 — TTS léger pour inférence locale, ONNX Runtime, zéro cloud
  • faster-whisper (mutualisé) — Transcription speech-to-text optimisée
  • Qwen3-Omni-30B-A3B-Instruct — Modèle multimodal Qwen (audio + texte + image)
  • nemotron-3.5-asr-streaming-0.6b — Modèle ASR streaming NVIDIA, faible latence pour transcription temps réel

Génération & Édition d'Images

  • HiDream-O1-Image — Modèle unifié pixel-level (UiT), sans VAE externe — t2i, édition, personnalisation jusqu'à 2048×2048

RAG & Traitement de Documents

  • RAG sur PDF avec images
  • granite-docling-258M — Parsing structuré de documents IBM Granite
  • Haystack — Framework RAG end-to-end (deepset)
  • Mem0 — Mémorie à long terme pour agents IA
  • meilisearch — Moteur de recherche full-text

APIs à Développer

  • Classificateur IA — Classification de contenu
  • Résumé mutualisé — API de résumé de texte partagée
  • NER — Reconnaissance d'entités nommées
  • Compressor — Compression de contenu

Infrastructure & Backend

  • Temporal — Orchestration de workflows critiques
  • Semantic Router — Routage sémantique de requêtes vLLM
  • Supabase — Alternative open-source Firebase (PostgreSQL, Auth, etc.)
  • Metabase — Analytics et dashboards open-source
  • N8N — Workflow automation open-source

Outils Dev

  • Aider — Assistant de codage IA en ligne de commande
  • Continue — Extension IDE IA (VS Code, JetBrains)
  • MCP LLM — Modèle de langage via Model Context Protocol

Assistants IA & outils cloud

Assistants IA

ChatGPT
  • ChatGPT – Assistant conversationnel public, utile pour exploration, rédaction, expérimentation rapide.
Assistants IA auto-hébergés
Stack typique pour assistant privé, API OpenAI-compatible et expérimentation locale.
Outil de résumé local, rapide et hors ligne.

Développement, modèles & veille

Découverte de modèles
Évaluation & benchmarks
Outils de développement & fine-tuning

Matériel IA & GPU


API Realtime AI (DEV)

Statut : environnement DEV, remplaçante prévue de l’API OpenAI pour les cas temps réel.

Configuration

Variable Valeur
OPENAI_API_BASE wss://api-realtime-ai.ailab.infocepo.com:wait-2026-06/v1
OPENAI_API_KEY sk-XXXXX

Dépôt GitHub

Page de test

  • external-test/half-duplex.html — annulation d’écho + mode half-duplex.

Compatibilité

Remplacer l’URL OpenAI par $OPENAI_API_BASE pour tester compatibilité et performances.


API LLM (OpenAI compatible)

Liste des modèles

curl -X GET \
  'https://api.ailab.infocepo.com:wait-2026-06/v1/models' \
  -H 'Authorization: Bearer sk-XXXXX' \
  -H 'accept: application/json' \
  | jq | sed -rn 's#^.*id.*: "(.*)".*$#* \1#p' | sort -u

Modèles ouverts & endpoints internes

Dernière mise à jour : 2026-04-20

Les modèles ci-dessous correspondent à des endpoints logiques exposés derrière une passerelle.

Endpoint Description / usage principal
ai-multilingual qwen3.6 fp8 en mode nothink – multilingual
ai-tools qwen3.6 fp8 – tâches agentiques et outils
ai-thinking qwen3.6 fp8 – thinking
ai-vision qwen3.6 fp8 en mode nothink – vision/OCR
ai-embedding bge-m3 – recherche sémantique
ai-stt whisper3-turbo – transcription vocale multilingual
ai-tts OmniVoice – TTS multilingual
ai-image OpenDalle – image génération

Exemple bash

export OPENAI_API_MODEL="ai-chat"
export OPENAI_API_BASE="https://api.ailab.infocepo.com:wait-2026-06/v1"
export OPENAI_API_KEY="sk-XXXXX"

promptValue="Quel est ton nom ?"
jsonValue='{
  "model": "'${OPENAI_API_MODEL}'",
  "messages": [{"role": "user", "content": "'${promptValue}'"}],
  "temperature": 0
}'

curl -k ${OPENAI_API_BASE}/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d "${jsonValue}" 2>/dev/null | jq '.choices[0].message.content'

Vue infra LLM

DEV (au choix)

  • A. LiteLLM → vLLM/SgLang : tests perf / compatibilité
  • B. LiteLLM → Ollama : simple, rapide à itérer
  • C. Ollama direct : POC ultra-léger

DEV – modèle FR / résumé

  • LiteLLM → Ollama /v1

PROD

  • Standard : LiteLLM → vLLM/SgLang
  • Pont DEV→PROD : LiteLLM (DEV) → LiteLLM (PROD) → vLLM/SgLang

Notes :

  • LiteLLM = passerelle unique (clés, quotas, logs)
  • vLLM/SgLang = performance / stabilité en charge
  • Ollama = simplicité de prototypage

API Image to Text

  • Utilise l’API LLM avec un endpoint adapté à l’OCR / VLM.
  • Modèle recommandé : ai-vision

Exemple bash

OPENAI_API_KEY=sk-XXXXX

base64 -w0 "/path/to/image.png" > img.b64

jq -n --rawfile img img.b64 \
'{
  model: "ai-vision",
  messages: [
    {
      role: "user",
      content: [
        { "type": "text", "text": "Décris cette image." },
        {
          "type": "image_url",
          "image_url": { "url": ("data:image/png;base64," + ($img | rtrimstr("\n"))) }
        }
      ]
    }
  ]
}' > payload.json

curl https://api.ailab.infocepo.com:wait-2026-06/v1/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  --data-binary @payload.json

Exemple Python

import base64
import json
import requests
import os

API_KEY = os.getenv("OPENAI_API_KEY")
MODEL = "ai-vision"
IMG_PATH = "/path/to/image.png"
API_URL = "https://api.ailab.infocepo.com:wait-2026-06/v1/chat/completions"

with open(IMG_PATH, "rb") as f:
    img_b64 = base64.b64encode(f.read()).decode("utf-8")

payload = {
    "model": MODEL,
    "messages": [
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "Décris cette image."},
                {
                    "type": "image_url",
                    "image_url": {"url": f"data:image/png;base64,{img_b64}"}
                }
            ]
        }
    ]
}

headers = {
    "Authorization": f"Bearer {API_KEY}",
    "Content-Type": "application/json"
}

response = requests.post(API_URL, headers=headers, data=json.dumps(payload))

if response.ok:
    print(json.dumps(response.json(), indent=2, ensure_ascii=False))
else:
    print(f"Erreur {response.status_code}: {response.text}")

API STT

Exemple Python

import requests

OPENAI_API_KEY = 'sk-XXXXX'

url = 'https://api-audio2txt.ailab.infocepo.com/v1/audio/transcriptions'
headers = {
    'Authorization': f'Bearer {OPENAI_API_KEY}',
}
files = {
    'file': ('file.opus', open('/path/to/file.opus', 'rb')),
    'model': (None, 'whisper-1')
}

response = requests.post(url, headers=headers, files=files)
print(response.json())

Exemple curl

[ ! -f /tmp/test.ogg ] && wget "https://upload.wikimedia.org/wikipedia/commons/1/17/Fables_de_La_Fontaine_Livre_1_01.ogg" -O /tmp/test.ogg

export OPENAI_API_KEY=sk-XXXXX

curl https://api-audio2txt.ailab.infocepo.com/v1/audio/transcriptions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -F model="whisper-1" \
  -F file="@/tmp/test.ogg"

Notes

  • Plusieurs formats audio sont acceptés.
  • Le flux final est normalisé en 16 kHz mono.
  • Pour une qualité optimale : privilégier OPUS 16 kHz mono.

UI


API TTS

Exemple

export OPENAI_API_KEY=sk-XXXXX

curl https://api-tts-omnivoice.ailab.infocepo.com/v1/audio/speech \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini-tts",
    "input": "Bonjour, ceci est un test de synthèse vocale.",
    "voice": "coral",
    "instructions": "Speak in a cheerful and positive tone.",
    "response_format": "opus"
  }' | ffplay -i -

API Text to Image

Exemple

export OPENAI_API_KEY=EMPTY

curl https://api-txt2image.ailab.infocepo.com/v1/images/generations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d '{
    "prompt": "a photo of a happy corgi puppy sitting and facing forward, studio light, longshot",
    "n": 1,
    "size": "1024x1024"
  }'

API Diarization

Exemple

wget "https://upload.wikimedia.org/wikipedia/commons/6/60/Mike_Peters_on_Politics_and_Emotion_%28Interview_1984%29.mp3" -O /tmp/test.mp3

curl -X POST "https://api-diarization.ailab.infocepo.com/upload-audio/" \
  -H "Authorization: Bearer token1" \
  -F "file=@/tmp/test.mp3"

API Summary

Exemple

text="The tower is 324 metres tall and is one of the most recognizable monuments in the world."

json_payload=$(jq -nc --arg text "$text" '{"text": $text}')

curl -X POST https://api-summary.ailab.infocepo.com:wait-2026-06/summary/ \
  -H "Content-Type: application/json" \
  -d "$json_payload"

API Text Embeddings

Exemple

curl -k https://text-embeddings.ailab.infocepo.com:wait-2026-06/embed \
  -X POST \
  -d '{"inputs":"What is Deep Learning?"}' \
  -H 'Content-Type: application/json'

API DB Vectors (ChromaDB)

Production

Lab

export CHROMA_HOST=https://chromadb.c1.ailab.infocepo.com:wait-2026-06
export CHROMA_PORT=443
export CHROMA_TOKEN=XXXX

Exemple curl

curl -v "${CHROMA_HOST}"/api/v1/collections \
  -H "Authorization: Bearer ${CHROMA_TOKEN}"

Exemple Python

import chromadb
from chromadb.config import Settings

def chroma_http(host, port=80, token=None):
    return chromadb.HttpClient(
        host=host,
        port=port,
        ssl=host.startswith('https') or port == 443,
        settings=(
            Settings(
                chroma_client_auth_provider='chromadb.auth.token.TokenAuthClientProvider',
                chroma_client_auth_credentials=token,
            ) if token else Settings()
        )
    )

client = chroma_http(CHROMA_HOST, CHROMA_PORT, CHROMA_TOKEN)
collections = client.list_collections()
print(collections)

Déployer sa propre instance

export nameSpace=your_namespace
domainRoot=ailab.infocepo.com

helm repo add chroma https://amikos-tech.github.io/chromadb-chart/
helm repo update

helm upgrade --install chromadb chroma/chromadb -n ${nameSpace} \
  --set chromadb.apiVersion="0.4.24" \
  --set ingress.enabled=true \
  --set ingress.hosts[0].host="${nameSpace}-chromadb.${domainRoot}" \
  --set ingress.hosts[0].paths[0].path=/ \
  --set ingress.hosts[0].paths[0].pathType=ImplementationSpecific \
  --set ingress.annotations."cert-manager\.io/cluster-issuer"=letsencrypt-prod \
  --set ingress.tls[0].secretName=${nameSpace}-chromadb.${domainRoot}-tls \
  --set ingress.tls[0].hosts[0]="${nameSpace}-chromadb.${domainRoot}"

kubectl -n ${nameSpace} patch ingress/chromadb --type=json \
  -p '[{"op":"add","path":"/metadata/annotations/nginx.ingress.kubernetes.io~1proxy-body-size","value":"0"}]'

Récupérer le token

kubectl --namespace ${nameSpace} get secret chromadb-auth \
  -o jsonpath="{.data.token}" | base64 --decode && echo

Registry

Exemple

curl -u "user:XXXXX" https://registry.ailab.infocepo.com:wait-2026-06/v2/_catalog

Exemple K8S

deploymentName=
nameSpace=

kubectl -n ${nameSpace} create secret docker-registry pull-secret \
  --docker-server=registry.ailab.infocepo.com:wait-2026-06 \
  --docker-username=user \
  --docker-password=XXXXX \
  --docker-email=contact@example.com

kubectl -n ${nameSpace} patch deployment ${deploymentName} \
  -p '{"spec":{"template":{"spec":{"imagePullSecrets":[{"name":"pull-secret"}]}}}}'

Stockage objet externe (S3)

Un bucket nommé ORG a été créé pour stocker des documents de démonstration.


RAG optimisation

  • Embeddings : BAAI/bge-m3
  • chunk_size=1200
  • chunk_overlap=100
  • LLM : qwen3.6
  • Pour les PDF mixtes : PDF → image → OCR / VLM peut améliorer les résultats.

Processus usine IA

Étape Description Outils utilisés Responsable(s)
1 Idée - Équipe projet
2 Développement Environnement Onyxia / lab Équipe projet
3 Déploiement CI/CD, GitHub, Kubernetes Équipe DevOps
4 Surveillance Uptime-Kuma, dashboards Équipe DevOps
5 Alertes Mattermost Équipe DevOps
6 Support infrastructure - Équipe SRE
7 Support applicatif - Équipe applicative

Environnements

Hors production

  • Utiliser datalab
  • Support : canal Mattermost Offre IA
  • Le pseudo utilisateur doit respecter la convention interne
  • Demander si besoin un accès Linux + Kubernetes

Production (best-effort)

  • Publier le code applicatif, les secrets (format SOPS), le Dockerfile et le code infra (Helm ou manifests K8S) sur Git
  • Demander un namespace
  • Lire la documentation de surveillance associée

Limites de l’infrastructure

  • Les charges GPU sont intentionnellement limitées en journée.

Cloud Lab & projets d’audit

Cloud Lab reference diagram

Le Cloud Lab fournit des scénarios reproductibles : audit d’infrastructure, migration cloud, automatisation, haute disponibilité.

Projet d’audit

ServerDiff.sh

Script Bash d’audit permettant de :

  • détecter les dérives de configuration,
  • comparer plusieurs environnements,
  • préparer un plan de migration ou de remédiation.

Exemple de migration cloud

Cloud migration diagram

Tâche Description Durée (jours)
Audit infrastructure 82 services, audit automatisé via ServerDiff.sh 1.5
Diagramme d’architecture Conception visuelle et documentation 1.5
Contrôles de conformité 2 clouds, 6 hyperviseurs, 6 To RAM 1.5
Installation plateforme cloud Déploiement des environnements cibles 1.0
Vérification de stabilité Premiers tests fonctionnels 0.5
Étude d’automatisation Identification des tâches répétitives 1.5
Développement des templates 6 templates, 8 environnements, 2 clouds / OS 1.5
Diagramme de migration Illustration du processus 1.0
Écriture du code de migration 138 lignes (voir MigrationApp.sh) 1.5
Stabilisation Validation de la reproductibilité 1.5
Benchmark cloud Comparaison vs legacy 1.5
Réglage des temps d’arrêt Calcul du downtime 0.5
Chargement VM 82 VMs : OS, code, 2 IP par VM 0.1
Total 15 jours.homme

Vérifications de stabilité (HA minimale)

Action Résultat attendu
Extinction d’un nœud Tous les services redémarrent automatiquement sur les autres nœuds
Extinction / redémarrage simultané de tous les nœuds Les services repartent correctement après reboot

Architecture web & bonnes pratiques

Reference web architecture

Principes de conception :

  • privilégier une infrastructure simple, modulaire et flexible,
  • rapprocher le contenu du client (GDNS ou équivalent),
  • utiliser des load balancers réseau (LVS, IPVS),
  • comparer les coûts et éviter le vendor lock-in,
  • pour TLS :
    • HAProxy pour les frontends rapides,
    • Envoy pour les cas avancés (mTLS, HTTP/2/3),
  • pour le cache :
    • Varnish, Apache Traffic Server,
  • favoriser les stacks open-source,
  • utiliser files, buffers, queues et quotas pour lisser les pics.

Références


Comparatif des grandes plateformes cloud

Fonctionnalité Kubernetes OpenStack AWS Bare-metal HPC CRM oVirt
Outils de déploiement Helm, YAML, ArgoCD, Juju Ansible, Terraform, Juju CloudFormation, Terraform, Juju Ansible, Shell xCAT, Clush Ansible, Shell Ansible, Python
Méthode de bootstrap API API, PXE API PXE, IPMI PXE, IPMI PXE, IPMI PXE, API
Contrôle routeur Kube-router Router/Subnet API Route Table / Subnet API Linux, OVS xCAT Linux API
Contrôle firewall Istio, NetworkPolicy Security Groups API Security Group API Linux firewall Linux firewall Linux firewall API
Virtualisation réseau VLAN, VxLAN VPC VPC OVS, Linux xCAT Linux API
DNS CoreDNS DNS-Nameserver Route 53 GDNS xCAT Linux API
Load balancer Kube-proxy, LVS LVS Network Load Balancer LVS SLURM Ldirectord N/A
Stockage Local, cloud, PVC Swift, Cinder, Nova S3, EFS, EBS, FSx Swift, XFS, EXT4, RAID10 GPFS SAN NFS, SAN

Cette table sert de point de départ pour choisir la bonne stack selon :

  • le niveau de contrôle souhaité,
  • le contexte (on-prem, cloud public, HPC…),
  • les outils d’automatisation existants.

Haute disponibilité, HPC & DevSecOps

Haute disponibilité avec Corosync & Pacemaker

HA cluster architecture

Principes :

  • clusters multi-nœuds ou multi-sites,
  • fencing via IPMI,
  • provisioning PXE / NTP / DNS / TFTP,
  • pour 2 nœuds : attention au split-brain,
  • 3 nœuds ou plus recommandés en production.

Ressources fréquentes

  • multipath, LUNs, LVM, NFS,
  • processus applicatifs,
  • IP virtuelles, DNS, listeners réseau.

HPC

Overview of an HPC cluster

  • orchestration de jobs (SLURM ou équivalent),
  • stockage partagé haute performance,
  • intégration possible avec des workloads IA.

DevSecOps

DevSecOps reference design

  • CI/CD avec contrôles de sécurité intégrés,
  • observabilité dès la conception,
  • scans de vulnérabilité,
  • gestion des secrets,
  • policy-as-code.

News & trends


Formation & apprentissage


Liens cloud & IT utiles


Outils collaboratifs

Dépôts de code

Base de connaissance

  • ce wiki

Messagerie

  • contact interne / support selon les projets

SSO

MLflow


À propos & contributions

Suggestions de corrections, améliorations de schémas, retours d’expérience ou nouveaux labs bienvenus.

Ce wiki a vocation à rester un laboratoire vivant pour l’IA, le cloud et l’automatisation.