Latest revision as of 05:47, 23 September 2026

Discover cloud and AI on infocepo.com

infocepo.com – Cloud, AI & Labs

Bienvenue sur le portail infocepo.com.

Ce wiki documente l’écosystème Cloud, IA, automatisation et lab d’Infocepo. Il s’adresse aux :

administrateurs systèmes,
ingénieurs cloud,
développeurs,
étudiants,
curieux qui veulent apprendre en pratiquant.

L’objectif est simple : transformer la théorie en scripts réutilisables, schémas, architectures, APIs et laboratoires concrets.

Accès rapide

Portail principal

infocepo.com

Assistant IA

Chat assistant

Liste des pages du wiki

Toutes les pages

Vue d’ensemble

Infra architecture overview

Démarrer rapidement

Parcours recommandés

1. Construire un assistant IA privé

Déployer une stack type Hermes WebUI + Ollama + GPU
Ajouter un modèle de chat et un modèle de résumé
Brancher des données internes via RAG + embeddings

2. Lancer un lab cloud

Créer un petit cluster Kubernetes, OpenStack ou bare-metal
Mettre en place un pipeline de déploiement (Helm, Ansible, Terraform…)
Ajouter un service IA : transcription, résumé, chatbot, OCR…

3. Préparer un audit ou une migration

Inventorier les serveurs avec ServerDiff.sh
Concevoir l’architecture cible
Automatiser la migration avec des scripts reproductibles

Vue d’ensemble du contenu

Guides IA & outils : assistants, modèles, évaluation, GPU, RAG
Cloud & infrastructure : Kubernetes, OpenStack, HA, HPC, DevSecOps
Labs & scripts : audit, migration, automatisation
Comparatifs : Kubernetes vs OpenStack vs AWS vs bare-metal, etc.

Vision

The world after automation

Le but à long terme est de construire un environnement où :

les assistants IA privés accélèrent la production,
les tâches répétitives sont automatisées,
les déploiements sont industrialisés,
l’infrastructure reste compréhensible, portable et réutilisable.

Chaque sortie IA est mesurée en temps réel, les modèles faibles sont remplacés automatiquement, et les tâches sans valeur sont coupées. L'autonomie vient de mécanismes techniques qui fonctionnent quand personne ne regarde — pas de règles écrites dans un doc.

Main page summary

Catalogue rapide des services

Services principaux
Catégorie	Service	Rôle
API	LLM	Modèles de chat, code, RAG, OCR
API	STT	Transcription audio
API	TTS	Synthèse vocale
API	realtime-ai	Temps réel WebSocket / WebRTC
API	IMAGE2TXT	OCR / VLM via endpoint dédié
API	summary	Résumé de textes longs
API	EMBEDDINGS	Embeddings pour RAG
API	ChromaDB	Base vecteur
API	TXT2IMAGE	Génération d’images
API	diarization	Segmentation locuteurs
Observabilité	monitoring	Dashboards techniques
Observabilité	status	Disponibilité des services
Observabilité	web-stat	Statistiques web
Observabilité	LLM-stat	Vue API / usage
Outils	dataLab	Environnement de travail hors-production
Outils	realtime translation	Traduction
Outils	Demos	Démonstrateurs

Sélection AI & architecture par couche

Le tableau de bord Sélection AI présente l'architecture par couche des modèles IA déployés :

Couche	Modèle	Alias(s)	Taille
HYBRID-CLOUD	Qwen3.6-35B	flash, default, thinking, vision	Option 1, 35B MoE / 3B actif
	Qwen3.8-Flash-Next	flash, default, thinking, vision, max	Option 2, 125B MoE, 51B n-grames internes, 6B actif, 1M contexte
	MiniMax-H3	video	33B dense
	BGE-M3	embedding	568M
	BGE-reranker-v2-m3	reranker	568M
	FLUX.2-klein-4B	image	4B
	GLiNER2.5-Multi-V1	privacy	287M, mDeBERTa-v3-base — privacy filter: api-llm-privacy-proxy-gliner2
Public-Cloud	GLM-5.3-Flash	max	320B MoE / 18B actif — 1M contexte, multimodal
LOCAL	Qwen3.5-9B	flash, default, thinking, vision	Option 1, 9B dense
LOCAL	Qwen3.8-27B	flash, default, thinking, vision, max	Option 2, 27B dense

Frameworks

Outil	Usage
Hermes	Usage général, raisonnement
OpenCode	DevSecOps
Kilo Code	Développement pur

Mémoire

Pour la couche d'embedding vectoriel (RAG, mémoire sémantique) :

BGE-M3 — 568M paramètres, architecture XLM-RoBERTa. Multi-fonction (dense + sparse + multi-vector), 100+ langues, licence MIT. Idéal comme moteur de mémoire à échelle.

Nouveautés

Nouveautés implémentés

api-txt2image (2026-09-20) : Text-to-image generation API for AI-powered image creation
api-rag (2026-09-19) : RAG API — semantic search over knowledge bases with retrieval-augmented generation
gouv-fr-code-package-mi (2026-09-19) : gouv-fr-code-package-mi
agent-saas (2026-09-17) : SaaS AI agent platform — deploy autonomous AI agents as a service
api-llm-privacy-proxy-gliner2-5 (2026-09-16) : api-llm-privacy-proxy-gliner2-5
qwen36-sglang (2026-09-15) : Qwen 3.6 deployment with SGLang for high-performance inference
omnivoice-tts (2026-09-13) : omnivoice-tts
api-llm-privacy-proxy-gliner2 (2026-09-10) : GLiNER2-powered LLM privacy proxy for named entity detection and filtering
tricoteuses-k8s (2026-09-08) : Kubernetes deployment for tricoteuses-juridique
dashboard-superset-mcp (2026-09-03) : Automate Apache Superset dashboard creation via MCP server 6.1.0+
superset-k8s (2026-09-01) : superset-k8s
dind-build (2026-08-31) : Docker-in-Docker build factory on Kubernetes — build, push, pull via K8s DinD pod
quality-gate (2026-08-28) : quality-gate
api-convert2md (2026-08-26) : Document-to-Markdown conversion API — clean markdown from various formats
trafilatura-local (2026-08-23) : trafilatura-local
models-todo (2026-08-19) : models-todo
minimax-music3 (2026-08-18) : minimax-music3
hermes-img-gen-infocepo (2026-08-15) : hermes-img-gen-infocepo
api-llm-custom (2026-08-13) : Custom LLM proxy API — route requests to any language model backend
infocepo-infra-mcp (2026-08-12) : infocepo-infra-mcp
api-mcp-openai (2026-08-11) : AI MCP OpenAI Integration
api-embedding (2026-08-07) : Text embedding API — convert text to vector embeddings for semantic search
api-reranker (2026-08-06) : Cross-encoder reranking API for improving search retrieval quality
nemotron-embed (2026-07-31) : nemotron-embed
coder-brain (2026-07-28) : AI-powered code analysis and generation engine
translate-rt (2026-07-28) : Real-time translation API — multilingual translation with low latency

Top tasks

AutoGPT (2026-09-21) : AutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mission is to provide the tools, so that you can focus on what matters. (187k⭐)
FastGPT (2026-09-21) : FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities ... (29k⭐)
WeKnora (2026-09-21) : Open-source LLM knowledge platform: turn raw documents into a queryable RAG, an autonomous reasoning agent, and sel... (28k⭐)

hermes-agent (2026-09-15) : The agent that grows with you (245k⭐)
llama.cpp (2026-09-15) : LLM inference in C/C++ (128k⭐)
supabase (2026-09-15) : The Postgres development platform. Supabase gives you a dedicated Postgres database to build your... (109k⭐)
litellm (2026-09-13) : Passerelle AI qui appelle 100+ APIs LLM. Rust core avec SDK Python. (58k⭐)
cherry-studio (2026-09-13) : Studio de productivité IA avec chat intelligent, agents autonomes et 300+ assistants. (51k⭐)
ruflo (2026-09-13) : Harnais d'agents intelligent multi-joueurs. Déployer des essaims coordonnés avec mémoire locale. (72k⭐)

openclaw (2026-09-12) : Plateforme IA autonome multi-plateforme. Tout système d'exploitation. (389k⭐)
ECC (2026-09-12) : Optimisation performance agents IA - compétences, mémoire, sécurité. (256k⭐)
archify (2026-09-11) : Agent skill for architecture, workflow, data-flow, and lifecycle diagrams — self-contained HTML with motion and crisp export. (58k⭐, 12k/semaine)
context-mode (2026-09-11) : Context window optimization for AI coding agents. Sandboxes tool output, persists session memory, enforces routing via MCP. (22k⭐, 1.6k/semaine)
plugins (2026-09-11) : OpenAI Plugins — plugin ecosystem for OpenAI models. (6k⭐, 1k/semaine)
markitdown (2026-09-11) : Conversion fichiers et documents bureautiques vers Markdown — pipeline de données pour pipelines IA. (182k⭐, 4.5k/semaine)
i-have-adhd (2026-09-11) : Agent skill pour sortie ADHD-friendly — formatage clair et direct des réponses d'agents IA. (38k⭐, 10k/semaine)
diagram-design (2026-09-11) : 38 types de diagrammes éditoriaux pour agents de codage (Claude, Codex, Pi). HTML + SVG auto-contenu. (37k⭐, 7k/semaine)
skills (2026-09-11) : Repository public officiel des compétences d'agents Anthropic. (175k⭐, 2.2k/semaine)
Presidio : anonymisation / masquage PII, socle RGPD obligatoire.
Temporal : orchestration de workflows critiques et fiables.
OmniRoute : passerelle IA unifiée, auto-fallback, compression de tokens.
NeMo Guardrails : garde-fous et politiques de sécurité IA.
Langfuse : observabilité, evals et metrics pour pipelines IA.
LMCache : couche KV cache ultra-rapide, latence d'inférence réduite.
Meshery : gestion cloud native multi-cluster, observabilité.
PageIndex : RAG vectorless à raisonnement, alternative aux embeddings.
Coût unitaire par tâche : chaque API doit exposer son prix/ml/token en temps réel — pas une facture mensuelle.
Qualité auto : précision/hallucination rate branchés sur les sorties IA, avec rollback automatique si qualité < seuil.

unsloth (2026-09-14) : Interface locale pour exécuter et entraîner des LLMs et modèles de diffusion. Optimisation d'inférence. (76k⭐)
ragflow (2026-09-14) : Système RAG open-source avancé pour la génération augmentée par la récupération. (90k⭐)
OpenHands (2026-09-14) : Développement piloté par IA — agent autonome qui code, debug et itère. (87k⭐)

ClickHouse (2026-09-16) : Base de données analytique temps réel. (49k⭐)
OpenViking (2026-09-16) : Base de contexte auto-évolutive pour agents IA. Mémoire, RAG et compétences unifiés. (37k⭐)
anything-llm (2026-09-16) : Plateforme LLM locale tout-en-un. Vector store, RAG, et assistants autonomes. (66k⭐)
livekit (2026-09-17) : End-to-end realtime stack for connecting humans and AI (21.0k⭐)
ragflow (2026-09-17) : RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent c... (90.8k⭐)
open-code-review (2026-09-17) : Fast, efficient, battle-tested at Alibaba's scale. Hybrid architecture code review tool: deterministic pipelines + LL... (32.4k⭐)
LibreChat (2026-09-18) : Enhanced ChatGPT Clone: Features Agents, MCP, Skills, DeepSeek, Anthropic, AWS, OpenAI, Responses API, Azure, Groq, o1, GPT-5, Mistral, OpenRouter, Vertex AI, Gemini, Artifacts, AI model switching, message search, Code Interpreter, langchain, DALL-E-3, OpenAPI Actions, Functions, Secure Multi-User Auth, Presets, open-source for self-hosting. Active (44k⭐)
jumpserver (2026-09-18) : JumpServer is an Open-source Privileged Access Management (PAM) platform with AI-powered capabilities, providing DevOps and IT teams a unified workspace to securely access SSH, RDP, Kubernetes, databases, websites, RemoteApp, VirtualApp, and more. (32k⭐)
mastra (2026-09-18) : Mastra is the modern TypeScript framework for AI-powered applications and agents. (28k⭐)
deer-flow (2026-09-20) : An open-source long-horizon SuperAgent harness that researches, codes, and creat (82.7k⭐)
DeepSeek-Reasonix (2026-09-20) : DeepSeek-native AI coding agent for your terminal. Engineered around prefix-cach (35.6k⭐)
zeroclaw (2026-09-20) : Fast, small, and fully autonomous AI personal assistant infrastructure, any OS, (32.8k⭐)

vllm (2026-09-23) : High-throughput LLM inference engine — 92.5k⭐
promptfoo (2026-09-23) : AI testing, red teaming & pentesting for prompts, agents, and RAGs — 25.4k⭐
eliza (2026-09-23) : Open source agentic operating system — 19.4k⭐

Backlog / Veille Technologique

Agents IA & Orchestration

LangChain : Framework pour applications basées sur les LLM. Le plus mature. (145k⭐).
Dify : Plateforme de développement d'applications IA (LLM Ops). Déployable en self-host. (154k⭐).
browser-use : Framework pour contrôler les navigateurs via des agents IA. (112k⭐).
vllm : Moteur d'inférence haute performance pour LLMs. (91k⭐).
open-webui : Interface web IA (Ollama, OpenAI API, MCP). (151k⭐).
ollama : Get up and running with Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models. (180k⭐).
n8n : Fair-code workflow automation with native AI. 400+ intégrations. (203k⭐).
milvus : Base de données vectorielle haute performance. (46k⭐).
qdrant : Vector database haute performance. (34k⭐).
Minimax-Text-01 : Modèle LLM open-source Minimax.

Audio & TTS

faster-whisper (mutualisé) — Transcription speech-to-text optimisée.
Qwen3-Omni-30B-A3B-Instruct — Modèle multimodal Qwen (audio + texte + image).

Génération & Édition d'Images

ComfyUI : GUI et backend diffusion model le plus modulaire. (131k⭐)

RAG & Traitement de Documents

firecrawl : API web contextuelle pour search, scrape et interaction. (178k⭐).
paperless-ngx : Document management : scan, index, archive. ML, OCR. (45k⭐).
graphify : Transforme codebase en graphe de connaissances interrogeable. (115k⭐).
LightRAG : RAG simple et rapide. (39k⭐).
graphrag : RAG modulaire basé sur les graphes. (35k⭐).
headroom : Compress tool outputs, logs, files et RAG chunks. 20-95% token savings. (69k⭐).
Mem0 : — Mémorie à long terme pour agents IA. (64k⭐).

APIs à Développer

Classificateur IA — Classification de contenu.
Résumé mutualisé — API de résumé de texte partagée.
NER — Reconnaissance d'entités nommées.
Compressor — Compression de contenu.

Infrastructure & Backend

Semantic Router — Routage sémantique de requêtes vLLM.

Outils Dev

Aider — Assistant de codage IA en ligne de commande.
Continue — Extension IDE IA (VS Code, JetBrains). (35k⭐)

Assistants IA & outils cloud

Assistants IA

Assistants IA auto-hébergés

Hermes WebUI + Ollama + GPU

Stack typique pour assistant privé, API OpenAI-compatible et expérimentation locale.

Développement, modèles & veille

Découverte de modèles

Models Trending

Évaluation & benchmarks

Agentic Evaluation

Outils de développement & fine-tuning

Matériel IA & GPU

NVIDIA GH200
DGX Spark
GROQ LLM accelerator

API Realtime AI (DEV)

Statut : environnement DEV, remplaçante prévue de l’API OpenAI pour les cas temps réel.

Configuration

Variable	Valeur
OPENAI_API_BASE	`wss://api-realtime-ai.ailab.infocepo.com:wait-2026-12/v1`
OPENAI_API_KEY	`sk-XXXXX`

Dépôt GitHub

ynotopec/api-realtime-ai

Page de test

external-test/half-duplex.html — annulation d’écho + mode half-duplex.

Compatibilité

Remplacer l’URL OpenAI par $OPENAI_API_BASE pour tester compatibilité et performances.

API LLM (OpenAI compatible)

URL de base : https://api-nothink.ailab.infocepo.com/v1
Création du token : OPENAI_API_KEY
Documentation : Documentation API

Liste des modèles

curl -X GET \
  'https://api-nothink.ailab.infocepo.com/v1/models' \
  -H 'Authorization: Bearer sk-XXXXX' \
  -H 'accept: application/json' \
  | jq | sed -rn 's#^.*id.*: "(.*)".*$#* \1#p' | sort -u

Modèles ouverts & endpoints internes

Dernière mise à jour : 2026-06-30

Les modèles ci-dessous correspondent à des endpoints logiques exposés derrière une passerelle.

Endpoint	Description / usage principal
ai-thinking	qwen3.6 fp8 – thinking
ai-fast	qwen3.6 fp8 en mode fast – vision/OCR/ai-default
ai-embedding	bge-m3 – recherche sémantique
ai-stt	whisper3-turbo – transcription vocale multilingual
ai-tts	OmniVoice – TTS multilingual
ai-image	OpenDalle – image génération

Exemple bash

export OPENAI_API_MODEL="ai-default"
export OPENAI_API_BASE="https://api-nothink.ailab.infocepo.com/v1"
export OPENAI_API_KEY="sk-XXXXX"

promptValue="Quel est ton nom ?"
jsonValue='{
  "model": "'${OPENAI_API_MODEL}'",
  "messages": [{"role": "user", "content": "'${promptValue}'"}],
  "temperature": 0
}'

curl ${OPENAI_API_BASE}/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d "${jsonValue}" 2>/dev/null | jq '.choices[0].message.content'

Vue infra LLM

File:Litellm-proxy-mermaid-diagram-2024-03-24-205202.png

DEV (au choix)

A. LiteLLM → vLLM/SgLang : tests perf / compatibilité
B. LiteLLM → Ollama : simple, rapide à itérer
C. Ollama direct : POC ultra-léger

DEV – modèle FR / résumé

LiteLLM → Ollama /v1

PROD

Standard : LiteLLM → vLLM/SgLang
Pont DEV→PROD : LiteLLM (DEV) → LiteLLM (PROD) → vLLM/SgLang

Notes :

LiteLLM = passerelle unique (clés, quotas, logs)
vLLM/SgLang = performance / stabilité en charge
Ollama = simplicité de prototypage

API Image to Text

Utilise l’API LLM avec un endpoint adapté à l’OCR / VLM.
Modèle recommandé : ai-vision

Exemple bash

OPENAI_API_KEY=sk-XXXXX

base64 -w0 "/path/to/image.png" > img.b64

jq -n --rawfile img img.b64 \
'{
  model: "ai-vision",
  messages: [
    {
      role: "user",
      content: [
        { "type": "text", "text": "Décris cette image." },
        {
          "type": "image_url",
          "image_url": { "url": ("data:image/png;base64," + ($img | rtrimstr("\n"))) }
        }
      ]
    }
  ]
}' > payload.json

curl https://api-nothink.ailab.infocepo.com/v1/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  --data-binary @payload.json

Exemple Python

import base64
import json
import requests
import os

API_KEY = os.getenv("OPENAI_API_KEY")
MODEL = "ai-vision"
IMG_PATH = "/path/to/image.png"
API_URL = "https://api-nothink.ailab.infocepo.com/v1/chat/completions"

with open(IMG_PATH, "rb") as f:
    img_b64 = base64.b64encode(f.read()).decode("utf-8")

payload = {
    "model": MODEL,
    "messages": [
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "Décris cette image."},
                {
                    "type": "image_url",
                    "image_url": {"url": f"data:image/png;base64,{img_b64}"}
                }
            ]
        }
    ]
}

headers = {
    "Authorization": f"Bearer {API_KEY}",
    "Content-Type": "application/json"
}

response = requests.post(API_URL, headers=headers, data=json.dumps(payload))

if response.ok:
    print(json.dumps(response.json(), indent=2, ensure_ascii=False))
else:
    print(f"Erreur {response.status_code}: {response.text}")

API STT

URL : https://api-audio2txt.ailab.infocepo.com/v1
Clé : OPENAI_API_KEY=sk-XXXXX
Modèle : whisper-1
Documentation : API STT docs

Exemple Python

import requests

OPENAI_API_KEY = 'sk-XXXXX'

url = 'https://api-audio2txt.ailab.infocepo.com/v1/audio/transcriptions'
headers = {
    'Authorization': f'Bearer {OPENAI_API_KEY}',
}
files = {
    'file': ('file.opus', open('/path/to/file.opus', 'rb')),
    'model': (None, 'whisper-1')
}

response = requests.post(url, headers=headers, files=files)
print(response.json())

Exemple curl

[ ! -f /tmp/test.ogg ] && wget "https://upload.wikimedia.org/wikipedia/commons/1/17/Fables_de_La_Fontaine_Livre_1_01.ogg" -O /tmp/test.ogg

export OPENAI_API_KEY=sk-XXXXX

curl https://api-audio2txt.ailab.infocepo.com/v1/audio/transcriptions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -F model="whisper-1" \
  -F file="@/tmp/test.ogg"

Notes

Plusieurs formats audio sont acceptés.
Le flux final est normalisé en 16 kHz mono.
Pour une qualité optimale : privilégier OPUS 16 kHz mono.

UI

translate-rt

API TTS

URL : https://api-tts-omnivoice.ailab.infocepo.com/v1
Clé : OPENAI_API_KEY=sk-XXXXX
Documentation : API TTS docs

Exemple

export OPENAI_API_KEY=sk-XXXXX

curl https://api-tts-omnivoice.ailab.infocepo.com/v1/audio/speech \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini-tts",
    "input": "Bonjour, ceci est un test de synthèse vocale.",
    "voice": "coral",
    "instructions": "Speak in a cheerful and positive tone.",
    "response_format": "opus"
  }' | ffplay -i -

API Text to Image

URL : https://api-txt2image.ailab.infocepo.com/v1
Clé API : OPENAI_API_KEY=sk-...
Documentation : API TXT2IMAGE docs

Exemple

export OPENAI_API_KEY=EMPTY

curl https://api-txt2image.ailab.infocepo.com/v1/images/generations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d '{
    "prompt": "a photo of a happy corgi puppy sitting and facing forward, studio light, longshot",
    "n": 1,
    "size": "1024x1024"
  }'

API Diarization

Documentation : API Diarization docs

Exemple

wget "https://upload.wikimedia.org/wikipedia/commons/6/60/Mike_Peters_on_Politics_and_Emotion_%28Interview_1984%29.mp3" -O /tmp/test.mp3

curl -X POST "https://api-diarization.ailab.infocepo.com/upload-audio/" \
  -H "Authorization: Bearer token1" \
  -F "file=@/tmp/test.mp3"

API Summary

Documentation : API Summary docs

Exemple

text="The tower is 324 metres tall and is one of the most recognizable monuments in the world."

json_payload=$(jq -nc --arg text "$text" '{"text": $text}')

curl -X POST https://api-summary.ailab.infocepo.com:wait-2026-12/summary/ \
  -H "Content-Type: application/json" \
  -d "$json_payload"

API Text Embeddings

URL : https://api-embedding.ailab.infocepo.com/v1
Documentation : Documentation

Exemple

curl https://api-embedding.ailab.infocepo.com/v1/embeddings \
  -X POST \
  -d '{"model":"bge-m3","input":"What is Deep Learning?"}' \
  -H 'Content-Type: application/json'

API DB Vectors (ChromaDB)

Production

URL : https://chromadb.ailab.infocepo.com:wait-2026-12
Token : XXXXX

Lab

export CHROMA_HOST=https://chromadb.c1.ailab.infocepo.com:wait-2026-12
export CHROMA_PORT=443
export CHROMA_TOKEN=XXXX

Exemple curl

curl -v "${CHROMA_HOST}"/api/v1/collections \
  -H "Authorization: Bearer ${CHROMA_TOKEN}"

Exemple Python

import chromadb
from chromadb.config import Settings

def chroma_http(host, port=80, token=None):
    return chromadb.HttpClient(
        host=host,
        port=port,
        ssl=host.startswith('https') or port == 443,
        settings=(
            Settings(
                chroma_client_auth_provider='chromadb.auth.token.TokenAuthClientProvider',
                chroma_client_auth_credentials=token,
            ) if token else Settings()
        )
    )

client = chroma_http(CHROMA_HOST, CHROMA_PORT, CHROMA_TOKEN)
collections = client.list_collections()
print(collections)

Déployer sa propre instance

export nameSpace=your_namespace
domainRoot=ailab.infocepo.com

helm repo add chroma https://amikos-tech.github.io/chromadb-chart/
helm repo update

helm upgrade --install chromadb chroma/chromadb -n ${nameSpace} \
  --set chromadb.apiVersion="0.4.24" \
  --set ingress.enabled=true \
  --set ingress.hosts[0].host="${nameSpace}-chromadb.${domainRoot}" \
  --set ingress.hosts[0].paths[0].path=/ \
  --set ingress.hosts[0].paths[0].pathType=ImplementationSpecific \
  --set ingress.annotations."cert-manager\.io/cluster-issuer"=letsencrypt-prod \
  --set ingress.tls[0].secretName=${nameSpace}-chromadb.${domainRoot}-tls \
  --set ingress.tls[0].hosts[0]="${nameSpace}-chromadb.${domainRoot}"

kubectl -n ${nameSpace} patch ingress/chromadb --type=json \
  -p '[{"op":"add","path":"/metadata/annotations/nginx.ingress.kubernetes.io~1proxy-body-size","value":"0"}]'

Récupérer le token

kubectl --namespace ${nameSpace} get secret chromadb-auth \
  -o jsonpath="{.data.token}" | base64 --decode && echo

Registry

URL : registry.ailab.infocepo.com:wait-2026-09
Login : user
Password : XXXXX

Exemple

curl -u "user:XXXXX" https://registry.ailab.infocepo.com:wait-2026-09/v2/_catalog

Exemple K8S

deploymentName=
nameSpace=

kubectl -n ${nameSpace} create secret docker-registry pull-secret \
  --docker-server=registry.ailab.infocepo.com:wait-2026-09 \
  --docker-username=user \
  --docker-password=XXXXX \
  --docker-email=contact@example.com

kubectl -n ${nameSpace} patch deployment ${deploymentName} \
  -p '{"spec":{"template":{"spec":{"imagePullSecrets":[{"name":"pull-secret"}]}}}}'

Stockage objet externe (S3)

Endpoint : https://s3.ailab.infocepo.com:wait-2026-09
Access key : XXXX
Secret key : XXXX

Un bucket nommé ORG a été créé pour stocker des documents de démonstration.

RAG optimisation

Embeddings : BAAI/bge-m3
chunk_size=1000
chunk_overlap=100
LLM : qwen3.6
Pour les PDF mixtes : PDF → image → OCR / VLM peut améliorer les résultats.

Workflow

Autoroute directe : code → CI/CD → deploy → monitoring. Pas de comité, pas de responsable désigné — chaque étape se déclenche automatiquement si la précédente passe. Si ça rate, alerte directe sans passer par un humain sauf décision explicite de fallback.

Environnements

Hors production

Utiliser datalab
Support : canal Mattermost Offre IA
Le pseudo utilisateur doit respecter la convention interne
Demander si besoin un accès Linux + Kubernetes

Production (best-effort)

Publier le code applicatif, les secrets (format SOPS), le Dockerfile et le code infra (Helm ou manifests K8S) sur Git
Demander un namespace
Lire la documentation de surveillance associée

Limites de l’infrastructure

Les charges GPU sont intentionnellement limitées en journée.
Coût unitaire mesuré automatiquement (dashboards temps réel, pas Excel).

Cloud Lab & projets d’audit

Le Cloud Lab fournit des scénarios reproductibles : audit d’infrastructure, migration cloud, automatisation, haute disponibilité.

Projet d’audit

ServerDiff.sh

Script Bash d’audit permettant de :

détecter les dérives de configuration,
comparer plusieurs environnements,
préparer un plan de migration ou de remédiation.

Exemple de migration cloud

Tâche	Description	Durée (jours)
Audit infrastructure	82 services, audit automatisé via ServerDiff.sh	1.5
Diagramme d’architecture	Conception visuelle et documentation	1.5
Contrôles de conformité	2 clouds, 6 hyperviseurs, 6 To RAM	1.5
Installation plateforme cloud	Déploiement des environnements cibles	1.0
Vérification de stabilité	Premiers tests fonctionnels	0.5
Étude d’automatisation	Identification des tâches répétitives	1.5
Développement des templates	6 templates, 8 environnements, 2 clouds / OS	1.5
Diagramme de migration	Illustration du processus	1.0
Écriture du code de migration	138 lignes (voir MigrationApp.sh)	1.5
Stabilisation	Validation de la reproductibilité	1.5
Benchmark cloud	Comparaison vs legacy	1.5
Réglage des temps d’arrêt	Calcul du downtime	0.5
Chargement VM	82 VMs : OS, code, 2 IP par VM	0.1
Total		15 jours.homme

Vérifications de stabilité (HA minimale)

Action	Résultat attendu
Extinction d’un nœud	Tous les services redémarrent automatiquement sur les autres nœuds
Extinction / redémarrage simultané de tous les nœuds	Les services repartent correctement après reboot

Autonomie testée : vérifier que la migration fonctionne seule en tirant le repo et lançant le script, sans personne qui connaît le système de tête.

Architecture web & bonnes pratiques

Principes de conception :

privilégier une infrastructure simple, modulaire et flexible,
rapprocher le contenu du client (GDNS ou équivalent),
utiliser des load balancers réseau (LVS, IPVS),
comparer les coûts et éviter le vendor lock-in,
pour TLS :
- HAProxy pour les frontends rapides,
- Envoy pour les cas avancés (mTLS, HTTP/2/3),
pour le cache :
- Varnish, Apache Traffic Server,
favoriser les stacks open-source,
utiliser files, buffers, queues et quotas pour lisser les pics.

Références

Comparatif des grandes plateformes cloud

Fonctionnalité	Kubernetes	OpenStack	AWS	Bare-metal	HPC	CRM	oVirt
Outils de déploiement	Helm, YAML, ArgoCD, Juju	Ansible, Terraform, Juju	CloudFormation, Terraform, Juju	Ansible, Shell	xCAT, Clush	Ansible, Shell	Ansible, Python
Méthode de bootstrap	API	API, PXE	API	PXE, IPMI	PXE, IPMI	PXE, IPMI	PXE, API
Contrôle routeur	Kube-router	Router/Subnet API	Route Table / Subnet API	Linux, OVS	xCAT	Linux	API
Contrôle firewall	Istio, NetworkPolicy	Security Groups API	Security Group API	Linux firewall	Linux firewall	Linux firewall	API
Virtualisation réseau	VLAN, VxLAN	VPC	VPC	OVS, Linux	xCAT	Linux	API
DNS	CoreDNS	DNS-Nameserver	Route 53	GDNS	xCAT	Linux	API
Load balancer	Kube-proxy, LVS	LVS	Network Load Balancer	LVS	SLURM	Ldirectord	N/A
Stockage	Local, cloud, PVC	Swift, Cinder, Nova	S3, EFS, EBS, FSx	Swift, XFS, EXT4, RAID10	GPFS	SAN	NFS, SAN

Cette table sert de point de départ pour choisir la bonne stack selon :

le niveau de contrôle souhaité,
le contexte (on-prem, cloud public, HPC…),
les outils d’automatisation existants.

Haute disponibilité, HPC & DevSecOps

Haute disponibilité avec Corosync & Pacemaker

Principes :

clusters multi-nœuds ou multi-sites,
fencing via IPMI,
provisioning PXE / NTP / DNS / TFTP,
pour 2 nœuds : attention au split-brain,
3 nœuds ou plus recommandés en production.

Ressources fréquentes

multipath, LUNs, LVM, NFS,
processus applicatifs,
IP virtuelles, DNS, listeners réseau.

HPC

orchestration de jobs (SLURM ou équivalent),
stockage partagé haute performance,
intégration possible avec des workloads IA.

DevSecOps

CI/CD avec contrôles de sécurité intégrés,
observabilité dès la conception,
scans de vulnérabilité,
gestion des secrets,
policy-as-code.

News & trends

Formation & apprentissage

Transformers Explained
Labs, scripts et retours d’expérience concrets dans le projet Cloud Lab

Liens cloud & IT utiles

Outils collaboratifs

Dépôts de code

GitHub ynotopec

Base de connaissance

ce wiki

Messagerie

contact interne / support selon les projets

SSO

Keycloak

À propos & contributions

Suggestions de corrections, améliorations de schémas, retours d’expérience ou nouveaux labs bienvenus.

Ce wiki a vocation à rester un laboratoire vivant pour l’IA, le cloud et l’automatisation.

Main Page: Difference between revisions

Latest revision as of 05:47, 23 September 2026

infocepo.com – Cloud, AI & Labs

Accès rapide

Portail principal

Assistant IA

Liste des pages du wiki

Vue d’ensemble

Démarrer rapidement

Parcours recommandés

Vue d’ensemble du contenu

Vision

Catalogue rapide des services

Sélection AI & architecture par couche

Frameworks

Mémoire

Nouveautés

Nouveautés implémentés

Top tasks

Backlog / Veille Technologique

Agents IA & Orchestration

Audio & TTS

Génération & Édition d'Images

RAG & Traitement de Documents

APIs à Développer

Infrastructure & Backend

Outils Dev

Assistants IA & outils cloud

Assistants IA

Développement, modèles & veille

Matériel IA & GPU

API Realtime AI (DEV)

Configuration

Dépôt GitHub

Page de test

Compatibilité

API LLM (OpenAI compatible)

Liste des modèles

Modèles ouverts & endpoints internes

Exemple bash

Vue infra LLM

API Image to Text

Exemple bash

Exemple Python

API STT

Exemple Python

Exemple curl

Notes

UI

API TTS

Exemple

API Text to Image

Exemple

API Diarization

Exemple

API Summary

Exemple

API Text Embeddings

Exemple

API DB Vectors (ChromaDB)

Production

Lab

Exemple curl

Exemple Python

Déployer sa propre instance

Récupérer le token

Registry

Exemple

Exemple K8S

Stockage objet externe (S3)

RAG optimisation

Workflow

Environnements

Hors production

Production (best-effort)

Limites de l’infrastructure

Cloud Lab & projets d’audit

Projet d’audit

Exemple de migration cloud

Vérifications de stabilité (HA minimale)