Aller au contenu
EN FR

Raisonnement neuro-symbolique et exécution LLM résidente

Statut documentaire : architecture. Parcours Runtime implémentés, frontières de source et algorithmes de guidage neuronal planifiés ne doivent pas être confondus.

Séparer preuve numérique et vérité sémantique

L'architecture distingue signal latent → observation typée → relation proposée → fait validé → conclusion formelle. Similarité numérique, scores de classifieur et texte de LLM sont des indices utiles, pas automatiquement des faits de l'hypergraphe. Une relation proposée exige validation symbolique, autorisation du demandeur et politique explicite de matérialisation ; une conclusion devrait conserver preuve/provenance quand elle existe.

L'inférence résidente a son propre cycle de vie

Le livre Runtime décrit tenseurs, backends de calcul, buffers résidents, opérations Transformer, cache KV incrémental et Runtime de génération. Les enjeux opérationnels comprennent le chargement durable des poids, la durée de vie des étapes de décodage, l'observation des transferts hôte/device et la réinitialisation volontaire du contexte. Un parcours natif résident GGUF/MLX n'est pas la même frontière d'intégration qu'un provider de service LLM séparé utilisant llama.cpp/MiniOllama.

Composition sûre

  1. Produire une observation typée portant l'identité, la version et le contexte de confiance du modèle.
  2. Construire un candidat/une proposition sans la déclarer immédiatement fait sémantique.
  3. Contrôler syntaxe, structure des types conceptuels existants, autorisations et contraintes symboliques.
  4. Valider uniquement selon une politique explicite et versionnée ; conserver la provenance et gérer annulations/callbacks périmés.
  5. Tester fallback et défaillances séparément des améliorations proposées de ranking.

Recherche approximative et scoring neuronal peuvent réordonner le travail sans assouplir silencieusement un contrat symbolique exact de complétude. Voir le guide d'architecture neuro-symbolique pour le parcours conceptuel et la référence LLM pour les parcours publics existants.

Sources LaTeX : tensor-mlx-resident-llm-runtime-programming.tex ; llm-service-architecture-and-llamacpp-integration.tex ; neuro-symbolique chapters/observation-proposal-fact-proof.tex, chapters/safe-reordering-and-approximate-search.tex.