IA · En développement
La décision
La mémoire est un service séparé, pas une rallonge de prompt
Le souvenir est vectorisé puis stocké dans Qdrant, et la recherche se fait par similarité sémantique. L'assistant ne reçoit alors que les quelques souvenirs pertinents pour la question posée, pas son passé entier. Le coût d'un appel cesse de croître avec l'ancienneté de la relation, ce qui est la seule façon de tenir dans la durée. Le corollaire est un service autonome, avec ses deux opérations : écrire un souvenir, en retrouver un. Il ne sait rien du modèle de conversation qui l'appelle, et c'est voulu : le jour où le modèle change, la mémoire reste.
Le problème
Un assistant conversationnel oublie tout entre deux sessions. La réponse courante, réinjecter l'historique dans le prompt, se heurte à un mur : la fenêtre de contexte est finie, elle coûte cher à chaque appel, et elle mélange ce qui compte avec ce qui ne compte plus. Une préférence exprimée il y a trois mois n'a pas à être relue à chaque phrase pour être retrouvée.
Mon rôle
Seul. Prototype exploratoire, écrit pour répondre à une question précise avant de construire quoi que ce soit autour.
Ce qui a été difficile
La difficulté n'est pas technique, elle est de définition : qu'est-ce qui mérite d'être mémorisé ? Tout stocker recrée le problème sous une autre forme : une base bruitée où la recherche ramène du hors-sujet plausible. Le prototype tranche par une catégorie posée à l'écriture, ce qui reporte la décision sur l'appelant plutôt que de la résoudre. C'est une dette assumée, pas une solution.
Où ça en est
Prototype en cours. Le service de mémoire fonctionne et répond ; il n'est branché sur aucun assistant complet, et rien n'est déployé. C'est une brique, pas un produit.