Bonjour à tous !
Je me présente rapidement : je suis développeur et je travaille actuellement sur un projet SaaS qui intègre ChatGPT pour offrir une assistance intelligente aux utilisateurs directement dans l’application.
J’ai bien avancé, mais je rencontre présentement un gros blocage technique et j’aurais besoin de vos lumières. 
Voici la situation :
J’utilise l’API ChatGPT (modèle GPT-4.1 nano) avec un système de conversations persistantes pour garder le contexte entre les sessions utilisateur. Tout fonctionnait bien jusqu’à ce que :
Le modèle commence à répondre de manière incohérente, comme s’il « oubliait » certaines parties du contexte.
La latence a soudainement augmenté, rendant l’expérience utilisateur moins fluide.
Dans certains cas, les messages sont tronqués ou incomplètement traités par l’API.
Mes hypothèses :
Peut-être que je dépasse une certaine limite de tokens que je gère mal.
Problème de gestion de threads ou de stockage de contexte.
Mauvaise structuration des prompts lors de la relance des conversations.
Mes questions :
Est-ce que quelqu’un ici a déjà mis en place une intégration ChatGPT avec gestion multi-session et pourrait partager son approche ou ses bonnes pratiques ?
Comment optimisez-vous la taille des prompts sans perdre la qualité contextuelle des réponses ?
Avez-vous rencontré des problèmes de latence liés à l’API OpenAI et comment les avez-vous atténués ?
Je suis preneur de vos conseils, expériences ou même de ressources fiables (articles, formations, vidéos) pour approfondir cette intégration.
Merci beaucoup d’avance pour votre aide ! 
Au plaisir d’échanger avec vous,
[BoogieBeckman]