Tous les articles
Engineering·8 min
Comment Scalter score les recommandations en moins de 50 ms
par Zak
Scalter regarde vos cas, vos apps installées et votre knowledge pour proposer la prochaine action utile. Pour que ce soit utile, la recommandation doit arriver avant que vous ayez fini de lire l’écran.
Nous pré-calculons les signaux lourds à l’ingestion, puis nous ne gardons au moment de la requête que le scoring léger : une poignée de features, un modèle compact, un cache par utilisateur.
Chaque recommandation porte ses raisons. C’est ce qui la rend explicable, et ce qui nous a forcés à garder le pipeline simple.
Résultat : un p95 sous 50 ms sur nos déploiements pilotes, sans GPU au moment de la requête.