Perplexity déploie Photon et réduit sa latence à 65 ms

Perplexity déploie Photon. Perplexity a publié Photon, un moteur interne de recherche et de classement écrit en Rust. Le système remplace un moteur libre que l’entreprise avait dérivé. Photon traite désormais la recherche et le classement pour l’ensemble du trafic de production. Cette intégration concerne donc le chemin utilisé par les requêtes en production. Perplexity présente Photon comme une brique interne dédiée à ces deux opérations. Le choix de Rust constitue la caractéristique technique mise en avant pour ce moteur. L’annonce décrit ainsi un remplacement d’infrastructure, avec une couverture complète du trafic de production. La performance publiée porte principalement sur la latence et les ressources de service utilisées.

La latence p99 recule. Avec Photon, la latence p99 en production est passée d’environ 800 millisecondes à environ 65 millisecondes. Perplexity rapporte aussi une latence par appel de 160 millisecondes au p50. Elle atteint 230 millisecondes au p95. Ces mesures distinguent la latence observée sur l’ensemble de la production des résultats par appel. Les valeurs publiées décrivent donc plusieurs niveaux de performance. Le p99 correspond à la mesure utilisée pour comparer l’ancien moteur et Photon. Les valeurs p50 et p95 complètent cette comparaison avec des mesures par appel. Ensemble, ces chiffres documentent les résultats annoncés pour le nouveau moteur de recherche et de classement.

Photon équipe Fast Search

L’API utilise Photon. Le mode Fast Search de l’API Perplexity Search fonctionne avec Photon. Cette fonction relie donc le moteur interne au mode de recherche rapide proposé dans l’API. La documentation de Fast Search présente ce mode dans l’offre de recherche de Perplexity. L’entreprise indique également que Fast Search aurait réduit le coût des tâches d’environ 68 pour cent, à qualité de tâche comparable. Cette estimation concerne Fast Search. Elle ne constitue pas une mesure séparée de la latence de Photon. Les deux informations décrivent toutefois le même mode d’utilisation de l’API et ses résultats rapportés par Perplexity.

Les machines diminuent aussi. Photon fonctionne avec environ 20 pour cent de machines de service en moins que les anciens nœuds de contenu. Ce chiffre concerne les ressources de service mobilisées par le nouveau moteur. Il accompagne la baisse publiée de la latence p99, passée d’environ 800 à 65 millisecondes. Perplexity associe aussi Fast Search à une réduction estimée du coût des tâches, évaluée à environ 68 pour cent pour une qualité comparable. Ces résultats couvrent donc trois indicateurs distincts. Ils portent sur la latence en production, le nombre de machines utilisées et le coût estimé des tâches. La comparaison s’effectue avec les infrastructures précédentes.

Perplexity généralise son moteur

Le trafic passe par Photon. Photon assure désormais la recherche et le classement sur tout le trafic de production de Perplexity. Le moteur alimente également Fast Search dans l’API Perplexity Search. Cette couverture distingue Photon d’un simple essai limité à quelques requêtes. Les résultats publiés restent centrés sur les mesures de Perplexity. Ils indiquent une latence p99 d’environ 65 millisecondes, contre environ 800 auparavant. Perplexity rapporte aussi 160 millisecondes au p50 et 230 millisecondes au p95 pour une requête unique. La page de présentation de Photon détaille cette évolution du moteur interne écrit en Rust.