Ce post présente les coûts et vitesses de Jev et d'autres modèles sur des tâches de décision clinique, compare le coût total de 9 API et note que le modèle local de 3 Go le plus rapide répond en 284 ms.
you asked for cost and speed, so here they are 👇 pplx-decider and Jev each ran all 669 clinical decisions for about 3 cents. all 9 APIs together: 74 cents. the fastest 3 GB local model answers in 284 ms, quicker than any API i measured.
Lors de consultations cliniques en direct, un scribe ambiant fournit périodiquement des transcriptions à Jev, qui parcourt une ontologie médicale pour classer les symptômes, mettre à jour le diagnostic différentiel, suggérer des traitements et identifier les signaux d'alerte en temps réel.
L'auteur montre comment orienter un patient vers le bon médecin en utilisant uniquement le modèle Jev de TypeSafe AI et un peu de code pour poser des questions, en précisant qu'aucun LLM n'est utilisé pendant la conversation.
Un développeur partage la création d'une application de suivi des calories avec Jev, soulignant son expérience instantanée.
