Nous avons demandé à @davidpstout (Co-fondateur et PDG, webAI) quels sont les avantages de faire fonctionner l'IA sur des appareils. "Il n'y a pas de repas gratuit, mais il y a des choses que les acteurs du cloud ne peuvent pas faire. C'est intensif en RAM, oui, mais en distribuant sur les appareils, nous pouvons débloquer plus de précision et de contexte. Mais si vous hébergez pour un million d'utilisateurs sur Nvidia, vous ne pouvez pas faire ça." "Avec notre stack, tout est en aval uniquement. Pensez aux données de santé, comme vous voulez que cela reste privé. Le rêve, ce sont des modèles personnalisés pour des millions qui ne quittent jamais leur appareil."
6,58K