我們詢問了 @davidpstout(webAI 的聯合創始人兼首席執行官)關於在設備上運行 AI 的優勢。 “沒有免費的午餐,但雲服務提供商無法做到的事情是存在的。是的,這需要大量的 RAM,但通過在設備之間分配,我們可以解鎖更多的準確性和上下文。但是如果你在 Nvidia 上為一百萬用戶提供服務,你是做不到的。” “在我們的技術棧中,一切都是下游的。想想健康數據,你希望它是私密的。夢想是為數百萬個從未離開其設備的用戶提供個性化模型。”
7.5K