Gemma 3 270M (8-bit) ved ~200 tk/s på iPad Air M3 med MLX

Her er hva vi sendte denne uken 🚢🚢🚢 —Vi lanserte en ny Imagen 4 Fast-modell slik at utviklere raskt kan generere bilder til bare $0.02 per bilde og oppdaterte Imagen 4 og Imagen 4 Ultra for å støtte 2K-bilder. Alle er nå generelt tilgjengelige i Gemini API for utviklere og @GoogleCloud Vertex AI for bedriftskunder. —Vi introduserte Gemma 3 270M, en ny modell i Gemma-familien vår som er hypereffektiv og best for utviklere å ta og finjustere for spesifikke oppgaver. —Google AI Ultra-abonnenter kan nå kjøre 2X flere Deep Think-spørringer i @GeminiApp, opptil 10 forespørsler per dag. —@GeminiApp kan nå referere til dine tidligere chatter for å levere mer personlige svar. Vi introduserte også midlertidige chatter og nye personverninnstillinger, slik at du kan skape opplevelsen som passer for deg. – Ny forskning fra @GoogleResearch & @GoogleDeepMind introduserer g-AMIE og utforsker hvordan AI kan hjelpe i lege-pasient-samtaler samtidig som legene har kontroll.

🖼️ Imagen 4 er nå generelt tilgjengelig! For å vise hvor kraftig den nye ⚡raske⚡ modellen er, prøv dette filmbildespillet fra @alexanderchen. 📽️ Gjett filmen ved hjelp av Imagen 4 Fast. Link er nedenfor ⬇️ Her er et par av mine favoritter.

Gemma 3 270M kjører på min Pixel 7a! Helt gal (ikke fremskyndet)

Gemma 3 270m 4-bit genererer tekst med over 650 (!) tok/sek på en M4 Max med mlx-lm og bruker < 200MB: Ikke fremskyndet:

Imagen 4 er nå allment tilgjengelig! Oppdateringen introduserer også en ny Imagen 4 Fast-modell, for raskt å generere bilder til bare $0.02 per bilde.

Vi presenterer Gemma 3 270M 🔥 🤏En liten modell! Bare 270 millioner parametere 🧠 Veldig sterk instruksjon som følger 🤖 Finjuster på bare noen få minutter, med et stort ordforråd for å tjene som et fundament av høy kvalitet

Vi sendte Gemma 3 27B tilbake i mars, og den er fortsatt et toppvalg for forbruker-GPUer. Den har solide multimodale evner, QAT for å låse opp robust kvantisering, og det er en utviklervennlig størrelse. Og vi har mer i ovnen 🧑 🍳

AI Studio-byggere: Nå kan du koble til GitHub, opprette et nytt repositorium og utføre endringer for alle apper du jobber med fra AIS 🙂

📣 Vi har nettopp aktivert LLMS.TXT på Gemini API-dokumentene. På bare legg til /llms.txt for å få modellvennlige dokumenter. MCP: 1️⃣ Bruk mcpdoc for å legge til kodeagenten din 2️⃣ Bygg med de nyeste anbefalte fremgangsmåtene for API og SDK 👇 Eller bruk i Gemini CLI med denne utvidelsen 👇 Gi meg beskjed hvis du støter på noen feil eller problemer.