Meta og Qualcomm går sammen om at lancere store sprogmodeller på telefoner
Qualcomm og Meta har annonceret, at den store sprogmodel Llama 2 fra 2024 vil køre på Qualcomm-chips i telefoner og pc'er.
Her er, hvad vi ved
Lanceringen af sprogmodeller på mobile processorer vil gøre det muligt for AI-applikationer som f.eks. stemmeassistenter at køre direkte på enheder i stedet for i skyen. Det kan reducere omkostningerne og forbedre ydeevnen for sådanne systemer.
Llama 2 er en open source-model, der gør stort set det samme som GPT-4 eller PaLM-2. Samtidig kan den pakkes ind i en mindre applikation, der kan køre på en telefon. Qualcomm vil gøre den tilgængelig på sine enheder, der har en dedikeret processor til kunstig intelligens.
Virksomhederne har tidligere arbejdet tæt sammen om virtual reality-chips. Qualcomm har også demonstreret nogle AI-modeller på sine processorer, såsom Stable Diffusion-billedgeneratoren.
Gå dybere:
Kilde: CNBC: CNBC.