Meta e Qualcomm, duas gigantes do setor de tecnologia, eles uniram forças para otimizar a execução dos modelos linguagem grande Llama 2 diretamente para seus dispositivos, reduzindo a dependência de serviços em nuvem. Essa inovação permite executar modelos de IA generativa, como o Llama 2, em smartphones, PCs, headsets VR/AR e veículos, proporcionando aos usuários experiências mais privadas, confiáveis e personalizadas e, ao mesmo tempo, economizando nos custos da nuvem.
Um futuro tecnológico promissor graças à inteligência artificial do Llama 2
A IA no dispositivo pode funcionar perfeitamente mesmo no modo avião. Esta parceria visa disponibilizar implementações de IA baseadas no Llama 2, permitindo aos desenvolvedores criar aplicativos inovadores de inteligência artificial. Clientes, parceiros e desenvolvedores poderão aproveitar o poder dessas experiências de IA para criar assistentes virtuais inteligentes, ferramentas de produtividade, plataformas de criação de conteúdo e aplicativos de entretenimento.
Durga Malladi, vice-presidente sênior e gerente geral de tecnologia de ponta, planejamento e soluções da Qualcomm Technologies, deu sua opinião suporte para a abordagem da Meta para IA aberta e responsável. Malladi destacou o compromisso da empresa em impulsionar a inovação e facilitar o desenvolvimento de IA para desenvolvedores de todos os tamanhos, prevendo que a IA generativa funcionará perfeitamente na nuvem e em dispositivos de ponta, como smartphones, laptops, veículos e dispositivos Internet das coisas.
A colaboração entre a Meta e a Qualcomm Technologies se baseia em uma longa história de inovação tecnológica para oferecer experiências de dispositivos premium. Esta parceria inclui esforços conjuntos de pesquisa e engenharia de produto destinados a apoiar o ecossistema Llama. A liderança da Qualcomm Technologies em IA no dispositivo a posiciona exclusivamente para oferecer suporte ao Llama, devido à sua ampla presença nas bordas, alimentando bilhões de smartphones, veículos, headsets XR, óculos, PCs e dispositivos IoT com soluções de hardware e software de classe mundial. IA líder do setor.
Espera-se que esteja disponível a partir de 2024, a Qualcomm Technologies planeja oferecer implementações de IA baseada em Llama 2 em dispositivos com Snapdragon. Os desenvolvedores podem começar hoje otimizando seus aplicativos para IA no dispositivo usando o Qualcomm AI Stack, um conjunto dedicado de ferramentas que permitem Processamento AI mais eficiente no Snapdragon. Essa tecnologia inovadora torna possível a IA no dispositivo, mesmo em dispositivos pequenos, finos e leves.
