La extensión del metaverso parece ilimitada, con la capacidad potencial de ejecutarse en cualquier dispositivo conectado, y en un intento por brindar a los usuarios experiencias de realidad extendida (XR) privadas, más confiables y personalizadas, Qualcomm Technologies y Meta se embarcaron en un proyecto para optimizar la ejecución de los modelos de lenguaje grande Llama 2 de Meta directamente en el dispositivo, sin depender del uso exclusivo de servicios en la nube.
Meta y Qualcomm Technologies tienen una relación comercial existente para tratar de crear la próxima generación de experiencias de dispositivos premium. La colaboración actual de las empresas para apoyar el ecosistema Llama abarca esfuerzos de investigación e ingeniería de productos.
Las empresas creen que la capacidad de ejecutar modelos de inteligencia artificial generativa (AI) como Llama 2 en dispositivos como teléfonos inteligentes, PC, realidad virtual (VR) y realidad aumentada (AR) y vehículos permite a los desarrolladores ahorrar en costos de nube y brindar a los usuarios experiencias privadas, más confiables y personalizadas.
Mientras anunciaba la nueva relación de trabajo, Qualcomm afirmó que su experiencia en IA en el dispositivo lo posicionó de manera “única” para respaldar el ecosistema Llama, teniendo lo que dijo que era una huella “inigualable” en el perímetro: con miles de millones de teléfonos inteligentes, vehículos, auriculares y anteojos XR, PC y dispositivos de Internet de las cosas (IoT) impulsados por sus soluciones de hardware y software de IA.
Como resultado, Qualcomm Technologies planea poner a disposición implementaciones de IA en el dispositivo basadas en Llama 2, la segunda generación de Meta de su gran modelo de lenguaje, para permitir la creación de nuevas aplicaciones de IA. Dijo que esto permitiría a los clientes, socios y desarrolladores crear casos de uso, como asistentes virtuales inteligentes, aplicaciones de productividad, herramientas de creación de contenido, entretenimiento y más. Estas nuevas experiencias de IA en el dispositivo, impulsadas por la plataforma móvil Snapdragon de Qualcomm, están diseñadas para funcionar en áreas sin conectividad y en modo avión.
“Aplaudimos el enfoque de Meta para una IA abierta y responsable y estamos comprometidos a impulsar la innovación y reducir las barreras de entrada para los desarrolladores de cualquier tamaño al llevar la IA generativa al dispositivo”, dijo Durga Malladi, vicepresidente sénior y gerente general de negocios de tecnología, planificación y soluciones de vanguardia en Qualcomm Technologies. “Para escalar de manera efectiva la IA generativa a la corriente principal, la IA deberá ejecutarse tanto en la nube como en dispositivos en el borde, como teléfonos inteligentes, computadoras portátiles, vehículos y dispositivos IoT”.
Qualcomm Technologies está programado para poner a disposición la implementación de IA basada en Llama 2 en dispositivos con tecnología Snapdragon a partir de 2024. Los desarrolladores pueden comenzar a optimizar las aplicaciones para la IA en el dispositivo de inmediato utilizando Qualcomm AI Stack, un conjunto de herramientas diseñadas para procesar la IA de manera más eficiente en Snapdragon, lo que hace posible la IA en el dispositivo incluso en dispositivos pequeños, delgados y livianos.
El anuncio de Meta se produce justo después de que Qualcomm Technologies anunciara nuevas características para su plataforma de desarrollo Snapdragon Spaces XR para acelerar un ecosistema de realidad extendida (XR) entre dispositivos y crear un futuro desgastado que, según dijo, sería “verdaderamente abierto”. Agregó que había ayudado a ser pionero en la realidad aumentada de teléfonos inteligentes hace más de 13 años, y que con Snapdragon Spaces, estaba reinventando lo que puede ser AR con tecnología de teléfonos inteligentes cuando se combina con anteojos AR.