El sistema de inicio indio presenta el sistema para ejecutar IA sin chips avanzados

Ziroh Labs, una startup de inteligencia artificial que opera en India, colaboró ​​con investigadores de la principal escuela de tecnología del país para diseñar un sistema asequible que, según él, puede ejecutar grandes modelos de IA sin requerir chips informáticos avanzados de las personas como Nvidia.

El marco de la compañía, llamado Kompact AI, se desarrolló en asociación con el Instituto Indio de Tecnología de Madras. Ziroh Labs dijo que la plataforma permite que la IA se ejecute en las unidades de procesamiento centrales (CPU) que se encuentran en los dispositivos informáticos cotidianos en comparación con las codiciadas y costosas unidades de procesamiento de gráficos (GPU) que han sido el horno del auge de la inteligencia artificial.

Un número creciente de desarrolladores de IA ha promocionado las ganancias de eficiencia que les permiten usar menos chips en los meses posteriores al éxito viral de Deepseek de China, que supuestamente construyó un modelo AI competitivo para una fracción del costo de sus pares estadounidenses. El enfoque de Ziroh Labs se centra principalmente en el proceso de inferencia, o en operar sistemas de IA después de haber sido capacitados.

Ziroh Labs dijo que puede optimizar los modelos de IA líderes para ejecutarse en computadoras personales. En un evento de demostración esta semana, el equipo de investigadores mostró su producto trabajando en una computadora portátil que utiliza un procesador Intel Xeon comprado en el estante y modelos de consulta como Meta Platforms ‘Llama 2 y el Grupo de Alibaba Holding’s QWEN2.5.

Otras empresas tecnológicas también han utilizado CPU para manejar algunas cargas de trabajo de inferencia. Ziroh Labs dijo que su enfoque conduce a resultados de alta calidad. La startup dijo que su tecnología ha sido probada por los fabricantes de chips Intel y los dispositivos Micro Advanced.

“Tendrá un impacto de mercado muy profundo en los próximos años”, dijo William Raduchel, ex director de estrategia de Sun Microsystems y asesor tecnológico de la startup que habló virtualmente en el evento.

Como en otros países, los desarrolladores de la India han luchado por pagar y obtener acceso a los chips Nvidia de primera línea para ayudar a construir y apoyar productos de IA. La escasez de GPU corre el riesgo de obstaculizar la velocidad y la escala de la investigación y el despliegue locales de IA.

“La división de IA se debe a que solo aquellos con recursos costosos con GPU de alta gama pueden acceder, desarrollar y desplegar una poderosa IA”, dijo V. Kamakoti, director del Instituto Indio de Tecnología de Madras. “Estamos demostrando que no necesitas un revólver para matar a un mosquito”.

© 2025 Bloomberg LP