Hace poco, IBM lanzó cuatro nuevos modelos Granite4.0Nano, cuyas escalas de parámetros van desde 3.5 millones hasta 1.5 mil millones, demostrando el enfoque de la empresa en la eficiencia y la accesibilidad en el campo de la inteligencia artificial. A diferencia de los modelos grandes de la industria que generalmente dependen de la nube, los modelos Granite4.0Nano pueden ejecutarse en computadoras portátiles comunes e incluso en el navegador localmente. Esto permite a los desarrolladores construir aplicaciones para dispositivos de hardware del consumidor o dispositivos periféricos sin depender de servicios en la nube.
Todos los modelos Granite4.0Nano se publican bajo la licencia Apache 2.0, son adecuados para investigadores, empresas y desarrolladores independientes, y admiten usos comerciales. Estos modelos son compatibles con diversas herramientas, como llama.cpp, vLLM y MLX, y han obtenido la certificación ISO 42001 para el desarrollo responsable de IA.
La familia Granite4.0Nano incluye cuatro modelos: Granite-4.0-H-1B (aproximadamente 150 millones de parámetros), Granite-4.0-H-350M (aproximadamente 3.5 millones de parámetros), Granite-4.0-1B (una variante con aproximadamente 200 millones de parámetros) y Granite-4.0-350M (una variante). Los modelos de la serie H utilizan una arquitectura de espacio de estados híbrido, lo que los hace adecuados para entornos de borde con baja latencia, mientras que los modelos convencionales de transformador ofrecen mayor compatibilidad.
Aunque hay muchos modelos de lenguaje pequeños en el mercado, la familia Nano de IBM se destaca por su desempeño excepcional. Las pruebas recientes muestran que los modelos Granite4.0 superan a sus competidores en varios campos. El equipo de investigación de IBM afirma que estos modelos destacan en tareas de seguimiento de instrucciones y llamadas de funciones, y tienen ventajas en la demanda de memoria y la velocidad de ejecución, permitiendo un funcionamiento fluido en dispositivos móviles o CPUs.
Destaca mencionar que IBM no solo lanzó estos modelos, sino que también interactúa activamente con la comunidad de desarrolladores, recopilando comentarios y discutiendo planes futuros. El equipo Granite intercambia con usuarios en Reddit, mostrando los esfuerzos de la empresa por impulsar el desarrollo de IA de código abierto.
huggingface:https://huggingface.co/blog/ibm-granite/granite-4-nano
Puntos clave:
🌟 IBM lanzó los modelos Granite4.0Nano, que pueden ejecutarse en hardware común, mejorando la disponibilidad de modelos de IA pequeños.
🛠️ Todos los modelos están publicados bajo la licencia Apache 2.0, adecuados para uso en investigación y comercialización, garantizando apertura y compatibilidad.
📈 Las pruebas recientes muestran que los modelos Granite4.0 superan a productos similares en rendimiento, demostrando una capacidad de procesamiento eficiente.
