Recentemente, a IBM lançou quatro novos modelos Granite4.0Nano, que possuem escalas de parâmetros entre 3,5 milhões e 1,5 bilhão, demonstrando o compromisso da empresa com eficiência e acessibilidade no campo de inteligência artificial. Ao contrário das grandes modelagens do setor, que geralmente dependem de nuvem computacional, os modelos Granite4.0Nano podem ser executados em notebooks comuns ou até mesmo no navegador localmente. Isso permite que desenvolvedores construam aplicações adequadas para hardware de consumidores ou dispositivos de borda sem depender de serviços em nuvem.
Todos os modelos Granite4.0Nano são licenciados sob a Apache2.0, sendo adequados para pesquisadores, empresas e desenvolvedores independentes, com suporte a uso comercial. Esses modelos são compatíveis com várias ferramentas, como llama.cpp, vLLM e MLX, e possuem certificação ISO42001 para desenvolvimento responsável de IA.
A família Granite4.0Nano inclui quatro modelos: Granite-4.0-H-1B (cerca de 150 milhões de parâmetros), Granite-4.0-H-350M (cerca de 3,5 milhões de parâmetros), Granite-4.0-1B (variação com aproximadamente 200 milhões de parâmetros) e Granite-4.0-350M (variação). Os modelos da série H utilizam uma arquitetura de espaço de estado híbrido, adequada para ambientes de borda com baixa latência, enquanto os modelos de transformador padrão oferecem maior compatibilidade.
Ainda que existam muitos pequenos modelos de linguagem no mercado, a família Nano da IBM se destaca por sua performance excepcional. Testes recentes mostraram que os modelos Granite4.0 superam seus concorrentes em vários campos. A equipe de pesquisa da IBM afirma que esses modelos se destacam em tarefas de seguir instruções e chamada de funções, além de ter vantagens em demanda de memória e velocidade de execução, podendo operar fluentemente em dispositivos móveis ou CPUs.
Destaca-se que a IBM não apenas lançou esses modelos, mas também interage ativamente com a comunidade de desenvolvedores, coletando feedbacks e discutindo planos futuros de desenvolvimento. A equipe Granite conversa com usuários no Reddit, demonstrando os esforços da empresa para impulsionar o desenvolvimento de IA de código aberto.
huggingface:https://huggingface.co/blog/ibm-granite/granite-4-nano
Principais pontos:
🌟 A IBM lançou os modelos Granite4.0Nano, que suportam execução em hardware comum, aumentando a acessibilidade dos pequenos modelos de IA.
🛠️ Todos os modelos estão licenciados sob Apache2.0, adequados para uso em pesquisa e comercial, garantindo abertura e compatibilidade.
📈 Testes recentes mostraram que os modelos Granite4.0 superam produtos similares em desempenho, demonstrando capacidade de processamento eficiente.
