A Amazon foi recentemente notícia por estar desenvolvendo um modelo de linguagem grande multimodais chamado "Olympus", com lançamento previsto para a conferência AWS re:Invent da próxima semana. De acordo com o The Information, o nome de código interno para este algoritmo é "Olympus".
Em novembro do ano passado, a Reuters informou que a Amazon investiu milhões de dólares no treinamento de um modelo de linguagem grande chamado "Olympus", com 2 trilhões de parâmetros. Se o modelo mencionado nesta reportagem é o mesmo "Olympus" anterior, uma nova versão ou um sistema completamente novo, ainda não está claro.
Observação da imagem: A imagem foi gerada por IA, provedora de serviços de licenciamento de imagens Midjourney
O novo modelo "Olympus" pode processar não apenas texto, mas também imagens e vídeos. Isso significa que os usuários podem pesquisar trechos específicos em bibliotecas de vídeos usando comandos de linguagem natural. Além disso, acredita-se que o modelo possa ajudar empresas de energia a analisar dados geológicos. Isso indica que o "Olympus" tem um amplo potencial de aplicação.
Fontes do The Information preveem que a Amazon pode anunciar este novo modelo na conferência AWS re:Invent da próxima semana. Se o "Olympus" for realmente lançado na conferência, provavelmente será disponibilizado através dos serviços da Amazon Web Services (AWS), possivelmente como parte do AWS Bedrock. O AWS Bedrock é um serviço gerenciado lançado pela Amazon em abril do ano passado, que permite aos usuários acessar modelos de ponta hospedados na nuvem.
Atualmente, o serviço oferece mais de seis modelos desenvolvidos pela Amazon, sendo o mais avançado o Amazon Titan Text Premier, que suporta entradas de até 32.000 tokens, capaz de gerar texto e código, e realizar análises de raciocínio passo a passo.
O Bedrock também inclui três modelos de incorporação gerativa desenvolvidos pela Amazon, que fornecem estruturas matemáticas para o armazenamento de informações para aplicativos de aprendizado de máquina. Um desses modelos suporta a geração de incorporações de dados multimodais, o que pode facilitar o uso dos recursos multimodais do "Olympus" pelos clientes.
Além dos modelos desenvolvidos pela Amazon, o Bedrock também oferece modelos de linguagem de outras empresas, incluindo a Anthropic PBC, que tem um relacionamento próximo com a Amazon. Recentemente, a Anthropic recebeu US$ 8 bilhões em financiamento da Amazon, sendo US$ 4 bilhões anunciados na semana passada, um investimento particularmente notável.
O lançamento do modelo "Olympus" pode ser uma forma da Amazon reduzir sua dependência da Anthropic. Ao mesmo tempo, outras gigantes de tecnologia estão se esforçando para internalizar mais tecnologias de inteligência artificial, como o Meta, que está desenvolvendo seu próprio mecanismo de busca para reduzir sua dependência dos mecanismos de busca do Microsoft e Google.
A estratégia de IA da Amazon não se limita ao software, mas também inclui hardware. A empresa desenvolveu duas famílias de chips otimizados para cargas de trabalho de treinamento e inferência: AWS Trainium e AWS Inferentia. Na semana passada, a Anthropic também colaborou com a Amazon para melhorar o desempenho do chip Trainium.
Destaques:
💡 A Amazon está desenvolvendo um modelo de linguagem multimodal chamado "Olympus", com lançamento previsto para a conferência AWS re:Invent da próxima semana.
🎥 O novo modelo pode processar texto, imagens e vídeos, permitindo a busca de trechos específicos em bibliotecas de vídeos usando linguagem natural.
💻 O "Olympus" pode ser disponibilizado através do serviço AWS Bedrock, e a estratégia de IA da Amazon também inclui investimentos em hardware.