Repello AI é uma startup especializada em segurança para inteligência artificial gerativa que recentemente conseguiu levantar 1,225 milhão de dólares em uma rodada de financiamento semente para impulsionar ainda mais sua missão de proteger sistemas de IA gerativa contra ameaças emergentes. A empresa foi fundada em 2024 e se dedica a criar soluções de teste contínuo da equipe vermelha e proteção de segurança, com dois principais produtos: ARTEMIS e Repello Guard.
O financiamento desta rodada contou com o apoio de várias instituições de investimento, incluindo a Venture Highway, que agora está integrada à General Catalyst, pi Ventures, Entrepreneur First, bem como de alguns anjos renomados, como o membro do conselho da Meta, Charles Songhurst, o CEO da Sarvam AI, Vivek Raghavan, e o CEO do Project Hero, Satya Vyas.
O principal produto da Repello AI, ARTEMIS (motor de teste automatizado da equipe vermelha), pode escanear ativamente vulnerabilidades nos modelos de IA gerativa, abrangendo múltiplos modos como texto, imagens e áudio. Por outro lado, o Repello Guard é uma ferramenta de segurança em tempo real capaz de filtrar saídas inseguras e marcar riscos como injecção de prompt, menções competitivas e vazamento de prompt em tempo real.
Aryaman Behera, co-fundador e CEO da Repello AI, afirmou: "Estamos em um momento crucial, onde a adoção da IA está ultrapassando a velocidade das soluções de segurança." Ele destacou que as empresas estão implantando IA gerativa em vários departamentos, mas muitas vezes utilizando estratégias de segurança desatualizadas. Behera citou um exemplo de um robô conversacional de uma concessionária de automóveis que autorizou acidentalmente transações de US$ 1,00, enfatizando que a segurança da IA não pode ser vista como uma correção pós-fato. Ele comparou: "Para aplicativos de IA gerativa, a falta de medidas de segurança é como uma casa sem portas."
O outro co-fundador e CTO da Repello AI, Naman Mishra, mencionou que o design do ARTEMIS transformou o teste da equipe vermelha, antes realizado trimestralmente pelas empresas, em uma etapa importante no fluxo de desenvolvimento e implantação da IA. Ele enfatizou que o objetivo do ARTEMIS e do Repello Guard é garantir a entrega segura e rápida dos produtos.
Atualmente, a Repello AI está em fase de implementação ativa com empresas como Groww e PhysicsWallah, e realizando testes de conceito na América do Norte, Europa e Oriente Médio. Embora os dados específicos de receita ainda não tenham sido divulgados, este financiamento será usado para expandir o portfólio de produtos, aumentar a credibilidade da marca, ampliar a promoção no mercado e estabelecer parcerias globais.
Resumindo:
💰 A Repello AI conseguiu 1,225 milhão de dólares em financiamento semente para impulsionar soluções de segurança para IA gerativa.
🔍 O ARTEMIS e o Repello Guard são os principais produtos da empresa, projetados para identificar vulnerabilidades de segurança nos sistemas de IA.
🌍 A Repello AI está colaborando ativamente com várias empresas e avançando sua expansão global.
