O Hedy escolhe a Inceptron, da Suécia, para processar IA na UE

A Hedy é uma empresa dos EUA, e grande parte das pessoas que usam o app trabalha na Europa. Muitas delas só podem usar uma ferramenta de IA se suas conversas permanecerem na UE. Quando a ferramenta analisa uma negociação com um cliente ou uma consulta médica, essa é uma exigência razoável. Por isso, nossa região de dados da UE abrange duas questões: onde as conversas são armazenadas e onde a IA as analisa.

A segunda depende de quem executa os modelos de IA. Essa tarefa agora é da Inceptron, uma empresa de inferência de Lund, na Suécia.

Por que escolhemos a Inceptron

Em setembro, fizemos uma busca formal por um parceiro de inferência na UE, com requisitos definidos por escrito. O mais importante era incluir em contrato o processamento exclusivo na UE para o serviço específico que usamos: o plano cobrado por solicitação, que atende ao nosso tráfego. Também precisávamos dos modelos de que dependemos a um preço viável para um produto com plano gratuito e de capacidade suficiente para atender a todo o nosso tráfego da UE.

A Inceptron atendeu aos requisitos e concordou em incluir o compromisso de residência de dados no contrato. Nosso acordo de processamento de dados estabelece que a conta do Hedy tem uma configuração exclusiva para a UE, de modo que o processamento permanece na UE e no EEE. O conteúdo das solicitações e das respostas não é armazenado após o processamento nem usado para treinar modelos.

“O Hedy é exatamente o tipo de produto para o qual criamos nossa plataforma serverless. Ele lida com alguns dos textos mais sensíveis que existem, as conversas das próprias pessoas, e os usuários europeus precisam saber para onde esse texto vai. Temos orgulho de que o Hedy tenha escolhido realizar seu processamento de IA para a UE na Inceptron.”

Nima Karimi, Desenvolvimento de Negócios, Inceptron

Quanto processamento de IA o Hedy realiza na UE

A região de dados da UE do Hedy gera atualmente cerca de 6 bilhões de tokens de processamento de IA por mês, e esse número continua crescendo à medida que mais pessoas na Europa usam o Hedy. Um token equivale, aproximadamente, a três quartos de uma palavra em inglês. A contagem inclui todos os recursos de Cloud AI usados por contas da UE.

Se a Inceptron ficar indisponível, o Hedy passa a usar o Google Vertex AI em uma região da UE, de modo que as solicitações das contas da UE continuam sendo processadas na UE.

O que muda para você

Se a sua conta está na região de dados da UE, nada muda para você. Não há nenhuma configuração a alterar, e o app continua funcionando como antes. O mesmo vale para as contas existentes que optaram pelo processamento de IA na UE em Preferências de Privacidade.

Isso se aplica apenas à etapa de Cloud AI. O reconhecimento de fala continua rodando no seu dispositivo, portanto seu áudio não é enviado para transcrição. A IA Local continua mantendo a análise no seu próprio dispositivo. Se o processamento de IA estiver desativado, nada será enviado a qualquer provedor de IA.

Os serviços do Hedy baseados nos EUA para todos os usuários continuam assim: autenticação de conta, cobrança de assinaturas, rastreamento de erros e os provedores de e-mail que enviam recapitulações automáticas. O post sobre residência de dados na UE e nosso guia sobre a conformidade do Hedy com o GDPR explicam o que funciona em cada lugar, e nosso Trust Center em trust.hedy.ai lista todos os subprocessadores.

Sobre a Inceptron

A Inceptron é uma empresa de infraestrutura de IA fundada em Lund, na Suécia, em 2021. Ela desenvolve um compilador de otimização que ajusta os modelos ao hardware em que são executados e usa esse trabalho para oferecer modelos de pesos abertos por meio de uma API compatível com OpenAI, hospedada na UE. Seus modelos também estão disponíveis por meio de gateways como Kilo, Opper e OpenRouter.

Perguntas frequentes

Quem é a Inceptron?

A Inceptron AB é uma empresa de inferência de IA sediada em Lund, na Suécia. Ela desenvolve um compilador de otimização para modelos de IA e oferece modelos de pesos abertos como serviço hospedado em infraestrutura de GPU na Finlândia e na França. O Hedy usa esse serviço para o processamento de Cloud AI na sua região de dados da UE.

Quais usuários do Hedy são afetados?

As contas na região de dados da UE e as contas existentes que optaram pelo processamento de IA na UE em Preferências de Privacidade. As contas na região dos EUA não são afetadas. Nada muda no app e você não precisa configurar nada.

A Inceptron armazena minhas conversas ou as usa para treinar modelos?

Não. Pelo nosso acordo de processamento de dados, a Inceptron não armazena o conteúdo das solicitações nem das respostas após o processamento e não usa o conteúdo dos clientes para treinar modelos. O acordo também estabelece que a conta do Hedy tem uma configuração exclusiva para a UE, de modo que o processamento permanece na UE e no EEE.

O que a Inceptron processa?

A etapa de Cloud AI: sugestões automáticas, resumos, notas detalhadas, chat e destaques das contas na região de dados da UE. O reconhecimento de fala é separado e continua rodando no seu dispositivo. Se você usar IA Local ou desativar o processamento de IA, nada será enviado à Inceptron.

O que acontece se a Inceptron ficar indisponível?

O Hedy passa a usar o Google Vertex AI em uma região da UE, então o processamento das contas da UE permanece na UE em qualquer dos casos. O Google é uma empresa sediada nos EUA, por isso consta separadamente nos nossos registros de subprocessadores.

Isso significa que o Hedy é totalmente hospedado na UE?

Não. O armazenamento das conversas e o processamento de IA das contas da UE ocorrem na UE, mas a autenticação de conta, a cobrança de assinaturas e o rastreamento de erros são baseados nos EUA para todos os usuários, assim como os provedores de e-mail que enviam recapitulações automáticas. O post sobre residência de dados na UE traz todos os detalhes.