Hedy выбирает шведскую Inceptron для обработки ИИ в ЕС

Hedy — американская компания, и значительная часть её пользователей работает в Европе. Многие из них могут использовать инструмент на основе ИИ, только если их разговоры остаются в ЕС, и когда инструмент анализирует переговоры с клиентом или приём у врача, это разумное требование. Поэтому наш регион данных ЕС охватывает две вещи: где хранятся разговоры и где их анализирует ИИ.

Вторая часть зависит от того, кто запускает модели ИИ. Теперь эту работу выполняет Inceptron, компания по инференсу из шведского Лунда.

Почему мы выбрали Inceptron

В сентябре мы провели формальный поиск партнёра по инференсу в ЕС с письменным списком требований. Главным из них было то, что обработка только в ЕС должна быть закреплена в договоре для именно того сервиса, которым мы пользуемся: тарифа с оплатой за запрос, который обслуживает наш трафик. Нам также были нужны модели, на которые мы опираемся, по цене, которая подходит для продукта с бесплатным тарифом, и достаточные мощности, чтобы принять весь наш трафик из ЕС.

Inceptron отвечала требованиям и согласилась закрепить обязательство по размещению в договоре. В нашем соглашении об обработке данных указано, что аккаунт Hedy настроен только на ЕС, поэтому обработка остаётся в пределах ЕС и ЕЭЗ. Содержимое запросов и ответов после обработки не хранится и не используется для обучения моделей.

«Hedy — именно тот продукт, для которого мы создавали нашу бессерверную платформу. Он работает с одним из самых чувствительных видов текста — с личными разговорами людей, — а европейским пользователям нужно знать, куда попадает этот текст. Мы гордимся тем, что Hedy выбрала Inceptron для обработки ИИ в ЕС».

Nima Karimi, Business Development, Inceptron

Сколько ИИ-обработки Hedy выполняет в ЕС

Регион данных ЕС Hedy сейчас генерирует около 6 миллиардов токенов ИИ-обработки в месяц, и это число продолжает расти по мере того, как всё больше людей в Европе пользуются Hedy. Токен — это примерно три четверти английского слова. В подсчёт входят все функции облачного ИИ, которые используют аккаунты ЕС.

Если Inceptron когда-нибудь окажется недоступна, Hedy переключается на Google Vertex AI в регионе ЕС, поэтому запрос из аккаунта ЕС всё равно обрабатывается в ЕС.

Что меняется для вас

Если ваш аккаунт находится в регионе данных ЕС, с вашей стороны ничего не меняется. Переключать ничего не нужно, приложение работает как прежде. То же относится к существующим аккаунтам, которые включили обработку ИИ в ЕС в настройках конфиденциальности.

Это касается только этапа облачного ИИ. Распознавание речи по-прежнему выполняется на вашем устройстве, поэтому аудио никуда не отправляется для транскрибации. Локальный ИИ по-прежнему оставляет анализ на вашем собственном оборудовании, а если обработка ИИ отключена, ничего не отправляется ни одному поставщику ИИ.

Те части Hedy, которые для всех находятся в США, там и остаются: вход в аккаунт, выставление счетов за подписку, отслеживание ошибок и почтовые провайдеры, которые отправляют письма с автоматическими резюме. О том, что где работает, рассказывают статья о размещении данных в ЕС и наше руководство по соответствию Hedy GDPR, а в нашем Центре доверия на trust.hedy.ai перечислены все субпроцессоры.

Об Inceptron

Inceptron — инфраструктурная ИИ-компания, основанная в шведском Лунде в 2021 году. Она создаёт компилятор оптимизации, который настраивает модели под оборудование, на котором они работают, и использует эту работу, чтобы предоставлять модели с открытыми весами через совместимый с OpenAI API, размещённый в ЕС. Её модели доступны также через шлюзы, включая Kilo, Opper и OpenRouter.

Часто задаваемые вопросы

Кто такая Inceptron?

Inceptron AB — компания по инференсу ИИ из шведского Лунда. Она разрабатывает компилятор оптимизации для моделей ИИ и запускает модели с открытыми весами как облачный сервис на GPU-мощностях в Финляндии и Франции. Hedy использует этот сервис для облачной обработки ИИ в своём регионе данных ЕС.

Каких пользователей Hedy это затрагивает?

Аккаунты в регионе данных ЕС, а также существующие аккаунты, которые включили обработку ИИ в ЕС в настройках конфиденциальности. Аккаунты в регионе США не затрагиваются. В приложении ничего не меняется, настраивать ничего не нужно.

Хранит ли Inceptron мои разговоры или обучается на них?

Нет. По нашему соглашению об обработке данных Inceptron не хранит содержимое запросов и ответов после обработки и не использует содержимое клиентов для обучения моделей. В соглашении также указано, что аккаунт Hedy настроен только на ЕС, поэтому обработка остаётся в пределах ЕС и ЕЭЗ.

Что обрабатывает Inceptron?

Этап облачного ИИ: автоматические подсказки, резюме, подробные заметки, чат и основные моменты для аккаунтов региона данных ЕС. Распознавание речи выполняется отдельно и по-прежнему на вашем устройстве. Если вы используете локальный ИИ или отключаете обработку ИИ, в Inceptron ничего не отправляется.

Что произойдёт, если Inceptron будет недоступна?

Hedy переключается на Google Vertex AI в регионе ЕС, поэтому обработка для аккаунтов ЕС в любом случае остаётся в ЕС. Google — компания со штаб-квартирой в США, поэтому мы указываем её отдельно в наших записях о субпроцессорах.

Означает ли это, что Hedy полностью размещена в ЕС?

Нет. Хранение разговоров и обработка ИИ для аккаунтов ЕС выполняются в ЕС, но вход в аккаунт, выставление счетов за подписку и отслеживание ошибок для всех пользователей расположены в США, как и почтовые провайдеры, которые отправляют письма с автоматическими резюме. Полный разбор приведён в статье о размещении данных в ЕС.