会議向けローカルAI：Hedyがデバイス上だけで動作するようになりました

Hedy 3.2では、AIパイプライン全体を、あなた自身のマシン上で実行できるようになりました。オンにすると、会議の文字起こし、要約、詳細なメモ、チャットの返信、ライブの提案のすべてが、音声を取り込んだデバイス上で行われます。会話に関するものは、何もサーバーに送られません。会議のAIがそう動くと、何が変わるのでしょうか。

音声認識は、Hedyの登場以来ずっとデバイス上で動作しています。音声のレコーディングも、常にデバイスにとどまってきました。あなたの会話がAIモデルの学習に使われたことは一度もありません。私たちは当初から、プライバシーに慎重に取り組んできました。

ただ、ひとつだけ、どうしてもデバイス上に持ってこられない部分がありました。AIの作業そのものです。文字起こしを読み、要約を書き、詳細なメモを取り、会議についての質問に答え、会議のさなかに提案を出す部分です。その作業は、サーバーで行う必要がありました。それをうまくこなせるモデルが、ノートパソコンやスマートフォンで動かすには大きすぎたからです。

それが、急速に変わってきています。デバイスの性能は向上し続けています。同時に、AIモデル自体も、より小さく、より賢くなり続けています。数か月前、私たちにとって、その2つの流れが交差しました。ノートパソコンや最近のiPhoneに収まるモデルが、実際の会議で役立つ品質で、Hedyの分析をこなせるほど強力になったのです。

イメージ図です。曲線は大まかな方向性を示すもので、具体的な測定値ではありません。

そこで、Hedy 3.2では、ローカルAI処理をオンにして、AIパイプライン全体をあなた自身のデバイス上で実行できるようになりました。要約、メモ、チャットの返信、提案。そのすべてが、あなたのマシン上で行われます。

オンデバイスAIが重要な理由

ここ数年の大半において、AIは、ひと握りの大企業があなたに代わって運用するものでした。あなたがデータをその企業のサーバーに送り、そのモデルが処理して、結果が返ってくる。この方式には明らかな利点があり、私たちがこれまで作ってこられたもののほとんどを支えてきました。同時に、構造上のコストもあります。最も役に立つAIは、最も個人的なデータを必要とし、そのデータは生成された場所とは別の場所にあるのです。

ローカルAIは、それを逆転させます。会話は、起きた場所にとどまります。作業は、音声を取り込んだのと同じデバイス上で行われます。クラウド同期を有効にするか、セッションを明示的に共有しない限り、会議に関するものは何もサーバーに届かず、その場合でも、AIの処理はローカルのままです。

クラウド同期をオフにしておけば、そのセッションを明示的に共有しない限り、会話に関するものは何も当社のサーバーに届きません。

プライベートなオンデバイスの会議AIが役立つ人

Hedyのユーザーの中には、これをオンにして、そのあとは意識しなくなる人もいるでしょう。何年も前から、こうしたものを待っていた人もいます。特に役立つと考えているのは、次のような方々です。

• コーチとコンサルタント。 顧客との会話に、厳格な守秘義務の期待が伴う方々です。これまでは、準備や社内の通話でHedyを使ってきました。これからは、ノートパソコンから何も外に出ることなく、顧客対応の最中に使えます。
• 弁護士。 社内の通話ではHedyを使うが、依頼者との会話では決して使わない方々です。弁護士・依頼者間の秘匿特権には特有の形があり、「データを慎重に扱うことを約束します」では、その形に合いません。動かないデータなら、合います。
• 患者。 診察に臨み、医師の話を分かりやすくまとめたいが、自分の健康についての話し合いを第三者のサーバーに置きたくない方々です。ローカルAIなら、会話を取り込んだのと同じスマートフォン上で、要約ができます。
• ジャーナリスト。 機微な取材に取り組み、クラウドツールをいっさい避けている方々です。インタビューを取り込み、文字起こしを得て、会議とチャットする。そのすべてで、サーバーには何も届きません。
• 米国外にいる方。 自分の会話を米国のサーバーに置きたくない方々です。今年初めに、EUデータレジデンシーを追加しました。ローカルAIは、そこからさらに一歩進みます。データは、どの企業のサーバーにも置かれないのです。
• リモートワーカー。 機内の悪いWi-Fiや、電波の届かない地方にいる方々です。Hedyは、完全にオフラインで動作するようになりました。フライト中にノートパソコンを開き、しっかり会話をして、着陸前に要約を手に入れられます。
• プライバシーに関心のある人。 規制された職業や、特定の脅威モデルはないけれど、会議を聞いているものが音声をどこにも送らない、という考え方のほうが好きな方々です。これまでは、それができませんでした。いまは、できます。

これらの人々に共通するのは、Hedyが概念としては以前から役に立っていたのに、データのモデルが、その人たちの制約に合わなかった、ということです。ローカルAIは、その制約を取り除きます。

私たちの製品についてではなく、メモツール全般を検討している方のために、AI会議メモをプライベートに使う方法という別のガイドも書きました。各ステップでデバイスの外に何が出るか、そしてどのベンダーの主張も確かめる方法を取り上げています。

正直なところ

これが何であり、何でないのかを、はっきりさせておきたいと思います。あとでがっかりさせるより、現実的な期待を持って始めていただくほうがいいからです。

ローカルAI処理は、オプトインで、デフォルトではオフです。クラウド AIのほうが、いまでも速く、よりよい出力を生み、Hedyが対応するすべてのプラットフォームで動作します。オンデバイス処理を求める特別な理由がなければ、現時点では、クラウドのオプションのほうがよい体験です。

クラウドでは一瞬に感じる要約が、ローカルでは、お使いのハードウェアと選んだモデルによって、30秒から数分かかることがあります。小さなモデルは短い要約が得意ですが、長い会話や微妙なニュアンスのある会話では苦戦します。大きなモデルはクラウドに近い品質になりますが、うまく動かすには、本格的なハードウェアが必要です。また、ローカルで何かが失敗したときに、黙ってクラウドにフォールバックすることはしません。あなたは理由があってローカルを選んだのであり、こっそり当社のサーバーに再試行すれば、その意図を裏切ることになります。代わりに、エラーが表示されます。

ローカルAIに対応しているのは、Apple Silicon Mac、対応GPUを搭載したWindows PC、iPhone 15 Pro以降、M-seriesまたはA17 Pro搭載のiPadです。AndroidとWebは、ロードマップにはありますが、まだ準備できていません。Androidのハードウェアのばらつきと、ブラウザの中でモデルを動かす制約のために、現時点では一貫した体験を届けるのが難しいからです。

ハードウェアに合ったモデルを選べます。品質の段階は3つあり、スマートフォンに収まるコンパクトなモデルから、最近のほとんどのノートパソコンでよく動く中間のオプション、対応ハードウェアでクラウドに近い品質になる大きなモデルまで用意しています。モデルピッカーには、ダウンロードの前に、何が収まるかが表示されます。

これからの展開

Hedy 3.2のローカルAIは、完成品ではなく、出発点です。モデルは、よくなり続けるでしょう。コンシューマー向けのハードウェアは、性能が高まり続けるでしょう。ローカルとクラウドの品質の差は、縮まり続けるでしょう。技術が許すにつれて、対応するプラットフォームも広げていきます。

これは、認識しておく価値のある、より大きな変化の一部です。長年、AIの最大の進歩は、企業がより大きなモデルを、より大きなサーバーファームで動かすことから生まれてきました。それと並行して、より静かな変化も起きています。オープンウェイトのモデルが、数か月ごとに、より賢く、より小さくなっているのです。それを動かすハードウェアは、ほとんどの人のポケットや机の上にすでにあります。クラウドの会議AIとオンデバイスの会議AIの能力の差は、急速に縮まっています。

どの単独のリリースよりも、大きな全体像のほうが重要です。これからの数年のAIは、ひと握りの企業があなたに代わってAIを運用する世界から、自分のパイプラインを、自分のデバイスで、自分のデータを使って、端から端まで動かせる世界への転換によって、形づくられると私たちは考えています。実際にそうするかどうかにかかわらず、その選択肢があること自体が、この技術にふさわしい形を与えます。力のバランスを保つのです。

Hedyは、その変化の最前線に立つために作られています。ローカルAIは、その最初の具体的な一歩です。これからも続きます。

オンにするには、Hedy 3.2にアップデートして、設定の「音声とAI」を開いてください。トグルのラベルは「ローカルAI処理」です。ハードウェアに合ったモデルを選べば、準備は完了です。

エンジニアリングの詳細、つまり、どのモデルを選んだか、Mac、Windows、iPhoneにどう収まるか、ローカル推論でレイテンシがどれだけ増えるかについては、ローカルAIのエンジニアリング詳細解説をご覧ください。

お試しになったら、ぜひご感想をお聞かせください。