본문으로 건너뛰기
Julian Pscheid · · 업데이트 2026년 8월 20일

회의를 위한 로컬 AI: 이제 Hedy의 모든 기능을 기기에서 직접 실행할 수 있습니다

Hedy 3.2에서는 전체 AI 파이프라인을 기기에서 직접 실행할 수 있습니다. 요약, 메모, 채팅 답변, 실시간 제안이 모두 로컬에서 처리되므로 AI 처리를 위해 서버로 전송되는 정보가 없습니다.

법률 사무소에서 비공개로 상담하는 여성 변호사와 의뢰인. 두 사람 사이의 MacBook 위로 기기 내 AI 처리를 나타내는 은은한 청록색과 보라색 홀로그램이 보입니다

Hedy 3.2에서는 전체 AI 파이프라인을 기기에서 직접 실행할 수 있습니다. 이 기능을 켜면 회의 녹취록, 요약, 자세한 메모, 채팅 답변, 실시간 제안이 모두 오디오를 캡처한 기기에서 처리됩니다. 대화에 관한 어떤 정보도 서버로 전송되지 않습니다. 회의 AI가 이렇게 작동하면 무엇이 달라지는지 살펴보겠습니다.

Hedy는 출시 첫날부터 기기에서 직접 음성 인식을 실행해 왔습니다. 오디오 녹음 파일도 언제나 기기에 보관해 왔습니다. 대화 내용을 AI 모델 학습에 사용한 적도 없습니다. 처음부터 개인정보 보호를 신중하게 고려해 왔습니다.

하지만 기기 내에서 처리할 수 없었던 부분이 하나 있었습니다. 바로 AI 작업 자체입니다. 녹취록을 읽고, 요약을 작성하고, 자세한 메모를 만들고, 회의에 관한 질문에 답하고, 회의 도중 제안을 제공하는 작업입니다. 이런 작업을 잘 수행하는 모델은 노트북이나 휴대폰에서 실행하기에 너무 컸기 때문에 서버에서 처리해야 했습니다.

이 상황이 빠르게 바뀌고 있습니다. 기기 성능은 계속 높아지고, AI 모델은 점점 작아지면서도 더 똑똑해지고 있습니다. 몇 달 전, 이 두 흐름이 Hedy에 필요한 수준에서 만났습니다. 이제 노트북이나 최신 iPhone에 들어가는 모델도 실제 회의에 유용한 품질로 Hedy의 분석을 처리할 수 있게 되었습니다.

"두 흐름의 만남: 로컬 AI가 실용화되는 시점"이라는 제목의 개념도. 로컬 기기의 성능은 높아지고 지능 단위당 필요한 연산량은 줄어들며, 2026년 무렵 두 곡선이 교차하는 지점이 표시되어 있습니다

이해를 돕기 위한 예시입니다. 곡선은 구체적인 측정값이 아닌 전반적인 흐름을 나타냅니다.

그래서 Hedy 3.2에서는 로컬 AI 처리를 켜고 전체 AI 파이프라인을 기기에서 직접 실행할 수 있습니다. 요약, 메모, 채팅 답변, 제안까지 모두 같은 기기에서 처리됩니다.

기기 내 AI가 중요한 이유

지난 몇 년간 AI는 대체로 소수의 대기업이 사용자를 대신해 운영하는 기술이었습니다. 데이터를 해당 기업의 서버로 보내면 모델이 처리한 뒤 결과를 돌려주는 방식입니다. 이 방식에는 분명한 장점이 있으며, Hedy가 지금까지 만든 기능 대부분도 이를 바탕으로 구현되었습니다. 하지만 구조적으로 감수해야 할 대가도 있습니다. 가장 유용한 AI일수록 가장 사적인 데이터를 필요로 하고, 그 데이터는 생성된 곳이 아닌 다른 곳에 보관된다는 점입니다.

로컬 AI는 이 구조를 뒤집습니다. 대화는 대화가 이루어진 곳에 머무릅니다. 작업은 오디오를 캡처한 기기에서 처리됩니다. 클라우드 동기화를 켜거나 세션을 명시적으로 공유하지 않는 한 회의에 관한 어떤 정보도 서버로 전송되지 않으며, 동기화나 공유를 하더라도 AI 처리는 계속 로컬에서 이루어집니다.

클라우드 동기화를 꺼 두면, 해당 세션을 명시적으로 공유하지 않는 한 대화에 관한 어떤 정보도 Hedy 서버로 전송되지 않습니다.

개인정보를 보호하는 기기 내 회의 AI가 유용한 사람들

일부 Hedy 사용자는 이 기능을 켠 뒤 더 이상 신경 쓰지 않고 사용할 것입니다. 이런 기능을 몇 년 동안 기다려 온 사람들도 있습니다. 특히 다음과 같은 분들에게 유용할 것으로 생각합니다.

  • 코치와 컨설턴트는 고객과의 대화에서 엄격한 비밀 유지를 요구받습니다. 지금까지는 준비 작업이나 내부 통화에 Hedy를 사용했습니다. 이제는 노트북 밖으로 어떤 정보도 보내지 않고 고객 업무 중에도 사용할 수 있습니다.
  • 변호사 중에는 내부 통화에는 Hedy를 쓰지만 의뢰인과의 대화에는 사용하지 않는 분들이 있습니다. 변호사와 의뢰인 간 비밀유지 특권에는 고유한 요건이 있으며, “데이터를 신중하게 다루겠습니다”라는 약속으로는 그 요건에 맞출 수 없습니다. 이동하지 않는 데이터라면 가능합니다.
  • 환자는 진료를 받으러 갈 때 의사의 설명을 명확히 정리하고 싶지만, 자신의 건강에 관한 대화가 제삼자의 서버에 보관되는 것은 원하지 않을 수 있습니다. 로컬 AI를 사용하면 대화를 캡처한 휴대폰에서 바로 내용을 요약할 수 있습니다.
  • 기자 중에는 민감한 사안을 취재하면서 클라우드 도구를 전혀 사용하지 않는 분들이 있습니다. 서버로 어떤 정보도 보내지 않고 인터뷰를 캡처하고, 녹취록을 만들고, 회의 내용에 관해 채팅할 수 있습니다.
  • 미국 외 지역에 있는 사람들 중에는 대화가 미국 서버에 보관되는 것을 원하지 않는 분들이 있습니다. Hedy는 올해 초 EU 내 데이터 보관 기능을 추가했습니다. 로컬 AI는 여기서 한 걸음 더 나아갑니다. 데이터가 어느 기업의 서버에도 보관되지 않습니다.
  • 원격 근무자는 기내 Wi-Fi 연결이 불안정하거나 통신이 되지 않는 외딴 지역에 있을 수 있습니다. 이제 Hedy는 완전히 오프라인으로 작동합니다. 비행 중 노트북을 열고 제대로 대화를 나눈 뒤 착륙 전에 요약을 받을 수 있습니다.
  • 개인정보 보호에 관심이 있는 사람들은 규제를 받는 직업에 종사하거나 특정한 위협 모델을 염두에 두고 있지 않을 수도 있습니다. 그저 회의를 듣는 도구가 오디오를 어디에도 보내지 않는 편이 좋다고 생각하는 분들입니다. 전에는 그런 선택을 할 수 없었지만, 이제는 가능합니다.

이들에게는 공통점이 있습니다. Hedy의 기능은 이미 유용했지만, 데이터 처리 방식이 각자의 제약 조건에 맞지 않았다는 점입니다. 로컬 AI는 그 제약을 없애 줍니다.

Hedy에 대한 소개보다 노트 테이커 전반을 비교하고 있다면, 별도로 작성한 개인정보를 보호하며 AI 회의록을 사용하는 방법을 참고하세요. 각 단계에서 어떤 정보가 기기 밖으로 나가는지, 어떤 업체든 그 주장을 어떻게 확인할 수 있는지 설명합니다.

솔직히 알아둘 점

이 기능으로 할 수 있는 것과 할 수 없는 것을 분명히 말씀드리고 싶습니다. 나중에 실망하기보다는 현실적인 기대를 갖고 시작하기를 바라기 때문입니다.

로컬 AI 처리는 직접 선택해서 켜는 기능이며, 기본적으로 꺼져 있습니다. 클라우드 AI는 여전히 더 빠르고 결과물의 품질도 더 좋으며, Hedy가 지원하는 모든 플랫폼에서 실행됩니다. 기기 내 처리가 필요한 특별한 이유가 없다면 지금은 클라우드 방식이 더 나은 사용 경험을 제공합니다.

클라우드에서는 즉시 완성되는 듯한 요약도 로컬에서는 하드웨어와 선택한 모델에 따라 30초에서 몇 분까지 걸릴 수 있습니다. 작은 모델은 짧은 요약에 능하지만, 길거나 미묘한 뉘앙스가 담긴 대화에서는 어려움을 겪습니다. 큰 모델은 클라우드에 가까운 품질을 내지만, 원활하게 실행하려면 성능이 충분한 하드웨어가 필요합니다. 또한 로컬에서 작업이 실패하더라도 알리지 않고 클라우드로 전환하지 않습니다. 이유가 있어서 로컬을 선택한 것인데, 몰래 Hedy 서버로 재시도한다면 그 선택의 뜻을 저버리는 일이기 때문입니다. 대신 오류가 표시됩니다.

로컬 AI는 Apple Silicon Mac, 충분한 성능의 GPU가 탑재된 Windows PC, iPhone 15 Pro 이상, M-series 또는 A17 Pro 칩이 탑재된 iPad에서 지원됩니다. Android와 웹 지원은 계획에 있지만 아직 준비되지 않았습니다. Android 하드웨어의 다양성과 브라우저 안에서 모델을 실행할 때의 제약 때문에 현재로서는 일관된 사용 경험을 제공하기 어렵습니다.

하드웨어에 맞는 모델을 선택할 수 있습니다. 품질 등급은 세 가지로, 휴대폰에 들어가는 소형 모델부터 대부분의 최신 노트북에서 잘 작동하는 중간 등급 모델, 충분한 성능의 하드웨어에서 클라우드에 가까운 품질을 내는 대형 모델까지 제공합니다. 모델 선택 화면에서 다운로드하기 전에 어떤 모델을 실행할 수 있는지 확인할 수 있습니다.

앞으로의 방향

Hedy 3.2의 로컬 AI는 완성된 제품이 아니라 출발점입니다. 모델은 계속 좋아질 것입니다. 일반 소비자용 하드웨어의 성능도 계속 높아질 것입니다. 로컬과 클라우드의 품질 격차는 계속 줄어들 것입니다. 기술이 뒷받침되는 대로 더 많은 플랫폼을 지원하겠습니다.

이는 주목할 만한 더 큰 변화의 일부입니다. 오랫동안 AI의 가장 큰 발전은 기업이 점점 더 큰 서버 팜에서 점점 더 큰 모델을 실행하면서 이루어졌습니다. 그와 동시에 더 조용한 변화도 일어나고 있습니다. 가중치가 공개된 모델은 몇 달마다 더 똑똑해지고 더 작아지고 있습니다. 이를 실행할 하드웨어는 이미 대부분의 사람들 주머니와 책상 위에 있습니다. 클라우드 회의 AI와 기기 내 회의 AI의 성능 차이는 빠르게 줄어들고 있습니다.

개별 릴리스보다 더 중요한 것은 이 전체적인 흐름입니다. 앞으로 몇 년간 AI는 소수의 기업이 사용자를 대신해 AI를 운영하는 세상에서, 각자가 자신의 기기와 데이터로 전체 파이프라인을 처음부터 끝까지 실행할 수 있는 세상으로 옮겨 가며 변화할 것이라고 믿습니다. 실제로 그렇게 실행할지를 떠나, 그 선택권이 있다는 사실이 기술을 바람직한 모습으로 만듭니다. 힘의 균형을 유지해 주기 때문입니다.

Hedy는 이 변화의 선두에 서기 위해 만들어졌습니다. 로컬 AI는 그 첫 번째 구체적인 단계입니다. 앞으로도 이어질 것입니다.

기능을 켜려면 Hedy 3.2로 업데이트한 뒤 ‘설정’에서 ‘음성 및 AI’를 여세요. 토글 이름은 ‘로컬 AI 처리’입니다. 하드웨어에 맞는 모델을 선택하면 준비가 끝납니다.

어떤 모델을 선택했는지, Mac, Windows, iPhone에서 어떻게 실행되는지, 로컬 추론으로 지연 시간이 얼마나 발생하는지 등 기술적인 내용은 로컬 AI 기술 심층 분석을 참고하세요.

사용해 보셨다면 의견을 들려주세요.

JP

About the author

Julian Pscheid is the founder and CEO of Hedy AI, a real-time AI meeting coach used by tens of thousands of professionals worldwide. He writes about how AI is changing the way people prepare for, capture, and understand important conversations.

다음 회의를 최고의 회의로 만드세요

무료로 시작하세요. 신용카드는 필요하지 않습니다. 봇이 통화에 참여하지 않고, 녹음 파일이 어디로도 전송되지 않습니다. 기기에서 실시간 코칭을 받으세요.