로컬 AI 처리
로컬 AI 처리를 사용하면 Hedy의 AI 분석이 모두 기기에서 직접 이루어집니다. 녹취록은 기기에 남고, 오프라인에서도 작동합니다.
Apple Silicon이 탑재된 macOS 기기, Vulkan을 지원하는 GPU를 갖춘 Windows PC, iPhone 15 Pro 이후 모델, M-series 또는 A17 Pro 칩이 탑재된 iPad, 지원되는 Android 휴대폰에서 사용할 수 있습니다. 로컬 AI를 선택하면 Hedy가 녹취록을 읽고 텍스트를 생성하는 작업을 모두 기기에서 직접 수행합니다. 요약, 자세한 메모, 빠른 프롬프트, 채팅 답변, 세션 중 제안, 피드백에 Hedy 서버를 사용하지 않습니다.
로컬 AI 처리는 직접 선택해야 사용할 수 있습니다. AI 처리의 기본값은 Cloud AI입니다. 클라우드 AI가 여전히 더 빠르고 결과 품질도 조금 더 높아 대부분의 경우 기본값을 바꿀 필요가 없습니다. 로컬 AI 처리는 클라우드 방식으로는 충족할 수 없는 개인정보 보호 요건이 있거나 Hedy를 완전히 오프라인으로 사용하려는 경우에 적합합니다.

로컬 AI 처리 기능
-
세션 요약, 자세한 메모, 빠른 프롬프트, 채팅 답변, 세션 중 제안, 피드백을 모두 기기에서 직접 처리합니다.
-
녹취록은 기기에 남습니다. AI 분석을 위해 대화 데이터가 기기 밖으로 전송되는 일은 없습니다.
-
모델을 다운로드하면 오프라인에서도 작동합니다.
-
Deepgram이나 OpenAI 같은 클라우드 음성 인식 서비스와 함께 사용할 수 있습니다. 이 경우 AI 분석 단계만 기기에서 처리됩니다.
-
기기 내 처리에 실패하면 오류를 표시합니다. 로컬 처리를 직접 선택한 만큼, 알림 없이 클라우드로 전환하거나 Hedy 서버에서 다시 시도하지 않습니다.
요구 사항
Apple Silicon이 탑재된 Mac(M1 이상). Apple Silicon에서는 CPU와 GPU가 메모리를 공유하므로 실행 중인 다른 앱과 모델을 함께 구동할 만큼 시스템 RAM이 충분해야 합니다. 가장 작은 모델은 최근에 출시된 대부분의 Mac에서 작동합니다. 중간 규모 모델(파라미터 약 90억 개)은 RAM이 16 GB인 시스템에서도 여유 있게 실행됩니다. 가장 큰 모델은 불러오는 데 RAM이 약 25 GB 필요할 수 있어 36 GB 이상이 현실적입니다.
Windows PC에는 최신 Vulkan 드라이버가 필요합니다. 시스템 RAM보다 GPU의 VRAM이 중요합니다. 모델이 클수록 전체 모델을 담을 만큼 VRAM이 충분한 그래픽 카드가 필요합니다. 모델이 그래픽 카드의 VRAM에 조금 넘치면 Hedy는 일부 레이어를 CPU에서 처리합니다. 모델은 작동하지만 속도가 눈에 띄게 느려지며, 모델 선택 목록에서 해당 항목 뒤에 ’ + 느림’이 붙습니다.
iPhone 15 Pro 이후 모델과 M-series 또는 A17 Pro 칩이 탑재된 iPad. 휴대폰과 태블릿은 메모리 제약으로 가장 작은 모델만 사용할 수 있습니다. 작은 모델은 짧은 요약을 잘 처리하지만, Mac에서 더 큰 모델을 사용할 때보다 답변이 눈에 띄게 제한적입니다.
Android 휴대폰에는 지원되는 GPU와 약 8 GB 이상의 메모리가 필요합니다. iPhone, iPad와 마찬가지로 Android에서도 가장 작은 모델만 사용할 수 있습니다. Imagination PowerVR 그래픽을 탑재한 휴대폰은 그래픽 드라이버에 오류가 나면 GPU도 함께 작동을 멈추기 때문에 지원되지 않습니다. CPU로 대신 처리하는 기능도 없으므로 사용할 수 있는 GPU가 없는 휴대폰에서는 로컬 AI를 실행할 수 없습니다. Hedy가 기기를 확인하고 어떤 모델을 사용할 수 있는지 알려 줍니다.
기기 내 AI를 실행할 수 없는 기기에서는 이미 로컬 AI를 선택한 경우를 제외하고 설정 → 음성 및 AI → AI 처리에 이 옵션이 표시되지 않습니다. 이 화면에는 *“이 기기에서는 아직 로컬 AI를 사용할 수 없습니다. 더 많은 기기에서 온디바이스 AI를 지원하기 위해 노력하고 있습니다.”*라는 안내가 표시됩니다. 웹 앱에서는 Cloud AI와 끄기를 선택할 수 있습니다.
웹 앱에서 로컬 AI를 지원할 계획이지만 아직 사용할 수 없습니다. 현재는 브라우저에서 모델을 실행하는 데 제약이 있어 일관된 사용 환경을 제공하기 어렵습니다.
선택한 모델에 맞는 여유 메모리가 필요하며, 처음에는 모델을 다운로드해야 합니다. Hedy는 모델마다 기기 메모리에 적합한지 표시합니다. 모델 크기는 선택에 따라 휴대폰에서 약 1.2 GB부터 데스크톱에서 20 GB 초과까지 다양합니다.
로컬 AI 처리 설정 방법
-
Hedy를 열고 설정 → 음성 및 AI → AI 처리로 이동하세요.
-
AI 처리 드롭다운에서 로컬 AI를 선택하세요. Android에서는 실험 기능 안내를 확인하세요.
-
드롭다운 바로 아래 목록에서 기기의 메모리에 맞는 모델을 선택하세요. ‘적합 ✓’ 표시를 확인하세요.
-
모델 다운로드가 끝날 때까지 기다리세요. 다운로드 진행 상황과 모델 크기(GB)가 표시됩니다.
-
다운로드가 끝나면 로컬 AI 처리가 활성화됩니다. 평소처럼 세션을 시작하세요.
로컬 AI 처리는 기기별로 설정합니다. Mac과 iPhone에서 모두 사용하려면 각 기기의 AI 처리에서 로컬 AI를 선택하고 모델을 다운로드하세요. 설정과 모델 파일은 다른 기기로 옮겨지지 않습니다.
모델 선택
모델 선택 목록에는 크기에 따라 별점이 매겨진 여러 모델이 표시됩니다.
-
★ (별 1개)는 기본적인 회의 요약과 짧은 메모에 적합합니다. 긴 회의나 미묘한 맥락을 짚는 후속 질문은 처리하기 어려울 수 있습니다. 파라미터는 20억~50억 개입니다.
-
★★ (별 2개)는 여러 용도에서 고르게 좋은 결과를 냅니다. 회의 요약, 자세한 메모, 채팅을 잘 처리합니다. 대화가 매우 길거나 기술적으로 복잡하면 처리하기 어려울 수 있습니다. 파라미터는 70억~120억 개입니다.
-
★★★ (별 3개)는 Hedy의 클라우드 AI에 가까운 품질을 제공합니다. 긴 회의, 규모가 큰 토픽, 복잡한 내용을 담은 메모, 까다로운 후속 질문도 안정적으로 처리합니다. 파라미터는 120억 개를 넘습니다.
Hedy는 기기에서 사용할 수 있는 메모리를 자동으로 확인하고 모델마다 적합 여부를 표시합니다.
-
적합 ✓은 권장 모델로, 메모리 여유가 충분합니다.
-
간신히 적합은 실행할 수 있지만 다른 앱을 많이 실행하면 느려지거나 불안정해질 수 있습니다.
-
적합하지 않음으로 표시된 모델은 선택하지 마세요.
Windows에서는 일부 레이어를 CPU에서 처리해야 하는 모델을 알아볼 수 있도록 이름 뒤에 ’ + 느림’을 표시합니다.
어떤 모델을 고를지 모르겠다면 기기에서 ‘적합 ✓‘로 표시되는 모델 중 가장 큰 모델부터 사용해 보세요. 나중에 다른 모델로 바꿀 수 있습니다. 다운로드한 모델은 앱 저장 공간에 보관됩니다. 디스크 공간이 필요하면 같은 화면에서 언제든 모델을 삭제할 수 있습니다.
로컬 AI와 클라우드 AI 전환
-
클라우드 분석으로 돌아가려면 설정 → 음성 및 AI → AI 처리에서 Cloud AI를 선택하세요.
-
지원되는 iPhone과 iPad에서는 Apple Private Cloud Compute도 선택할 수 있습니다. 이 경우 분석은 기기 밖에 있는 Apple 서버에서 이루어집니다. AI 처리를 참고하세요.
-
옵션을 바꿔도 세션은 사라지지 않습니다. 기존 세션의 메모와 요약도 그대로 유지됩니다.
개인정보 보호
AI 처리에서 로컬 AI를 선택하면 녹취록과 AI가 생성한 콘텐츠(요약, 메모, 채팅 답변, 제안, 피드백)가 AI 분석을 위해 기기 밖으로 전송되지 않습니다. 모델은 Hedy 서버에서 다운로드하지만 사용자 데이터는 포함되어 있지 않습니다.
Hedy 서버로 전송되는 데이터는 클라우드 동기화 설정에 따라 달라집니다.
-
‘로컬 AI’ 선택, ‘클라우드 동기화’ 꺼짐. 직접 세션을 공유하지 않는 한 회의 정보는 Hedy 서버로 전송되지 않습니다. 오디오 녹음, 녹취록, 요약, 메모, 채팅 답변, 제안은 앱을 실행하는 기기에 남습니다. Apple 기기에서 iCloud에 녹음 동기화를 켜면 저장된 오디오가 기기 밖으로 전송되어 개인 iCloud 계정에 복사될 수 있습니다. Apple Watch에서 단독으로 진행한 세션의 오디오는 클라우드 동기화와 iCloud 오디오 동기화가 모두 꺼져 있어도 가져오기를 위해 페어링된 iPhone으로 전송됩니다.
-
‘로컬 AI’ 선택, ‘클라우드 동기화’ 켜짐. AI 처리는 계속 기기에서만 이루어지며, 녹취록과 생성된 텍스트는 AI 처리를 위해 전송되지 않습니다. 여러 기기에서 세션에 액세스할 수 있도록 세션 데이터는 기존 클라우드 동기화 방식과 동일하게 암호화되어 Hedy 서버에 동기화됩니다.
두 경우 모두 앱이 작동하는 데 필요한 계정 정보, 사용 데이터, 충돌 보고서는 계속 Hedy 서버를 거칩니다. 이 데이터에는 녹취록 내용이나 AI 생성 결과가 포함되지 않습니다.
개인정보 보호를 가장 엄격하게 설정하려면 로컬 AI 처리를 사용하고, ‘클라우드 동기화’를 끈 뒤 ‘iCloud에 녹음 동기화’도 꺼 두세요. 대화가 오디오를 캡처한 기기에만 남아야 한다면 휴대폰, 태블릿 또는 데스크톱 앱에서 직접 캡처하세요. 세션을 공유하면 해당 세션이 업로드됩니다. 공개 링크로 공유하면 선택한 내용이 링크 주소를 아는 누구나 열 수 있는 페이지에 표시됩니다. 오디오는 공유에 포함되지 않습니다.
음성 인식은 별도의 단계입니다. Deepgram이나 OpenAI 같은 클라우드 서비스로 음성을 텍스트로 변환하는 경우 오디오는 계속 해당 서비스를 거칩니다. 두 단계 모두 기기에서 처리하려면 로컬 AI 처리와 함께 Whisper 또는 Nemotron 같은 기기 내 음성 인식을 사용하세요. 음성 인식 제공업체 가이드를 참고하세요.
사용 팁
-
로컬 AI로 긴 세션을 진행할 때는 ‘자동 제안’을 끄세요. 세션 내내 로컬 모델이 계속 작동해 기기에서 실행 중인 다른 작업이 느려지고 발열이 심해질 수 있습니다. 로컬 AI를 처음 선택할 때 Hedy가 이 점을 안내합니다.
-
긴 세션을 진행할 때는 노트북이나 휴대폰을 전원에 연결하세요. 기기에서 모델 추론을 계속하면 예상보다 빠르게 배터리가 소모됩니다.
-
기기 메모리에 여유 있게 들어가는 모델을 선택하세요(Mac과 iOS는 RAM, Windows는 VRAM 기준). ‘간신히 적합’으로 표시된 모델도 작동하지만, 다른 작업에 쓸 수 있는 메모리가 줄어듭니다.
문제 해결
클라우드보다 느린 응답
정상적인 동작입니다. 클라우드에서 거의 즉시 생성되는 요약도 기기에서 처리하면 하드웨어와 모델에 따라 30초에서 몇 분까지 걸릴 수 있습니다. 큰 모델은 속도가 느리지만 더 복잡한 작업을 처리할 수 있습니다.
모델을 다운로드할 수 없는 경우
-
인터넷 연결과 디스크 여유 공간을 확인하세요.
-
Hedy를 다시 시작한 뒤 재시도하세요.
-
크기가 몇 GB에 이르는 모델도 있습니다. 인터넷 연결이 느리면 다운로드에 시간이 걸릴 수 있습니다.
-
Windows에서는 바이러스 백신 소프트웨어가 대용량 다운로드를 중단시키거나 모델 파일을 격리할 수 있습니다. 이런 경우 Windows 바이러스 백신이 Hedy 다운로드 또는 설치를 차단하는 경우를 참고하세요.
응답이 매우 느리거나 앱이 제대로 반응하지 않는 경우
-
모델에 필요한 RAM 또는 VRAM을 기기의 여유 메모리와 비교하세요. ‘간신히 적합’으로 표시된 모델이 다른 앱과 메모리를 나눠 쓰면 느려질 수 있습니다.
-
사용하지 않는 앱 중 메모리를 많이 쓰는 앱을 닫으세요. 불필요한 브라우저 탭이나 백그라운드 앱도 닫으세요.
-
더 작은 모델을 사용해 보세요.
-
Windows에서는 GPU 드라이버가 최신 버전인지 확인하세요. 드라이버 설정은 Windows에서 음성 텍스트 변환 속도가 느릴 때 해결 방법(GPU 설정)을 참고하세요. 로컬 AI에도 같은 방법이 적용됩니다.
세션을 시작하거나 가져오거나 병합할 때 ‘로컬 AI 모델이 준비되지 않았습니다’가 표시되는 경우
AI 처리에서 로컬 AI를 선택했지만 아직 모델을 다운로드하지 않아 Hedy가 AI 결과를 생성할 수 없는 상태입니다. 설정 → 음성 및 AI → AI 처리에서 모델을 다운로드하거나, 바로 계속하려면 클라우드 AI로 전환하세요. 이제 Hedy는 세션 도중 아무 안내 없이 실패하는 일을 막기 위해 세션 시작 전에 이 메시지를 표시합니다.
로컬 AI가 모델에 접근할 수 없습니다
Hedy가 이전에 추가한 모델에 더 이상 접근할 수 없는 상태입니다. 대개 앱 외부에서 모델 파일을 옮기거나 삭제했을 때 발생합니다. 설정 → 음성 및 AI → AI 처리에서 해당 모델을 제거한 다음 다시 추가하세요.
AI 기능을 사용할 수 없다는 메시지가 표시되는 경우
-
‘설정’의 ‘AI 처리’ 아래 모델 목록에서 다운로드가 완료되었는지 확인하세요. 다운로드가 중단된 모델에는 ‘다운로드됨’ 표시가 사라집니다. 이 경우 모델을 다시 다운로드하세요.
-
AI 처리에서 다른 옵션으로 바꿨다가 다시 로컬 AI를 선택하세요.
피드백
AI를 전적으로 기기에서 실행하는 기술은 아직 초기 단계입니다. 로컬 모델은 클라우드 모델보다 작아서 답변의 정확도가 떨어지거나 세부 내용이 부족할 수 있습니다. 일부 시스템에서는 작동이 불안정하거나 시작이 느릴 수도 있습니다. 로컬 AI 기술이 발전하면 이런 제약은 줄어들 것입니다. 기술이 허용하는 범위에서 지원 플랫폼도 계속 늘려 나가겠습니다.
의견이나 문제가 있으면 support@hedy.bot으로 이메일을 보내 주세요.
관련 문서 AI 처리(Cloud AI, 로컬 AI, 끄기), 음성 인식 제공업체.