Zum Inhalt springen

Lokale KI-Verarbeitung auf dem Mac [Beta]

Die lokale KI-Verarbeitung führt Hedys KI-Analyse vollständig auf Ihrem Mac aus. Ihre Transkripte bleiben auf dem Gerät, und die Funktion funktioniert auch ohne Internetverbindung.

Die lokale KI-Verarbeitung ist eine Beta-Funktion, die auf Macs mit Apple Silicon (M1 oder neuer) verfügbar ist. Sie ersetzt Hedys cloudbasierte KI-Analyse durch ein lokales Sprachmodell, das direkt auf Ihrem Mac ausgeführt wird.

Was die lokale KI-Verarbeitung leistet

  • Erstellt Sitzungszusammenfassungen, detaillierte Notizen und Chat-Antworten auf Ihrem Mac.

  • Hält Ihre Transkripte auf dem Gerät. Keine Gesprächsdaten verlassen Ihren Computer für die KI-Analyse.

  • Funktioniert offline, sobald das Modell heruntergeladen wurde.

  • Koexistiert mit cloudbasierter Spracherkennung (Deepgram, OpenAI), falls Sie diese verwenden. Nur der KI-Analyseschritt ist lokal.

Voraussetzungen

  • Ein Mac mit Apple Silicon (M1, M2, M3, M4 oder neuer).

  • Freier Arbeitsspeicher entsprechend dem gewählten Modell. Hedy zeigt für jedes Modell einen Indikator “Gut geeignet”, “Knapp geeignet” oder “Nicht geeignet” basierend auf dem verfügbaren RAM Ihres Macs.

  • Ein einmaliger Modell-Download. Die Modellgröße reicht von etwa 2,5 GB bis 30 GB.

Lokale KI-Verarbeitung aktivieren

  1. Öffnen Sie Hedy und gehen Sie zu Settings → Speech & AI.

  2. Scrollen Sie zum Bereich Local AI.

  3. Aktivieren Sie Local AI Processing.

  4. Wählen Sie ein Modell aus der Liste, das zum Arbeitsspeicher Ihres Macs passt. Achten Sie auf die Bezeichnung “Gut geeignet”.

  5. Warten Sie, bis der Download des Modells abgeschlossen ist. Sie sehen den Fortschritt und die Größe in GB.

  6. Sobald der Download abgeschlossen ist, ist die lokale KI-Verarbeitung aktiv. Starten Sie eine Sitzung wie gewohnt.

Ein Modell auswählen

Hedy zeigt mehrere Modelle, nach Größe sortiert. Jedes hat zwei wichtige Kennzahlen:

  • Download-Größe: Wie viel Speicherplatz das Modell benötigt.

  • Erforderlicher RAM: Wie viel Arbeitsspeicher das Modell zur Ausführung benötigt.

Hedy prüft automatisch Ihren freien Arbeitsspeicher und kennzeichnet jedes Modell:

  • Gut geeignet: Empfohlen. Ausreichend Puffer vorhanden.

  • Knapp geeignet: Funktioniert, kann aber langsam oder instabil sein, wenn viele andere Apps laufen.

  • Nicht geeignet: Dieses Modell nicht auswählen.

Im Zweifel beginnen Sie mit dem als “Empfohlen” markierten Modell. Sie können später wechseln.

Zwischen lokaler und Cloud-KI wechseln

  • Deaktivieren Sie die lokale KI-Verarbeitung, um zur cloudbasierten Analyse zurückzukehren.

  • Beim Wechsel gehen keine Sitzungen verloren. Bestehende Sitzungen behalten ihre aktuellen Notizen und Zusammenfassungen.

Datenschutz

Wenn die lokale KI-Verarbeitung aktiviert ist:

  • Ihre Sitzungstranskripte verlassen Ihren Mac für die KI-Analyse nicht.

  • Modell-Downloads kommen von Hedys Servern, enthalten aber keine Ihrer Daten.

  • Spracherkennung ist ein separater Schritt. Wenn Sie einen Cloud-Anbieter wie Deepgram oder OpenAI für die Transkription verwenden, fließen Ihre Audiodaten weiterhin durch diesen Anbieter. Um beide Schritte lokal zu halten, kombinieren Sie die lokale KI-Verarbeitung mit lokaler Spracherkennung, zum Beispiel Parakeet oder On-Device Whisper. Lesen Sie unsere Anleitung zu Spracherkennungsanbietern.

Fehlerbehebung

Das Modell lässt sich nicht herunterladen

  • Prüfen Sie Ihre Internetverbindung und den verfügbaren Festplattenspeicher.

  • Starten Sie Hedy neu und versuchen Sie es erneut.

  • Einige Modelle sind mehrere GB groß. Downloads können bei langsameren Verbindungen eine Weile dauern.

Antworten sind langsam

  • Prüfen Sie den RAM-Bedarf des Modells im Vergleich zu Ihrem freien Arbeitsspeicher. Ein “Knapp geeignet”-Modell, das mit anderen Apps um Ressourcen konkurriert, kann langsam laufen.

  • Schließen Sie nicht benötigte speicherintensive Apps (zusätzliche Browser-Tabs, Hintergrund-Apps).

  • Versuchen Sie ein kleineres Modell.

KI-Funktionen zeigen “not available”

  • Stellen Sie sicher, dass der Modell-Download abgeschlossen ist (prüfen Sie den Local AI-Bereich in den Einstellungen).

  • Deaktivieren und reaktivieren Sie die lokale KI-Verarbeitung.

Beta-Hinweise

Die lokale KI-Verarbeitung befindet sich derzeit in der Beta-Phase. Zu erwarten ist:

  • Die Analysequalität wird sich im Laufe der Zeit verbessern, wenn wir Prompts optimieren und bessere Modelle veröffentlichen.

  • Die Geschwindigkeit hängt stark von der Hardware Ihres Macs ab.

  • Wir sammeln aktiv Feedback. Schreiben Sie an support@hedy.ai, wenn Sie auf Probleme stoßen.

Verwandte Artikel: Cloud-KI-Analyse Datenschutzkontrolle, Spracherkennungsanbieter.