Mit der Funktion "Bring Your Own Model" (BYOM) von Brave Leo kannst du deine eigenen KI-Modelle mit Leo verbinden, egal ob sie lokal auf deinem Gerät oder remote gehostet werden. Dies gibt dir mehr Kontrolle über deine KI-Interaktionen und wahrt gleichzeitig Braves Engagement für Datenschutz.

Was ist BYOM?

BYOM ist eine optionale Möglichkeit, Leo zu nutzen, mit der du:

• Lokale KI-Modelle direkt auf deinem Gerät ausführen und deine Daten privat halten
• Dich mit deinen eigenen Remote-Modell-Endpunkten verbinden
• APIs von Drittanbietern wie OpenAIs ChatGPT nutzen
• End-to-End-Kontrolle über deine KI-Interaktionen beibehalten

Anforderungen

Um BYOM zu nutzen, benötigst du:

• Brave Browser Version 1.69 oder höher
• Desktop-Plattform (Windows, macOS oder Linux)
• Für lokale Modelle: Ein kompatibles Serving-Framework (z. B. Ollama)
• Für Remote-Modelle: Gültige API-Anmeldedaten für deinen gewählten Service

Hardware-Anforderungen für lokale Modelle

• Mindestens 8 GB RAM
• Speicherplatz je nach gewählter Modellgröße (829 MB bis 40 GB)
• Ausreichende Rechenleistung für Modell-Inferenz

Modellauswahl

Wenn du Modelle lokal ausführst, wähle Modelle, die deinen Hardware-Fähigkeiten und Anwendungsfällen entsprechen. Beispielsweise sind die LLama 3.2 Modelle für mehrsprachige Dialoge und Zusammenfassungsaufgaben optimiert.

• Kleinere Varianten ideal für Geräte mit begrenzten Ressourcen:
  • 3B-Variante (2.0 GB)
    • Übertrifft ähnlich große Modelle bei Anweisungsfolgung, Zusammenfassung und Werkzeugnutzung
    • Geeignet für allgemeine Aufgaben
  • 1B-Variante
    • Effizient für Edge-Geräte
    • Geeignet für Verwaltung persönlicher Informationen und Umschreib-Aufgaben
• Unterstützt offiziell 8 Sprachen: Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai
• Trainiert in zusätzlichen Sprachen über die offiziell unterstützten hinaus

Sehe dir die vollständige Liste der unterstützten Modelle auf Ollamas Modelliste an.

BYOM einrichten

Lokale Modelle verwenden

1. Richte zuerst ein lokales Modell-Serving-Framework ein. Beispielsweise zur Verwendung von Ollama:
   1. Besuche https://ollama.com/download
   2. Lade Ollama für deine Plattform herunter und installiere es
   3. Öffne das Terminal und pullle dein gewünschtes Modell (z. B. ollama pull deepseek-r1)
2. Konfiguriere Leo, um dein lokales Modell zu verwenden:
   1. Öffne die Brave-Einstellungen
   2. Navigiere zu den Leo-Einstellungen
   3. Scrolle zum Abschnitt Bring your own model
   4. Klicke auf Neues Modell hinzufügen
   5. Fülle die erforderlichen Felder aus: 
      • Label: Name, der im Modellauswahlmenü angezeigt wird
      • Model request name: Die Modellkennung (z. B. "deepseek-r1")
      • Server endpoint: Dein lokaler Endpunkt (für Ollama verwende http://localhost:11434/v1/chat/completions)
      • API Key: Leer lassen, falls nicht von deinem Framework erforderlich

Remote-Modelle verwenden

Um Leo mit Remote-Modellen oder APIs von Drittanbietern (wie OpenAIs ChatGPT) zu verbinden:

1. Besorge dir deine API-Anmeldedaten von deinem gewählten Anbieter
2. In Brave, Einstellungen > Leo > Bring your own model:
   • Klicke auf Neues Modell hinzufügen
   • Fülle die Details aus:
     • Label: Dein gewählter Name für das Modell
     • Model request name: Die Modellkennung (z. B. "gpt-4" für OpenAI)
     • Server endpoint: Der API-Endpunkt (z. B. https://api.openai.com/v1/chat/completions für OpenAI)
     • API Key: Deine Authentifizierungsanmeldedaten

Dein Modell verwenden

Nach der Konfiguration:

1. Öffne Leo im Browser
2. Klicke auf das Modellauswahlmenü
3. Wähle dein benutzerdefiniertes Modell aus der Liste
4. Beginne mit dem Chat mit deinem konfigurierten Modell

Datenschutz und Sicherheit

Die Aktivierung alternativer Modelle über die BYOM-Funktion gibt dir mehr Kontrolle über dein Erlebnis und wie deine Konversationen verwaltet werden, aber der Schutz der Privatsphäre ist unterschiedlich. Die Standardeinstellungen von Brave Leo stellen sicher, dass deine Daten nicht gespeichert, verfolgt oder für das Training verwendet werden, und du kannst den Service nutzen, ohne ein Konto zu erstellen (Siehe unsere Datenschutzerklärung für mehr Informationen). Lokale und Remote-Modelle von Drittanbietern haben unterschiedliche Datenschutzmerkmale.

Für lokale Modelle

• Alle Verarbeitung erfolgt direkt auf deinem Gerät
• Konversationen, Webseiten und Eingabeaufforderungen verlassen deine Maschine nie
• Vollständiger Datenschutz für sensible Informationen

Für Remote-Modelle (Wichtiger Datenschutzhinweis)

Bei der Verwendung von BYOM mit Diensten von Drittanbietern wie OpenAI oder anderen Remote-Endpunkten:

• Deine Daten unterliegen den Datenschutzrichtlinien und Datenpraktiken des Drittanbieters
• Braves Datenschutzschutz (wie der Reverse Proxy und Datenspeicherrichtlinien) gelten nicht
• Der Drittanbieter kann:
  • Deine Konversationen und Eingaben speichern
  • Deine Daten für das Modelltraining verwenden
  • Deine Daten gemäß ihren Bedingungen weitergeben oder analysieren
  • Unterschiedliche Datenspeicherfristen haben
  • Deine Daten in verschiedenen Rechtsprechungen verarbeiten

Technische Implementierung:

• Direkte Verbindung zwischen deinem Gerät und dem Modell-Endpunkt
• Anfragen umgehen Braves Server vollständig
• Brave hat keinen Zugriff auf oder Sichtbarkeit des Datenverkehrs
• API-Anmeldedaten werden sicher in deinem Browser gespeichert
• End-to-End-Kontrolle über deine Daten und Modell-Interaktionen

💡 Wichtig: Überprüfe vor der Verwendung eines Modells eines Drittanbieters dessen Datenschutzrichtlinie und Datenverwaltungspraktiken. Gebe keine sensiblen persönlichen Informationen, Gesundheitsdaten, Finanzdetails oder andere vertrauliche Informationen ein, es sei denn, du kannst damit umgehen, wie der Drittanbieter solche Daten behandelt. Überprüfe vor der Verwendung eines Modells eines Drittanbieters dessen Datenschutzrichtlinie und Datenverwaltungspraktiken. Gebe keine sensiblen persönlichen Informationen, Gesundheitsdaten, Finanzdetails oder andere vertrauliche Informationen ein, es sei denn, du kannst damit umgehen, wie der Drittanbieter solche Daten behandelt.