Einstellungen

Der Tab „Einstellungen“ im Admin-Panel von Localmind bietet umfangreiche Konfigurationsmöglichkeiten für die Plattform. Hier können Administratoren verschiedene Aspekte des Systems anpassen und steuern.

Übersicht der Einstellungen

Die Einstellungen sind in mehrere Kategorien unterteilt, die über Subtabs auf der linken Seite zugänglich sind:

• Allgemein
• Benutzer
• Verbindungen
• Dokumente
• Benutzeroberfläche
• Audio

Diese Struktur ermöglicht eine übersichtliche und effiziente Verwaltung der verschiedenen Konfigurationsoptionen.

Allgemeine Einstellungen

Der Subtab „Allgemein“ enthält grundlegende Systemkonfigurationen, welche die gesamte Localmind-Instanz betreffen.

Hauptfunktionen:

1. Registrierung erlauben:
   • Ein Schalter zum Aktivieren oder Deaktivieren der Benutzerregistrierung.
   • Ermöglicht die Kontrolle darüber, ob neue Benutzer sich selbst registrieren können.
2. Standardbenutzerrolle:
   • Ein Dropdown-Menü zur Auswahl der Standardrolle für neue Benutzer.
   • Im Beispiel ist „ausstehend“ ausgewählt, was bedeutet, dass neue Registrierungen einer Genehmigung bedürfen.
3. Admin-Details im Account-Pending-Overlay anzeigen:
   • Ein Schalter zur Steuerung der Sichtbarkeit von Admin-Informationen für Benutzer mit ausstehenden Konten.
4. Bewertung von Nachrichten erlauben:
   • Aktiviert oder deaktiviert die Möglichkeit für Benutzer, Nachrichten zu bewerten.
   • Nützlich für Feedback und Qualitätsverbesserung der KI-Antworten.
5. JWT-Ablauf:
   • Ein Eingabefeld zur Festlegung der Gültigkeitsdauer von JSON Web Tokens.
   • Der Wert „-1“ deutet auf keine Ablaufzeit hin.
   • Gültige Zeiteinheiten sind ’s‘ (Sekunden), ‚m‘ (Minuten), ‚h‘ (Stunden), ‚d‘ (Tage) und ‚w‘ (Wochen).
6. Webhook URL:
   • Ein Eingabefeld für die URL eines Webhooks.
   • Ermöglicht die Integration mit externen Systemen für Benachrichtigungen oder Datenübertragung.

Beste Praktiken:

1. Sicherheit:
   • Überdenken Sie sorgfältig die Einstellung für die Benutzerregistrierung und die Standardrolle, um unbefugten Zugriff zu verhindern.
   • Setzen Sie einen angemessenen JWT-Ablaufzeitraum, um die Sicherheit zu erhöhen.
2. Benutzerfreundlichkeit:
   • Die Aktivierung der Nachrichtenbewertung kann wertvolles Feedback liefern, sollte aber im Kontext der Benutzerfreundlichkeit betrachtet werden.
3. Integration:
   • Nutzen Sie die Webhook-Funktion, um das Localmind Cockpit nahtlos in Ihre bestehende IT-Infrastruktur zu integrieren.
4. Regelmäßige Überprüfung:
   • Überprüfen Sie diese Einstellungen regelmäßig, um sicherzustellen, dass sie den aktuellen Anforderungen und Sicherheitsstandards entsprechen

Benutzereinstellungen

Der Subtab „Benutzer“ im Einstellungsbereich des Admin-Panels ermöglicht die Konfiguration verschiedener benutzerbezogener Funktionen und Berechtigungen. Diese Einstellungen beeinflussen direkt, wie Benutzer mit dem Localmind Cockpit interagieren können.

Hauptfunktionen:

1. Benutzerberechtigungen: Diese Sektion enthält mehrere Optionen zur Steuerung der Benutzerrechte: a) Unterhaltungen löschen erlauben: b) Erlaube Bearbeiten von Chats: c) Erlaube temporären Chat: Alle diese Optionen haben einen „Erlauben“-Schalter, der es Administratoren ermöglicht, diese Funktionen gezielt zu aktivieren oder zu deaktivieren.
   • Ein Schalter zum Aktivieren oder Deaktivieren der Berechtigung für Benutzer, ihre Chatverläufe zu löschen.
   • Ermöglicht Benutzern, bereits gesendete Nachrichten zu bearbeiten.
   • Gibt Benutzern die Möglichkeit, temporäre Chats zu erstellen, die nach einer bestimmten Zeit oder Sitzung automatisch gelöscht werden.
2. Modelle verwalten: Dieser Abschnitt ermöglicht die Konfiguration der KI-Modelle, die den Benutzern zur Verfügung stehen: a) Standardmodell:
   • Ein Dropdown-Menü zur Auswahl des Standard-KI-Modells, das für neue Chats verwendet wird.
   • Im Screenshot ist „localmind-ultra“ als Standardmodell ausgewählt.

Beste Praktiken:

1. Datenschutz und Compliance:
   • Die Option zum Löschen von Unterhaltungen kann wichtig für die Einhaltung von Datenschutzbestimmungen sein. Überlegen Sie sorgfältig, ob Sie diese Funktion aktivieren möchten.
2. Nachvollziehbarkeit:
   • Das Erlauben von Chatbearbeitungen kann die Nachvollziehbarkeit von Konversationen beeinträchtigen. Wägen Sie ab, ob dies für Ihre Zwecke angemessen ist.
3. Temporäre Chats:
   • Diese Funktion kann nützlich sein für sensible Diskussionen oder um den Speicherbedarf zu reduzieren. Bedenken Sie jedoch mögliche Auswirkungen auf die Archivierung wichtiger Informationen.
4. Modellauswahl:
   • Die Wahl des Standardmodells sollte auf den allgemeinen Bedürfnissen Ihrer Benutzer basieren. Berücksichtigen Sie Faktoren wie Leistung, Spezialisierung und Ressourcenverbrauch.
5. Regelmäßige Überprüfung:
   • Überprüfen Sie diese Einstellungen regelmäßig, um sicherzustellen, dass sie den aktuellen Anforderungen Ihrer Organisation entsprechen.
6. Schulung und Kommunikation:
   • Informieren Sie Ihre Benutzer über die verfügbaren Funktionen und eventuelle Änderungen in den Berechtigungen.

Verbindungen

Der Subtab „Verbindungen“ im Einstellungsbereich des Admin-Panels ermöglicht die Integration externer KI-Modellanbieter in das Localmind Cockpit. Diese Funktion erweitert die Vielfalt der verfügbaren KI-Modelle und bietet Flexibilität bei der Auswahl der besten Lösung für verschiedene Aufgaben.

Hauptfunktionen:

1. API-Integration:
   • Ein Schalter zum Aktivieren oder Deaktivieren der Verbindung zu externen APIs.
   • Im Screenshot ist die Option „Localmind API oder OpenAI-kompatible API“ aktiviert.
2. API-Endpunkt-Konfiguration:
   • Ein Eingabefeld für die URL des API-Endpunkts.
   • Wird automatisch in der jeweiligen Localmind-Instanz gesetzt und lautet in der Regel localmind-api:4000 (= der lokale Hostname & Port der API-Middleware, die auf dielokalen GPU-Server zugreift)
3. API-Schlüssel-Management:
   • Ein verdecktes Feld für den API-Schlüssel der API-Middleware.
4. Zusätzliche Informationen:
   • Anzeige der URL, an die Localmind AI Anfragen sendet.

Anwendungsmöglichkeiten:

1. Modellvielfalt:
   • Integration verschiedener KI-Modelle von unterschiedlichen Anbietern.
   • Möglichkeit, spezialisierte Modelle für bestimmte Aufgaben zu nutzen.
2. Flexibilität:
   • Schneller Wechsel zwischen verschiedenen Modellanbietern ohne Änderungen an der Benutzeroberfläche.
3. Skalierbarkeit:
   • Einfache Erweiterung der KI-Fähigkeiten durch Hinzufügen neuer API-Verbindungen.
4. Kostenoptimierung:
   • Möglichkeit, kostengünstigere oder leistungsfähigere Alternativen zu integrieren.

Best Practices:

1. Kompatibilitätsprüfung:
   • Stellen Sie sicher, dass die integrierte API mit Localmind kompatibel ist. Wird die API als „OpenAI-kompatible API“ bezeichnet, funktioniert diese out-of-the-box.
2. Datenschutz-Compliance:
   • Überprüfen Sie, ob die Nutzung externer APIs, welche nicht von Localmind bereitgestellt werden, mit Ihren Datenschutzrichtlinien und gesetzlichen Vorgaben übereinstimmt.
3. Backup-Strategie:
   • Halten Sie alternative API-Verbindungen bereit, falls ein Dienst ausfällt oder nicht verfügbar ist.
4. Kostenmanagement:
   • Behalten Sie die Nutzung und die damit verbundenen Kosten im Auge, besonders bei verbrauchsbasierten API-Diensten.

Dokumente

Der Subtab „Dokumente“ im Einstellungsbereich des Admin-Panels bietet umfangreiche Konfigurationsmöglichkeiten für die Verarbeitung und Nutzung von Dokumenten in Localmind. Diese Einstellungen sind entscheidend für die effiziente Integration von Wissen in die KI-Modelle.

Hauptfunktionen:

1. Embedding-Modell-Engine:
   • Dropdown-Menü zur Auswahl der Embedding-Engine. Alle OpenAI-kompatiblen Embeddings APIs, wie beispielsweise die hauseigene lokale Middleware-API, wird unterstützt.
2. Embedding-Stapelgröße:
   • Numerisches Eingabefeld zur Festlegung der Stapelgröße (im Beispiel: 1).
   • Beeinflusst, wie viele Embeddings gleichzeitig verarbeitet werden.
3. Hybride Suche:
   • Ein-/Ausschalter für die hybride Suchfunktion. Diesen stets auf an lassen, um korrekte und hochwertige Suchresultate bei KI-Wissenspools zu erhalten.
4. Embedding-Modell:
   • Auswahl des spezifischen Embedding-Modells (im Beispiel: localmind-embeddings).
   • Wichtiger Hinweis: Bei Änderung des Modells müssen alle Dokumente erneut importiert werden.
5. RAG-Vorlage:
   • Textfeld zur Konfiguration der RAG (Retrieval-Augmented Generation) Prompt-Vorlage.
6. Blockparameter:
   • Chunk-Größe: Festlegung der Größe einzelner Textabschnitte (im Beispiel: 1500), die per Default beim erstellen von Datenpools angewandt werden.
   • Chunk-Überlappung: Bestimmung des Überlappungsbereichs zwischen Chunks (im Beispiel: 100).

Best Practices:

1. Modellauswahl: Wählen Sie das Embedding-Modell basierend auf den spezifischen Anforderungen Ihrer Dokumente und der gewünschten Leistung. In der Regel ist jedoch das Embeddings-Modell localmind-embeddings für alle Dokumente performant und hochwertig.
2. Regelmäßige Überprüfung: Überprüfen Sie die Einstellungen regelmäßig, insbesondere nach Änderungen in der Dokumentenstruktur oder -menge.
3. Vorsicht bei Modelländerungen: Beachten Sie den Hinweis zur Neuimportierung aller Dokumente bei Änderung des Embedding-Modells. Planen Sie solche Änderungen sorgfältig.
4. RAG-Vorlagenanpassung: Passen Sie die RAG-Vorlage an die spezifischen Bedürfnisse Ihrer Organisation an, um die Relevanz und Qualität der generierten Antworten zu verbessern.
5. Chunk-Parameter-Optimierung: Finden Sie die richtige Balance zwischen Chunk-Größe und -Überlappung für Ihre spezifischen Dokumente. Dies kann die Genauigkeit der Informationsextraktion erheblich beeinflussen.

Benutzeroberfläche

Der Subtab „Benutzeroberfläche“ im Einstellungsbereich des Admin-Panels ermöglicht die Anpassung verschiedener Aspekte der Benutzeroberfläche von Localmind. Diese Einstellungen beeinflussen, wie Benutzer mit dem System interagieren und wie Informationen präsentiert werden.

Hauptfunktionen:

1. Aufgabenmodell festlegen:
   • Separate Dropdown-Menüs für „Lokale Modelle“ und „External Models“.
   • Ermöglicht die Auswahl spezifischer Modelle für Aufgaben wie die automatische Generierung von Chat-Titeln oder der Ausführung von Skills (Tool Calling).
2. Prompt für Titelgenerierung:
   • Ein Textfeld zur Konfiguration des Prompts für die automatische Generierung von Chat-Titeln.
   • Beispiel: „Create a concise, 3-5 word title with an emoji as a title for the prompt in the given language.“
   • Enthält Beispiele für generierte Titel wie „? Stock Market Trends“ und „? Perfect Chocolate Chip Recipe“.
3. Suchanfragengenerierungsvorlage:
   • Ein Textfeld zur Einrichtung einer Vorlage für die Generierung von Websuchanfragen.
   • Beinhaltet Anweisungen für das KI-Modell zur Erstellung geeigneter Suchanfragen.
4. Längenschwelle für Suchanfragengenerierung:
   • Numerisches Eingabefeld zur Festlegung einer Längenbegrenzung für generierte Suchanfragen (im Beispiel: 15).
5. Banner:
   • Ein erweiterbare Sektion (mit „+“ Symbol), vermutlich zur Konfiguration von Bannern in der Benutzeroberfläche.
6. Prompt-Vorschläge:
   • Ein Bereich zur Verwaltung vordefinierter Prompt-Vorschläge.
   • Zeigt Beispiele wie „Hilfe bei der Analyse von Markttrends“ und „Erstellen Sie einen Business-Plan für ein neues Produkt“.
   • Diese gelten global für alle Nutzer aller Organisationen.

Audio

Der Subtab „Audio“ im Einstellungsbereich des Admin-Panels ermöglicht die Konfiguration von Sprach-zu-Text (STT) und Text-zu-Sprache (TTS) Funktionen in Localmind. Diese Einstellungen sind entscheidend für die Implementierung von Sprachein- und -ausgabe im System.

Hauptfunktionen:

1. STT-Einstellungen (Sprache-zu-Text):
   • Dropdown-Menü zur Auswahl der Sprache-zu-Text-Engine.
   • Im Beispiel ist „Whisper (lokal)“ ausgewählt.
   • Zusätzliche Optionen umfassen OpenAI-kompatible APIs und die Web API für die Nutzung des jeweiligen STT-Modells, welches vom jeweiligen Browser benutzt wird.
2. TTS-Einstellungen (Text-zu-Sprache):
   • Dropdown-Menü zur Auswahl der Text-zu-Sprache-Engine.
   • Im Beispiel ist „Web-API“ ausgewählt.
   • Zusätzliche Optionen beinhalten OpenAI-kompatible APIs und die Elevenlabs API.
3. TTS-Stimme:
   • Dropdown-Menü zur Auswahl der Stimme für die Text-zu-Sprache-Ausgabe.

Anwendungsmöglichkeiten:

1. Sprachgesteuerte Interaktion: Ermöglicht Benutzern, mit dem Localmind Cockpit über Sprachbefehle zu interagieren.
2. Barrierefreiheit: Verbessert die Zugänglichkeit für Benutzer mit eingeschränkten Seh- oder Tippfähigkeiten.
3. Mehrsprachige Unterstützung: Potenzielle Unterstützung für mehrere Sprachen und Akzente, abhängig von den gewählten Engines.
4. Personalisierte Sprachausgabe: Anpassung der Sprachausgabe durch die Auswahl verschiedener Stimmen.

Best Practices:

1. Engine-Auswahl:
   • Wählen Sie die STT- und TTS-Engines basierend auf Genauigkeit, Leistung und spezifischen Sprachanforderungen Ihrer Organisation.
   • Berücksichtigen Sie Faktoren wie Verarbeitungsgeschwindigkeit, Unterstützung für verschiedene Sprachen und Akzente.
2. API-Integration:
   • Bei Verwendung externer APIs (OpenAI, andere OpenAI-kompatible APIs & Elevenlabs) stellen Sie sicher, dass die notwendigen Authentifizierungen und Berechtigungen korrekt eingerichtet sind.
   • Überwachen Sie die API-Nutzung, um Kosten und Leistung zu optimieren.
3. Stimmenauswahl:
   • Wählen Sie eine Stimme, die zur Markenidentität Ihres Unternehmens passt und für Ihre Zielgruppe angemessen ist.
   • Testen Sie verschiedene Stimmen, um die beste Klarheit und Verständlichkeit zu gewährleisten.
4. Datenschutz und Sicherheit:
   • Beachten Sie datenschutzrechtliche Bestimmungen, insbesondere bei der Verarbeitung von Sprachdaten.
   • Stellen Sie sicher, dass die Übertragung von Audiodaten sicher und verschlüsselt erfolgt.
5. Benutzerfeedback:
   • Sammeln Sie regelmäßig Feedback von Benutzern zur Qualität und Nützlichkeit der Sprach-zu-Text und Text-zu-Sprache Funktionen.
   • Nutzen Sie dieses Feedback für kontinuierliche Verbesserungen.
6. Leistungsüberwachung:
   • Überwachen Sie die Leistung der STT- und TTS-Funktionen, einschließlich Genauigkeit, Latenz und Zuverlässigkeit.
   • Optimieren Sie die Einstellungen basierend auf den Leistungsmetriken.
7. Lokale vs. Cloud-Lösungen:
   • Wägen Sie die Vor- und Nachteile lokaler Lösungen (wie der Localmind-eigenen und vorinstallierten STT-Engine) gegenüber cloudbasierten Diensten ab, unter Berücksichtigung von Faktoren wie Latenz, Offline-Verfügbarkeit und Datenschutz.