KI-Modellkonfiguration

mindzieStudio bietet jetzt eine deutlich verbesserte Integration großer Sprachmodelle (LLM), die Ihnen flexible Optionen zur Verfügung stellt, um Ihre KI-Copiloten und Assistenten anzutreiben. Sie können die integrierten Proxy-Modelle von mindzie verwenden, sich mit beliebten Cloud-Anbietern über eigene API-Schlüssel verbinden oder On-Premise-Modelle bereitstellen, um vollständige Kontrolle zu haben.

Überblick

Das KI-Modellkonfigurationssystem ermöglicht Ihnen:

  • Verwendung von mindzie Proxy-Modellen: Greifen Sie direkt auf schnelle und denkende Modelle zu, die mindzieStudio bereitstellt
  • Eigene Modelle verwenden: Verbinden Sie sich mit jeder OpenAI-kompatiblen API mit Ihren eigenen Anmeldeinformationen
  • Cloud-Anbieter: Verwenden Sie OpenAI, OpenRouter, Grok, Gemini und andere große KI-Anbieter
  • On-Premise-Bereitstellung: Stellen Sie lokale Modelle mit LM Studio, Ollama oder ähnlichen Plattformen bereit
  • Automatische Erkennung: Lassen Sie mindzieStudio Modellfähigkeiten, Token-Limits und Features automatisch erkennen
  • Mehrere Modelle: Konfigurieren Sie nach Bedarf beliebig viele Modelle für unterschiedliche Anwendungsfälle

Wann die KI-Modellkonfiguration verwenden

Konfigurieren Sie KI-Modelle, wenn Sie:

  • Copilot-Assistenten zum ersten Mal einrichten
  • Zwischen verschiedenen KI-Anbietern basierend auf Kosten oder Leistung wechseln möchten
  • On-Premise-Modelle für Datenschutz und Sicherheit bereitstellen möchten
  • Spezialisierte Modelle für bestimmte Aufgaben verwenden (schnelle Modelle für schnelle Antworten, denkende Modelle für komplexe Analysen)
  • API-Schlüssel rotieren müssen, um Sicherheitsanforderungen zu erfüllen
  • Neue Modelle testen möchten, bevor Sie diese als Standard festlegen

Voraussetzungen

Vor der Konfiguration der KI-Modelle:

  • Administratorenrechte: Sie müssen Administratorzugang zu den mindzieStudio-Einstellungen haben
  • API-Schlüssel: Holen Sie sich API-Schlüssel von Ihrem gewählten Anbieter (OpenAI, OpenRouter etc.)
  • Konto beim Anbieter: Erstellen Sie ein Konto bei Ihrem KI-Anbieter, wenn Sie externe Dienste nutzen
  • On-Premise-Setup: Wenn Sie lokale Modelle verwenden, installieren und konfigurieren Sie LM Studio, Ollama oder gleichwertige Software

Zugriff auf die Copilot-Einstellungen

Navigieren Sie zu den Copilot-Einstellungen über das Administrationspanel.

Einstellungen Navigation mit mindzie Copilot Option in der linken Seitenleiste

  1. Klicken Sie auf Ihr Profil-Icon oben rechts
  2. Wählen Sie Einstellungen aus dem Dropdown-Menü
  3. Klicken Sie in der linken Seitenleiste auf Copilot

Sie sehen die Seite mindzie Copilot Einstellungen mit zwei Hauptbereichen:

  • LLM-Anbieter: Verwalten Sie Ihre KI-Serviceanbieter
  • LLM-Modelle: Konfigurieren Sie spezifische Modelle Ihrer Anbieter

Copilot-Einstellungsseite mit Abschnitten LLM-Anbieter und LLM-Modelle

Einen KI-Anbieter hinzufügen

Anbieter sind die KI-Dienste, die die Modelle hosten. Sie können mehrere Anbieter hinzufügen und zwischen ihnen wechseln.

Schritt 1: Dialog zum Hinzufügen eines Anbieters öffnen

  1. Klicken Sie im Bereich LLM-Anbieter auf die Schaltfläche Anbieter hinzufügen
  2. Der Dialog Anbieter hinzufügen öffnet sich

Dialog Anbieter hinzufügen mit Feldern für die Anbieter-Konfiguration

Schritt 2: Anbietertyp auswählen

Wählen Sie aus dem Dropdown Anbietertyp:

  • OpenAI: Offizielle OpenAI-API (GPT-4, GPT-3.5 usw.)
  • AzureOpenAI: OpenAI-Modelle, gehostet auf Microsoft Azure
  • Anthropic: Anthropic's Claude-Modelle
  • Google: Googles Gemini-Modelle
  • OpenRouter: Zugriff auf mehrere Modelle über OpenRouter
  • LMStudio: Lokale Bereitstellung mit LM Studio
  • Sonstige: Jede andere OpenAI-kompatible API (verwenden Sie dies für Ollama, xAI Grok und ähnliche — Basis-URL angeben)

Hinweis: Für bekannte Anbieter kennt mindzieStudio automatisch die Basis-URL. Für lokale Bereitstellungen oder benutzerdefinierte Anbieter wählen Sie Sonstige und geben die Basis-URL an.

Schritt 3: Anbieter-Details konfigurieren

Anbietername: Geben Sie einen beschreibenden Namen für diesen Anbieter ein (z. B. „OpenAI Produktion“, „Lokales LM Studio“)

API-Schlüssel: Geben Sie Ihren API-Schlüssel vom Anbieter ein

  • Für Cloud-Anbieter erhalten Sie diesen im Dashboard Ihres Anbieters
  • Für lokale Bereitstellungen ist eventuell kein Schlüssel erforderlich oder kann leer bleiben

Organisations-ID (optional): Einige Anbieter wie OpenAI unterstützen Organisations-IDs für Abrechnung und Zugriffssteuerung

Basis-URL (optional): Für benutzerdefinierte oder lokale Bereitstellungen

  • LM Studio Beispiel: http://localhost:1234/v1
  • Ollama Beispiel: http://localhost:11434/v1
  • Eigene API: Endpunkt Ihres Servers

Schritt 4: Anbieterstatus festlegen

Aktiv: Aktivieren Sie dieses Kästchen, um den Anbieter zu aktivieren

  • Deaktivieren Sie es, um den Anbieter temporär zu deaktivieren, ohne die Konfiguration zu löschen
  • Nützlich, wenn Sie die Nutzung pausieren, aber die API-Schlüssel speichern möchten

Als Standardanbieter festlegen: Aktivieren Sie dieses Kästchen, um diesen Anbieter als Standard festzulegen

  • Der Standardanbieter wird verwendet, wenn neue Modelle hinzugefügt werden
  • Vereinfacht die Konfiguration, wenn Sie überwiegend einen Anbieter nutzen

Schritt 5: Verbindung testen

Testen Sie vor dem Speichern, ob Ihr Anbieter korrekt konfiguriert ist.

  1. Klicken Sie auf die Schaltfläche Verbindung testen
  2. mindzieStudio versucht, sich mit dem Anbieter unter Verwendung Ihrer Zugangsdaten zu verbinden
  3. Eine Erfolgs- oder Fehlermeldung wird angezeigt

Dialog Anbieter bearbeiten mit Ergebnis des Verbindungstests

Hinweis: Wenn Sie die Meldung „Authentifizierung fehlgeschlagen: Ungültiger API-Schlüssel“ sehen, überprüfen Sie, ob Ihr API-Schlüssel korrekt und nicht abgelaufen ist.

Schritt 6: Anbieter speichern

Klicken Sie auf Erstellen, um die Anbieter-Konfiguration zu speichern.

Ihr Anbieter wird nun in der Tabelle LLM-Anbieter angezeigt.

Copilot-Einstellungen mit OpenAI-Anbieter in der Anbieterliste

Bestehende Anbieter verwalten

Anbieter bearbeiten

Um Anbieter-Einstellungen zu aktualisieren (z. B. API-Schlüssel rotieren):

  1. Klicken Sie auf das Bearbeiten-Symbol (Stift) in der Spalte Aktionen
  2. Der Dialog Anbieter bearbeiten öffnet sich mit den aktuellen Einstellungen
  3. Nehmen Sie Ihre Änderungen vor (z. B. aktualisieren Sie den API-Schlüssel)
  4. Klicken Sie auf Verbindung testen, um die neuen Zugangsdaten zu prüfen
  5. Klicken Sie auf Aktualisieren, um die Änderungen zu speichern

Dialog Anbieter bearbeiten mit maskiertem API-Schlüssel und Verbindungstest-Schaltfläche

Üblicher Anwendungsfall: API-Schlüssel müssen anhand der Sicherheitsrichtlinien Ihrer IT-Abteilung regelmäßig rotiert werden. Verwenden Sie die Funktion „Anbieter bearbeiten“, um Schlüssel zu aktualisieren, ohne die gesamte Konfiguration neu zu erstellen.

Anbieter löschen

Um einen Anbieter zu entfernen:

  1. Klicken Sie auf das Löschen-Symbol (Mülleimer) in der Spalte Aktionen
  2. Bestätigen Sie die Löschung

Warnung: Das Löschen eines Anbieters löscht nicht die zugehörigen Modelle, aber diese Modelle funktionieren anschließend ohne gültigen Anbieter nicht mehr.

Modell hinzufügen

Sobald Sie mindestens einen Anbieter konfiguriert haben, können Sie KI-Modelle hinzufügen.

Schritt 1: Dialog zum Hinzufügen eines Modells öffnen

  1. Klicken Sie im Bereich LLM-Modelle auf die Schaltfläche Modell hinzufügen
  2. Der Dialog Modell hinzufügen öffnet sich

Dialog Modell hinzufügen mit Abschnitten Modellkonfiguration und Test & Validierung

Der Dialog besteht aus zwei Hauptbereichen:

  • Modellkonfiguration (links): Grundlegende Modelleinstellungen
  • Test & Validierung (rechts): Automatische Funktionserkennung

Schritt 2: Anbieter auswählen

Wählen Sie den Anbieter aus dem Dropdown-Menü aus.

Dieses Menü listet alle aktiven Anbieter auf, die Sie konfiguriert haben.

Schritt 3: Modellnamen wählen oder eingeben

Sie haben zwei Möglichkeiten, das Modell anzugeben:

Option A: Aus Liste auswählen (empfohlen)

  1. Klicken Sie neben dem Feld Provider Model Name auf die Schaltfläche Modell auswählen
  2. Ein Dialog Modell auswählen erscheint mit einer Suchbox
  3. mindzieStudio fragt die API des Anbieters ab, um verfügbare Modelle zu laden

Dialog Modell auswählen lädt verfügbare Modelle vom Anbieter

  1. Nach dem Laden sehen Sie eine Liste verfügbarer Modelle

Modellauswahl-Liste zeigt verfügbare OpenAI-Modelle wie o4-mini, o3-pro etc.

  1. Klicken Sie auf ein Modell, um es auszuwählen (z. B. gpt-5-search-api-2025-10-14)

Hinweis: Nicht alle Modelle eines Anbieters sind für Chats geeignet. Zum Beispiel bietet OpenAI auch Audio- und Embedding-Modelle an, die mit mindzieStudio-Copiloten nicht funktionieren. Die Auswahl eines inkompatiblen Modells führt zu Fehlern bei der Verwendung.

Option B: Manuelle Eingabe

Wenn Sie den exakten Modellnamen kennen, geben Sie ihn direkt im Feld Provider Model Name ein.

Beispiele:

  • gpt-4-turbo
  • gpt-4o-mini
  • claude-3-opus-20240229

Schritt 4: Anzeigenamen für Modell konfigurieren

Model Display Name: Geben Sie einen benutzerfreundlichen Namen ein, den Benutzer sehen

  • Beispiel: GPT-4 Turbo (schnell, kostengünstig)
  • Dieser Name erscheint in der Copilot-Benutzeroberfläche bei der Modellauswahl

Schritt 5: Standard-Temperatur festlegen

Standard-Temperatur: Setzen Sie den Wert zwischen 0 und 2

  • Niedrige Werte (0-0.3): Deterministischere, fokussierte Antworten
  • Mittlere Werte (0.7-1.0): Ausgewogene Kreativität und Konsistenz
  • Hohe Werte (1.0-2.0): Kreativere und vielfältigere Antworten

Standard: 1 ist für die meisten Anwendungsfälle ein guter Ausgangspunkt

Schritt 6: Fähigkeiten automatisch erkennen lassen

mindzieStudio kann automatisch ermitteln, welche Features das Modell unterstützt.

  1. Klicken Sie im Bereich Test & Validierung auf die Schaltfläche Fähigkeiten automatisch konfigurieren
  2. mindzieStudio verbindet sich mit dem Anbieter und testet das Modell

Automatische Fähigkeits-Erkennung läuft, zeigt Status "Fähigkeiten werden erkannt..."

  1. Innerhalb von Sekunden erkennt das System und konfiguriert:
    • Token-Limits: Maximale Kontext- und Ausgabe-Token
    • Modellfähigkeiten: Unterstützte Funktionen
    • Temperaturunterstützung: Ob der Temperaturparameter verfügbar ist
    • Systemnachrichten: Ob das Modell Systemnachrichten unterstützt
    • Tool-Aufruf: Ob das Modell externe Tools aufrufen kann

Erfolgsdialog zeigt Modell konfiguriert mit 128.000 Kontext-Token und 16.000 Ausgabe-Token

  1. Klicken Sie im Erfolgsdialog auf Schließen
  2. Die Fähigkeiten werden automatisch in das Formular übernommen

Dialog Modell hinzufügen mit automatisch ausgefüllten Fähigkeiten einschließlich Token-Limits und unterstützten Features

Automatisch ausgefüllte Informationen:

  • Max Kontext-Token: 128.000 (im Beispiel)
  • Max Ausgabe-Token: 16.000 (im Beispiel)
  • Erkannte Stufe: Vorgeschlagene Stufe für dieses Modell (Small, Agent oder Thinking)
  • Modellfähigkeiten: Systemnachrichten (aktiv), Temperatur (im Beispiel deaktiviert)

Schritt 7: Manuelle Anpassung (optional)

Sie können die automatisch erkannten Fähigkeiten bei Bedarf manuell ändern.

Warnung: Überschreiben Sie nur, wenn Sie sicher sind, dass die automatische Erkennung falsch ist. Falsche Fähigkeitseinstellungen führen zu Fehlern bei der Nutzung des Modells.

Beispiele:

  • Wenn Sie für ein Modell, das keine Temperatur unterstützt, die Temperatur aktivieren, schlagen API-Aufrufe fehl
  • Wenn Sie Token-Limits zu hoch setzen, werden Anfragen möglicherweise abgelehnt

Schritt 8: Modellstatus festlegen

Aktiv: Aktivieren Sie das Kästchen, um das Modell zu verwenden

  • Deaktivieren Sie es, um das Modell vorübergehend zu sperren, ohne es zu löschen

Als Standardmodell für Mandanten festlegen: Aktivieren Sie es, um dieses Modell für alle Copilot-Assistenten standardmäßig zu verwenden

  • Es kann nur ein Standardmodell pro Mandant geben
  • Das Festlegen eines neuen Standardmodells legt auch dessen Anbieter als Standardanbieter fest

Schritt 9: Modell erstellen

  1. Klicken Sie auf die Schaltfläche Erstellen
  2. Ein Informationsdialog bestätigt die erfolgreiche Modell-Hinzufügung

Informationsdialog zeigt "Modell erfolgreich hinzugefügt"

  1. Klicken Sie auf Schließen
  2. Das Modell erscheint jetzt in der Tabelle LLM-Modelle

Aktualisierte LLM-Modelle-Tabelle zeigt neu hinzugefügtes Modell in der Liste

Die Modelle-Tabelle verstehen

Die Tabelle LLM-Modelle zeigt:

Spalte Beschreibung
Modellname Von Ihnen konfigurierte Anzeige eines Modells
Anbieter Welcher Anbieter dieses Modell hostet
Provider Model Name Technischer Modellbezeichner, der von der API verwendet wird
Stufe Modell-Stufe: Small (schnelle Router-Aufgaben), Agent (komplexes Schlussfolgern), Thinking (ausgedehnte Analyse) oder Deaktiviert
Status Aktiv oder Inaktiv
Mandant-Standard Zeigt „DEFAULT“, wenn dies das mandantenweite Standardmodell ist
Aktionen Modell bearbeiten oder löschen

Modelle verwalten

Modell bearbeiten

Um ein Modell zu bearbeiten:

  1. Klicken Sie auf das Bearbeiten-Symbol in der Spalte Aktionen
  2. Aktualisieren Sie die Einstellungen im Dialog Modell bearbeiten
  3. Klicken Sie auf Aktualisieren, um die Änderungen zu speichern

Ein anderes Standardmodell festlegen

Um das Standardmodell zu ändern:

  1. Bearbeiten Sie das gewünschte Modell
  2. Aktivieren Sie Als Standardmodell für Mandanten festlegen
  3. Klicken Sie auf Aktualisieren

Das vorherige Standardmodell wird automatisch deaktiviert.

Modell löschen

Um ein Modell zu löschen:

  1. Klicken Sie auf das Löschen-Symbol in der Spalte Aktionen
  2. Bestätigen Sie die Löschung

Hinweis: Sie können kein Modell löschen, das aktuell als Mandanten-Standardmodell gesetzt ist. Legen Sie zuerst ein anderes Standardmodell fest.

Ihre Konfiguration testen

Nach der Konfiguration von Anbietern und Modellen testen Sie Ihr Setup:

  1. Navigieren Sie zu einer Copilot-aktivierten Funktion (z. B. Untersuchungen, AI Teammate)
  2. Öffnen Sie die Copilot-Benutzeroberfläche
  3. Prüfen Sie, ob Ihr Standardmodell im Modell-Auswahlmenü erscheint
  4. Senden Sie eine Testanfrage, um zu bestätigen, dass das Modell korrekt antwortet

Unterstützte Anbieter

Cloud-Anbieter

mindzieStudio unterstützt jede OpenAI-kompatible API, darunter:

  • OpenAI: GPT-4, GPT-4 Turbo, GPT-3.5, GPT-5 (wenn verfügbar)
  • OpenRouter: Multi-Anbieter-Zugriff auf Hunderte von Modellen
  • Anthropic Claude (über OpenRouter oder kompatiblen Proxy)
  • Grok (xAI)
  • Google Gemini (über kompatible API)
  • Azure OpenAI Service
  • Benutzerdefinierte APIs: Jeder Dienst, der die OpenAI-API-Spezifikation implementiert

On-Premise-Lösungen

Für Datenschutz und Sicherheit können Sie Modelle lokal bereitstellen:

  • LM Studio: Einfache lokale Modellbereitstellung
  • Ollama: Leichtgewichtiger lokaler Modellserver
  • vLLM: Hochperformanter Inferenzserver
  • Text Generation Inference: Hugging Face Inferenzserver
  • LocalAI: OpenAI-kompatible lokale Inferenz

On-Premise-Setup Voraussetzungen:

  1. Installieren Sie die gewünschte lokale Inferenzsoftware
  2. Laden und laden Sie das bevorzugte Modell
  3. Starten Sie den lokalen Server (meist auf localhost:1234 oder localhost:11434)
  4. Fügen Sie in mindzieStudio einen Anbieter mit der lokalen Basis-URL hinzu
  5. Fügen Sie Modelle über den lokalen Anbieter hinzu

Best Practices

API-Key-Sicherheit

  • Schlüssel regelmäßig rotieren: Ändern Sie API-Schlüssel regelmäßig gemäß Ihren Sicherheitsrichtlinien
  • Organisations-IDs verwenden: Nutzen Sie Organisations-IDs, wenn verfügbar, zur Kosten- und Nutzungsverfolgung
  • Rechte der Schlüssel begrenzen: Verwenden Sie API-Schlüssel mit minimal notwendigen Berechtigungen
  • Keine Schlüssel teilen: Jeder Benutzer oder jedes Team sollte eigene API-Zugangsdaten haben

Modellauswahl

  • Schnelle Modelle für Echtzeit: Verwenden Sie Modelle wie gpt-4o-mini für schnelle Copilot-Antworten
  • Denkende Modelle für Analyse: Setzen Sie größere Modelle wie gpt-5-search-api für komplexe Analyseaufgaben ein
  • Vor Standardsetzung testen: Testen Sie neue Modelle gründlich, bevor Sie sie als Mandanten-Standard festlegen
  • Kosten überwachen: Verfolgen Sie Nutzung und Kosten pro Modell, besonders bei teuren Modellen

Anbieterverwaltung

  • Anbieter aktiv halten: Deaktivieren Sie Anbieter nur bei Bedarf, um Verwirrung zu vermeiden
  • Beschreibende Namen: Nutzen Sie klare Anbieterbezeichnungen wie „OpenAI Produktion“ oder „Lokales LM Studio Dev“
  • Verbindungen testen: Testen Sie immer Verbindungen nach Hinzufügen oder Bearbeiten von Anbietern
  • Mehrere Anbieter konfigurieren: Legen Sie Backup-Anbieter fest für den Fall von Problemen beim Hauptanbieter

Fähigkeitskonfiguration

  • Automatische Erkennung vertrauen: Verwenden Sie wann immer möglich die automatische Fähigkeitskonfiguration
  • Nicht raten: Falls die automatische Erkennung fehlschlägt, konsultieren Sie die Dokumentation des Modells statt zu raten
  • Token-Limits prüfen: Falsche Token-Limits können zu unerwarteter Abschneidung oder Fehlern führen
  • Regelmäßig aktualisieren: Modellfähigkeiten können sich durch API-Updates ändern

Fehlerbehebung

Verbindungstest schlägt fehl

Wenn der Verbindungstest für einen Anbieter fehlschlägt:

  1. API-Schlüssel prüfen: Kopieren Sie den Schlüssel direkt aus dem Dashboard Ihres Anbieters
  2. Basis-URL überprüfen: Stellen Sie sicher, dass die Basis-URL korrekt ist und das Protokoll (http:// oder https://) enthält
  3. Netzwerkzugang: Prüfen Sie, ob Ihr Netzwerk Verbindungen zum Anbieter zulässt
  4. Status des Anbieters: Prüfen Sie, ob die API des Anbieters derzeit Störungen hat
  5. Organisations-ID: Entfernen Sie die Organisations-ID, wenn sie nicht benötigt wird

Modell erscheint nicht in Copilot

Wenn ein Modell bei der Nutzung der Copiloten nicht angezeigt wird:

  1. Aktiv-Status prüfen: Stellen Sie sicher, dass Anbieter und Modell als aktiv markiert sind
  2. Anbieter prüfen: Vergewissern Sie sich, dass der Modell-Anbieter aktiv ist
  3. Benutzeroberfläche neu laden: Aktualisieren Sie die Copilot-Oberfläche
  4. Berechtigungen prüfen: Stellen Sie sicher, dass Sie Zugriff auf KI-Funktionen haben

Automatische Erkennung schlägt fehl

Wenn die automatische Fähigkeitskonfiguration nicht funktioniert:

  1. Anbieter zuerst testen: Stellen Sie sicher, dass die Verbindung zum Anbieter gültig ist
  2. Modellname prüfen: Überprüfen Sie, ob der Modellname korrekt ist
  3. API-Berechtigungen: Manche APIs benötigen spezielle Rechte für Fähigkeitsabfragen
  4. Manuelle Konfiguration: Als letztes Mittel konfigurieren Sie die Fähigkeiten manuell anhand der Modelldokumentation

Modellfehler während der Nutzung

Wenn ein Modell Fehler bei der Nutzung erzeugt:

  1. Fähigkeiten prüfen: Stellen Sie sicher, dass die Fähigkeiten korrekt eingestellt sind und mit dem Modell kompatibel sind
  2. Token-Limits kontrollieren: Überprüfen Sie, ob maximale Kontext- und Ausgabe-Token nicht zu hoch gesetzt sind
  3. Temperatureinstellung: Einige Modelle unterstützen keine Temperatur – deaktivieren Sie diese bei Bedarf
  4. API-Quota prüfen: Überprüfen Sie, ob Sie die Limitierungen oder Quoten Ihres Anbieters überschritten haben

Beispielkonfigurationen

Beispiel 1: OpenAI mit mehreren Modellen

Anbieter-Konfiguration:

  • Anbietertyp: OpenAI
  • Anbietername: „OpenAI Produktion“
  • API-Schlüssel: sk-... (Ihr tatsächlicher Schlüssel)
  • Aktiv: Ja
  • Standardanbieter: Ja

Modelle:

  1. Schnelles Modell für schnelle Antworten

    • Modellname: „GPT-4o Mini (Schnell & günstig)“
    • Provider Model Name: gpt-4o-mini
    • Standard-Temperatur: 0.7
    • Mandanten-Standard: Ja
  2. Denkendes Modell für komplexe Analyse

    • Modellname: „GPT-5 Search API (Erweitert)“
    • Provider Model Name: gpt-5-search-api-2025-10-14
    • Standard-Temperatur: 1.0
    • Mandanten-Standard: Nein

Beispiel 2: On-Premise mit LM Studio

Anbieter-Konfiguration:

  • Anbietertyp: LM Studio
  • Anbietername: „Lokales LM Studio“
  • API-Schlüssel: (leer lassen oder Dummywert)
  • Basis-URL: http://localhost:1234/v1
  • Aktiv: Ja
  • Standardanbieter: Ja

Modell:

  • Modellname: „Llama 3.1 70B (Lokal)“
  • Provider Model Name: llama-3.1-70b-instruct
  • Standard-Temperatur: 0.8
  • Mandanten-Standard: Ja

Beispiel 3: Gemischtes Cloud- und On-Premise-Setup

Verwenden Sie mehrere Anbieter zur Flexibilität:

Anbieter:

  1. OpenAI (Cloud) – für produktive Workloads
  2. LM Studio (Lokal) – für Entwicklung und sensible Daten

Modelle:

  • Standard: OpenAI GPT-4o Mini (Produktion)
  • Sekundär: Lokales Llama 3.1 (Entwicklung/Test)

Verwandte Dokumentation

Support

Bei Problemen mit der Konfiguration von KI-Modellen:

  • E-Mail: support@mindzie.com
  • Dokumentation: Konsultieren Sie die API-Dokumentation Ihres KI-Anbieters für Modellnamen und Fähigkeiten
  • Tests: Testen Sie immer Anbieter-Verbindungen und Modellausgaben, bevor Sie ein Modell als Standard festlegen