Temporäre Integration anderer KI-Modelle

Ollama

• Laden Sie ollama von der offiziellen Website herunter und installieren Sie es
• MacOS
  • Führen Sie OLLAMA_ORIGINS="*" ollama serve aus (ermöglicht Cross-Origin-Zugriff und startet ollama)
• Windows
  • Erstellen Sie in der Systemsteuerung - Systemeigenschaften - Umgebungsvariablen - Benutzerumgebungsvariablen eine neue Variable mit dem Namen "OLLAMA_HOST" und dem Wert "0.0.0.0" sowie eine Variable mit dem Namen "OLLAMA_ORIGINS" und dem Wert "*"
• Gehen Sie zur Einstellungsseite des Plugins und wählen Sie openAI für den Übersetzungsdienst
  • api_key: ollama
  • Benutzerdefiniertes Modell: llama2, andere Modelle
  • Benutzerdefinierte URL: http://localhost:11434/v1/chat/completions
• Verwandte Referenzdokumente
  • https://github.com/ollama/ollama/issues/2335

Groq

• Gehen Sie zur Einstellungsseite des Plugins und wählen Sie openAI für den Übersetzungsdienst
  • api_key: Erhalten Sie den api_key
  • Benutzerdefiniertes Modell: mixtral-8x7b-32768, llama2-70b-4096
  • Benutzerdefinierte URL: https://api.groq.com/openai/v1/chat/completions
  • Ratenkontrolle: 20/min+25/10min
  • Hinweis
    • Es wird empfohlen, es nur für Maus-Hover- und Eingabeverbesserungsfunktionen zu verwenden

Claude

• Bereitstellung von Claude für ChatGPT mit Docker/Cloudflare Claude to ChatGPT
• Gehen Sie zur Einstellungsseite des Plugins und wählen Sie openAI für den Übersetzungsdienst
  • api_key: Erhalten Sie den api_key
  • Benutzerdefiniertes Modell: claude-instant-1, claude-2
  • Benutzerdefinierte URL-Adresse: http://localhost:8000/v1/chat/completions
  • Siehe Rate Limits für Frequenzbeschränkungen
  • Hinweise
    • Beachten Sie die Export-IP
    • Es wird empfohlen, es nur für Maus-Hover- und Eingabeverbesserungsfunktionen zu verwenden