Intégration Temporaire d'Autres Modèles d'IA

Ollama

• Téléchargez et installez ollama depuis le site officiel
• MacOS
  • Exécutez OLLAMA_ORIGINS="*" ollama serve (permet l'accès cross-origin et démarre ollama)
• Windows
  • Dans le Panneau de configuration - Propriétés système - Variables d'environnement - Variables d'environnement utilisateur, créez une nouvelle variable nommée "OLLAMA_HOST" avec la valeur "0.0.0.0", et une variable nommée "OLLAMA_ORIGINS" avec la valeur "*"
• Allez à la page des paramètres du plugin, et sélectionnez openAI pour le service de traduction
  • api_key: ollama
  • Modèle personnalisé: llama2, autres modèles
  • URL personnalisée: http://localhost:11434/v1/chat/completions
• Documents de référence associés
  • https://github.com/ollama/ollama/issues/2335

Groq

• Allez à la page des paramètres du plugin, et sélectionnez openAI pour le service de traduction
  • api_key: Obtenez api_key
  • Modèle personnalisé: mixtral-8x7b-32768, llama2-70b-4096
  • URL personnalisée: https://api.groq.com/openai/v1/chat/completions
  • Contrôle de débit: 20/min+25/10min
  • Remarque
    • Il est recommandé de l'utiliser uniquement pour les fonctionnalités de survol de la souris et d'amélioration de l'entrée

Claude

• Déploiement de Claude vers ChatGPT en utilisant Docker/Cloudflare Claude to ChatGPT
• Allez à la page des paramètres du plugin, et sélectionnez openAI pour le service de traduction
  • api_key: Obtenez le api_key
  • Modèle personnalisé: claude-instant-1, claude-2
  • Adresse URL personnalisée: http://localhost:8000/v1/chat/completions
  • Voir Rate Limits pour les limitations de fréquence
  • Remarques
    • Soyez conscient de l'IP d'exportation
    • Il est recommandé de l'utiliser uniquement pour les fonctionnalités de survol de la souris et d'amélioration de l'entrée