Ga naar hoofdinhoud

LLM-providers

Sinaptic® DROID+ ondersteunt standaard 7 LLM-providers — 4 in de cloud en 3 lokaal. Alle providers zijn beschikbaar in elke editie (Community, Pro, Enterprise).

Ondersteunde providers

ProviderTypeAPI-sleutel vereistStandaard base URL
OpenAICloudJahttps://api.openai.com/v1
AnthropicCloudJahttps://api.anthropic.com
Google GeminiCloudJahttps://generativelanguage.googleapis.com/v1beta
Grok (xAI)CloudJahttps://api.x.ai/v1
OllamaLokaalNeehttp://localhost:11434/v1
LM StudioLokaalNeehttp://localhost:1234/v1
llama.cppLokaalNeehttp://localhost:8080/v1

Hoe het werkt

Sinaptic® DROID+ biedt een OpenAI-compatibele API aan uw clients. Intern vertaalt het verzoeken naar het juiste formaat van de provider. Dit betekent:

  • Uw clientcode gebruikt de standaard OpenAI SDK, ongeacht welk backend-model er draait.
  • U kunt tussen providers schakelen door een YAML-configuratie te wijzigen — er zijn geen codewijzigingen nodig.
  • Verschillende agenten kunnen tegelijkertijd verschillende providers gebruiken.
Client (OpenAI SDK) → DROID+ API → [OpenAI | Anthropic | Gemini | Grok | Ollama | ...]

Configuratie

Stel de primaire provider in droid.yaml:

llm:
provider: "openai" # Standaard provider
api_key: "${OPENAI_API_KEY}"
default_model: "gpt-4o-mini"

Configureer daarnaast extra providers:

anthropic:
api_key: "${ANTHROPIC_API_KEY}"

gemini:
api_key: "${GEMINI_API_KEY}"

ollama:
base_url: "http://localhost:11434/v1"

Modelselectie per agent

Elke agent kan elke geconfigureerde provider en elk model gebruiken:

# Agent die OpenAI gebruikt
name: "fast-agent"
model:
name: "gpt-4o-mini"

# Agent die Anthropic gebruikt
name: "smart-agent"
model:
provider: "anthropic"
name: "claude-sonnet-4-20250514"

# Agent die lokaal Ollama gebruikt
name: "private-agent"
model:
provider: "ollama"
name: "llama3.2"

Alle drie de agenten draaien in dezelfde Sinaptic® DROID+-instantie en zijn toegankelijk via hetzelfde API-eindpunt.

Een provider kiezen

ToepassingAanbevolen
Snel aan de slagOpenAI (gpt-4o-mini)
Beste kwaliteit van redenerenAnthropic (claude-sonnet-4-20250514) of OpenAI (gpt-4o)
Gratis cloud-APIGoogle Gemini (gemini-2.0-flash)
Volledige privacy (geen cloud)Ollama met llama3.2
Desktop-GUI voor lokale modellenLM Studio
Lokale inferentie met minimale overheadllama.cpp