• Text: Tools für local LLMs
  • LM Studio
  • Ollama auf Windows und dem WSL Ubuntu
  • Text Generation WebUI
  • AnythingLM Docker - localhost:3001 - RAG
  • Visual Studio Code Extension:
    • Continue (CoPilot der auch für lokale LLMs genutzt werden kann)
    • Github Copilot
• Agenten
  • AutoGen Studio
• Stable Diffusion
  • ComfyUI
  • Automatic1111
  • Fooocus
• Audio
  • AudiCraft
    • starte Anaconda Powershell Prompt (miniconda3) → conda activate audiocraft → C:\Users\Sternenlabor\audiocraft\
      • MusicGen: python -m demos.musicgen_app –share –> http://127.0.0.1:7860/

• Host: Polaris
• IP: 192.168.201.58
• MAC: 9c:6b:00:25:9e:9d
• System: Ollama

Zugriff über: ai.sternenlabor.de

1. Cline in VsCode Installieren
2. Einstellungen:
   1. API Provider: OpenAI Compatible
   2. Base URL: https://ai.sternenlabor.de/api/v1
   3. OpenAI Compatible API Key: Key unter OpenWebUi → Einstellungen → Konto → API-Schlüssel → API-Schlüssel
   4. Model ID: gemma4:26b

Empfohlenere Coding Agent in Verbindung mit OpenWebUI

• OpenCode installieren
• Datei ~/.config/opencode/opencode.json mit folgendem Inhalt füllen (den API Key aus OpenWebUi holen - siehe Cline)

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "openwebui": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Open WebUI",
      "options": {
        "baseURL": "https://ai.sternenlabor.de/api/v1",
        "apiKey": "HIER EIGENEN API KEY EINTRAGEN"
      },
      "models": {
        "qwen3.6:27b": {
          "name": "Qwen 3.6 27B"
        },
        "gemma4:26b": {
          "name": "Gemma 4 26B"
        }
      }
    }
  }
}

• In OpenCode mitels /model ein OpenWebUi Model auswählen z.B. Gemma 4