playground:howto:ki-tools
Dies ist eine alte Version des Dokuments!
Inhaltsverzeichnis
KI Tools im Sternenlabor
KI Laptop - NVIDIA GPU
Windows
- Text: Tools für local LLMs
- Ollama auf Windows und dem WSL Ubuntu
- AnythingLM Docker - localhost:3001 - RAG
- Visual Studio Code Extension:
- Continue (CoPilot der auch für lokale LLMs genutzt werden kann)
- Agenten
- Stable Diffusion
- Audio
-
- starte Anaconda Powershell Prompt (miniconda3) → conda activate audiocraft → C:\Users\Sternenlabor\audiocraft\
- MusicGen: python -m demos.musicgen_app –share –> http://127.0.0.1:7860/
-
KI - Rechner Polaris
- Host: Polaris
- IP: 192.168.201.58
- MAC: 9c:6b:00:25:9e:9d
- System: Ollama
Zugriff über: ai.sternenlabor.de
Cline
- Cline in VsCode Installieren
- Einstellungen:
- API Provider: OpenAI Compatible
- Base URL: https://ai.sternenlabor.de/api/v1
- OpenAI Compatible API Key: Key unter OpenWebUi → Einstellungen → Konto → API-Schlüssel → API-Schlüssel
- Model ID: gemma4:26b
Opencode
- OpenCode installieren
- Datei ./config/opencode/opencode.json mit folgendem Inhalt füllen (den API Key aus OpenWebUi holen - siehe Cline)
{
"$schema": "https://opencode.ai/config.json",
"provider": {
"openwebui": {
"npm": "@ai-sdk/openai-compatible",
"name": "Open WebUI",
"options": {
"baseURL": "https://ai.sternenlabor.de/api/v1",
"apiKey": "HIER EIGENEN API KEY EINTRAGEN"
},
"models": {
"qwen3.5:27b": {
"name": "Qwen 3.5 27B"
},
"gemma4:26b": {
"name": "Gemma 4 26B"
}
}
}
}
}
- In OpenCode mitels /model ein OpenWebUi Model auswählen z.B. Gemma 4
playground/howto/ki-tools.1778867660.txt.gz · Zuletzt geändert: von Holger Weber
