• Text: Tools für local LLMs
  • LM Studio
  • Ollama auf dem WSL Ubuntu
  • Text Generation WebUI
  • AnythingLM Docker - localhost:3001 - RAG
  • Visual Studio Code Extension:
    • Continue (CoPilot der auch für lokale LLMs genutzt werden kann)
    • Github Copilot
• Agenten
  • AutoGen Studio
• Stable Diffusion
  • ComfyUI
  • Automatic1111
  • Fooocus

* Text: Tools für local LLMs

• LM Studio - ROCm Preview - GPU support via ROCm
• AnythingLM Docker - localhost:3001 - RAG
• Agenten
• AutoGen Studio → conda environment - autogenstudio
• Stable Diffusion
• ComfyUI - CPU Version, no AMD support
• Fooocus - GPU support via DirectML (langsamer als ROCm, siehe Fooocus minimal requirements