• Text: Tools für local LLMs
  • LM Studio
  • Ollama auf dem WSL Ubuntu
  • Text Generation WebUI
  • AnythingLM Docker - localhost:3001 - RAG
  • Visual Studio Code Extension:
    • Continue (CoPilot der auch für lokale LLMs genutzt werden kann)
    • Github Copilot
• Agenten
  • AutoGen Studio
• Stable Diffusion
  • ComfyUI
  • Automatic1111
  • Fooocus

* Text: Tools für local LLMs

• LM Studio - ROCm Preview - GPU support via ROCm
• AnythingLM für RAG Test Docker - localhost:3001
• Agenten
• AutoGen Studio → starte:Anaconda Powershell Prompt (miniconda3) → conda activate autogenstudio → autogenstudio ui → http://localhost:8081/
• CrewAI → starte:Anaconda Powershell Prompt (miniconda3) → conda activate crewai
• Stable Diffusion
• ComfyUI - GPU support via DirectML → starte:Anaconda Powershell Prompt (miniconda3) → conda activate comfyui → C:\Users\Sternenlabor\comfyui\ –> python main.py –directml
• Fooocus - GPU support via DirectML → starte:Anaconda Powershell Prompt (miniconda3) → conda activate fooocus → C:\Users\Sternenlabor\fooocus\ –> python -s entry_with_update.py –directml