PasLLM

LLM-inferentie-engine geschreven in pure Object Pascal: voer transformermodellen lokaal uit zonder externe afhankelijkheden, met ondersteuning voor gequantiseerde gewichten. Let op de licentie: AGPL-3.0 (sterke copyleft) — afgeleide werken en netwerkdiensten erboven moeten onder dezelfde licentie worden vrijgegeven.

Bron: github.com/BeRo1985/pasllm · Licentie: zie bron