Jeder Nutzer soll seinen eigenen Anbieter oder seine eigene lokale KI verwenden koennen. Deshalb ist der Chat auf Nutzer-eigene Tokens und lokale Modelle ausgelegt, nicht auf deinen zentralen Schluessel.
Lokale KI auf dem eigenen PC funktioniert nur direkt im Browser des Nutzers oder ueber einen eigenen erreichbaren Bridge-Endpunkt. Ein entfernter Webserver kann nicht einfach auf 127.0.0.1 des Nutzers zugreifen.