Clients für Ollama
Bei der Auswahl der Clients habe ich darauf geachtet, dass sie möglichst problemlos zu installieren sind. Einfache Computerkenntnisse sollten ausreichen, um damit zurechtzukommen. Die Clients sollen keine zusätzlichen Anwendungen erfordern, die vorher installiert werden müssen. Die Applikationen sollen sofort gestartet werden und müssen nicht vorrangig kompiliert werden.
Unter allen Clients sind aktuell nur drei übriggeblieben, die alle Anforderungen erfüllen und die ich mit gutem Gewissen weiterempfehlen kann. Alle anderen erwarten zum Teil eine ausgewachsene Entwicklungsumgebung plus die nötigen Kenntnisse. Andere wiederum funktionieren schlicht und einfach nicht.
Wer tiefergehende Kenntnisse hat und sich etwas mit Programmierung auskennt, kann sich auf den Seiten von Ollama umsehen. Einfach bis Web & Desktop herunterscrollen.
Hollama
Die Entwickler definieren ihre Lösung als Eine minimale Web-Benutzeroberfläche für die Kommunikation mit Ollama-Servern. Hollama ist unkompliziert und einfach zu bedienen. Die Verbindung zum Ollama-Server ist in weniger als 60 Sekunden konfiguriert, dann könnt ihr auch sofort loslegen.
Hollama bietet ein kleines Archiv (Wissen). Dort könnt ihr Antworten der KI oder nützliche Notizen hinterlegen. Das grafische Design ist ansprechend und die Bedienung intuitiv. Hier die wichtigsten Features:
- Geeignet für lokale und entfernte (remote) Ollama-Server
- Unterstützt Ollama- und OpenAI-Modelle
- Unterstützt mehrere Sprachen, darunter auch Deutsch
- Ist für Linux, Windows und macOS verfügbar
- Neben LLMs werden auch LRMs unterstützt
- Zuverlässig und unkompliziert
- Kostenlos unter der MIT Lizenz
Auf den Seiten von Hollama findet ihr weitere informationen. Dort könnt ihr die Anwendung auch herunterladen.
Simple Chatbot
Eine minimalistische Lösung auf die Schnelle. Die grafische Oberfläche besteht nur aus einer einzigen HTML-Datei. Die Datei könnt ihr vom Internet herunterladen und auf eurem Rechner speichern. Laut Anleitung könnt ihr die Datei vom Dateisystem im Browser öffnen. Das hat bei mir nicht funktioniert. Erst als ich die Datei auf meinem lokalen HTTP-Server installiert hatte, hat es mit der Verbindung zu Ollama geklappt. Ich vermute, das Problem hängt mit den Sicherheitseinstellungen vom Browser zusammen. Ich habe Ollama auf einem Remote-Server installiert. Wenn ihr Ollama auf dem selben Rechner installiert habt, wird es vermutlich auch ohne HTTP-Server funktionieren.
Es gibt ein paar Dinge zu beachten:
- Es wird ein Stylesheet vom Internet geladen. Alternativ könnt ihr die Datei auch herunterladen, lokal speichern und in die Seite einbinden.
- Wenn ihr Remote auf Ollama zugreifen wollt (also nicht localhost), müsst ihr den Wert der Variable OLLAMA_API_URL anpassen.
OllamaChat
Dieser Client ist wie Simple Chatbot aufgebaut. Auch OllamaChat besteht aus nur einer HTML-Datei und ein paar wenigen Hilfsdateien. Ihr benötigt ebenfalls einen lokalen HTTP-Server, um die Seite erfolgreich zu laden. Die Konfiguration ist denkbar einfach:
- Es werden Hilfsdateien vom Internet geladen. Alternativ könnt ihr die Dateien auch herunterladen, lokal speichern und in die Seite einbinden.
- Der Zugriff auf einen Remote-Server ist möglich, wenn ihr in der Javascript-Datei den Wert localhost durch die IP-Adresse oder den Namen eures Ollama-Servers ersetzt.