1 hour ago · Tech · 0 Kommentare

Bereits vor einem Jahr habe ich mir einen eigenen KI-Server aufgesetzt und die Anleitung dazu geteilt. Ich nutzte dazu Ollama und OpenWebUI als Open-Source-„Hülle“, über die ich Schnittstellen zu KI-Sprachmodellen herstellen konnte. Das hat für mich im Hinblick auf eine digital-mündige KI-Nutzung zwei entscheidende Vorteile: Ich konnte und kann mir diese Umgebung so einrichten, wie ich das möchte. Welche Temperatur soll das KI-Sprachmodell in einer Interaktion nutzen? Welche spezifischen Anweisungen sollen berücksichtigt werden? Welche Dateien will ich als Basis einspeisen und darauf Bezug nehmen? Anders als bei einer Nutzung von Plattformen wie ChatGPT oder Claude sind all diese Dinge auf meinem eigenen Server gespeichert. Ich konnte und kann Open-Source-Modellen wie Mistral den Vorzug gegenüber proprietären Modellen geben. In der Praxis bedeutet das, dass ich für den überwiegenden Teil meiner KI-Chats das lokal auf meinem Server installierte Mistral nutzte. Erst wenn ich merkte,…

Noch keine Kommentare. Anmelden um im Fediverse zu antworten. Kommentare erscheinen hier.