Ausgangssituation
Ziel des Projekts war die Evaluierung und lokale Installation von KI-Systemen, die vergleichbare Funktionen wie ChatGPT 3.5 bieten. Im Fokus stand dabei das Open-Source-Paket „Alpaca“, ergänzt durch weitere lokal betreibbare Modelle. Die Analyse umfasste Vor- und Nachteile solcher On-Premise-Lösungen – etwa hohe Datensicherheit versus hoher Ressourcenbedarf – sowie die technischen Voraussetzungen wie Rechenleistung und Speicher.
Geplant wurde eine Testinstallation des Projekts „Dalai“ (https://github.com/cocktailpeanut/dalai), das den lokalen Einsatz von LLMs wie Alpaca oder LLaMA ermöglicht. Die Ergebnisse wurden in einer Abschlusspräsentation vorgestellt – inklusive eines Praxisbeispiels, bei dem KI öffentlich verfügbare Daten, etwa aus dem Statistischen Jahrbuch, analysiert.
wie ChatGPT 3.5.
Projektziel
Ziel war die Entwicklung eines Konzepts für die Installation und Nutzung lokaler KI-Systeme. Dazu gehörten eine Marktanalyse, die technische Voraussetzungen und Funktionen testen mit anschließender Präsentation der Ergebnisse.
Teilziele
- Marktanalyse verfügbarer Open-Source-KI-Systeme
- Bewertung von Vor- und Nachteilen lokal installierter KI
- Ermittlung technischer Anforderungen (Hardware, Infrastruktur)
- Durchführung von Funktionstests und Erstellung von Installationsanleitungen
- Entwicklung von 2–3 umsetzbaren Konzeptvarianten
Projektphasen
Im Projekt wurde ein strukturierter Projektplan erstellt, geeignete KI-Systeme evaluiert und die technischen Voraussetzungen bei der Kärntner Landesregierung geprüft. Nach Funktionstests und der Analyse von Einsatzmöglichkeiten für Machine Learning wurden Vor- und Nachteile der Systeme gegenübergestellt. Abschließend präsentierte das Team zwei bis drei umsetzbare Konzeptvorschläge.
Ergebnisse
- Vergleichsanalyse mehrerer lokaler KI-Systeme
- Konkrete Empfehlungen zur technischen Umsetzung im Behördenumfeld
- Beispielhafte Anwendung auf Landesdaten zur Demonstration des Nutzens
- Entwicklung erster Konzepte zur digitalen Datenanalyse mit KI in der öffentlichen Verwaltung