Seitenaufrufe: 108 Aufrufe
Testbericht meloki scope7-4480: Künstliche Intelligenz (KI) verändert die Geschäftswelt rasant, doch die Nutzung von Cloud-KI-Diensten bringt erhebliche Herausforderungen mit sich.
Unvorhersehbare API-Kosten bei Dauerlast, massive Risiken im Datenschutz gemäß DSGVO und die Gefahr, dass das LLM-Modell eingestellt wird, sind nur einige der Probleme, mit denen deutsche Unternehmen konfrontiert sind.
Die Lösung liegt auf der Hand: ein eigener KI-Server im Unternehmen. Lokal betrieben und mit vollständiger Kontrolle bietet er Datensouveränität aus Deutschland.
Hier kommt die meloki ins Spiel. Dieser in Deutschland entwickelte Server stellt eine DSGVO-konforme KI-Serverlösung für Unternehmen bereit, die ihre Prozesse mit KI optimieren oder automatisieren möchten.
In diesem ausführlichen Server-Review werfen wir einen genaueren Blick auf den KI-Server.
Die Informationen basieren auf dem Versionsstand vom 05.07.2026. Da der Hersteller das Produkt kontinuierlich weiterentwickelt, können sich einzelne Inhalte und Funktionen zwischenzeitlich geändert haben.
Architektur und Betriebssystem – Das meloki Admin-Pack
Das Fundament dieser On-Premise-Lösung, bildet das Betriebssystem Secudos Debian 13.
Es ist ein gehärtetes, hochstabiles Linux-System das für das Enterprise-Umfeld ausgelegt ist: Sie gewährleistet Zuverlässigkeit, Sicherheit und kompromissloser Datenschutz im 24/7-Dauerbetrieb.
Statt auf eine starre Software-Installation setzt die Meloki auf eine konsequent containerbasierte Architektur. Docker fungiert hier als zentrales Backend zur Verwaltung und Orchestrierung aller Dienste.
Dank Docker läuft jede Anwendung isoliert. Updates, Erweiterungen oder die Wartung einzelner Komponenten sind im Handumdrehen erledigt, ohne das Gesamtsystem zu beeinflussen.
Der Software-Stack
Was ist Ollama?
Ollama ist eine leistungsstarke Open-Source-Anwendung, die das lokale Ausführen großer Sprachmodelle (LLMs) wie Llama 3 oder Mistral auf eigener Hardware ermöglicht. Die Plattform zeichnet sich durch eine ressourceneffiziente Optimierung aus, wodurch anspruchsvolle KI-Modelle direkt auf lokaler CPU- oder GPU-Infrastruktur betrieben werden können.
Neben der vollständigen Gewährleistung der Datensouveränität bietet Ollama eine standardisierte API-Schnittstelle, die eine nahtlose Integration in bestehende Software-Systeme und individuelle Entwickler-Workflows erlaubt.
Was ist Open WebUI?
Open WebUI ist eine intuitive, webbasierte Open-Source-Benutzeroberfläche, die als Frontend für lokal betriebene KI-Modelle dient. Die Plattform repliziert den Bedienkomfort etablierter Cloud-Dienste (wie ChatGPT), operiert jedoch vollständig lokal und datenschutzkonform.
Neben einer responsiven Chat-Umgebung bietet Open WebUI fortgeschrittene Funktionen wie eine integrierte Dokumentenverwaltung für RAG-Systeme (Retrieval-Augmented Generation), Multi-User-Management sowie eine flexible Erweiterbarkeit, wodurch es die Brücke zwischen komplexer lokaler KI-Infrastruktur und produktiver Endanwendung schlägt.
Was ist n8n?
n8n ist eine flexible, quelloffene Plattform zur Workflow-Automatisierung, die es ermöglicht, unterschiedlichste Software-Anwendungen, Datenbanken und KI-Dienste über visuelle Knotendiagramme miteinander zu verknüpfen.
Dank nativer Integrationen für fortgeschrittene KI-Komponenten (wie LangChain, Vektordatenbanken und lokale LLMs) fungiert n8n zunehmend als zentrales Betriebssystem für KI-gestützte Geschäftsprozesse und automatisierte Agenten-Workflows auf dem eigenen Server.
Setup und Administrator-Oberfläche – meloki Admin-Pack:
Admin-Pack Installation:
Generative KI produktiv nutzen – mit voller Kontrolle in Ihrem Unternehmen
Ein lokaler KI-Server bringt leistungsfähige KI direkt in Ihre eigene Infrastruktur – für sensible Prozesse, vertrauliche Informationen und verlässliche Ergebnisse.
Mit klar planbaren Kosten und vollständiger Datenhoheit wird KI zu einem nachhaltigen Wettbewerbsvorteil in Ihrem Unternehmen.
Schaffen Sie jetzt die souveräne KI-Basis für Ihr Unternehmen
Jetzt Lokalen KI-Server anschaffen!
Das Admin-Pack Dashboard
Das Dashboard besticht durch seine schlichte und übersichtliche Gestaltung, die in vier klar abgegrenzte Sektionen unterteilt ist. Nutzer können die Oberfläche mühelos zwischen Englisch und Deutsch umstellen, was die Internationalisierung erleichtert.
In der ersten Zeile werden die technischen Spezifikationen sowie die aktuelle Auslastung der einzelnen Komponenten angezeigt. Die zweite Zeile liefert Informationen zum belegten Speicherplatz und zur Gesamtkapazität, sodass Speicherengpässe sofort erkennbar sind.
In der dritten Zeile lässt sich die Chat‑ und RAG‑Funktion aktivieren; während die vorinstallierten Standardmodelle automatisch heruntergeladen werden, ist das einpflegen von LLM Modellen wie z.b Qwen 3.5 problemlos möglich. Zusätzlich besteht die Möglichkeit, ein Backup des RAGs einzurichten und die System‑Logs einzusehen.
Abschließend ermöglicht die vierte Zeile die Anbindung von n8n, sodass Nutzer ihre Workflows automatisieren und individuelle Einstellungen vornehmen können.
Veranschaulichung Oberfläche Open WebUi auf der meloki
Zur Veranschaulichung begeben wir uns auf die Weboberfläche [Open WebUi] des Chat & Rack Moduls. Es wurde zuvor das Modell qwen 3.5:9b eingepflegt.
Beiträge die Sie interessieren könnten
Was ist RAG (Retrieval-Augmented Generation)? – KI mit dem eigenen Unternehmenswissen verbinden
Qwen3.8: Was kann das neue KI-Modell und wie schlägt es sich im Vergleich zu Qwen3.6?
Für wen ist das meloki Admin-Pack geeigent?
Das meloki Admin-Pack richtet sich an Organisationen, die beim Betrieb lokaler KI-Infrastruktur keine Kompromisse eingehen wollen. Es bietet die ideale Lösung für drei zentrale Akteure im Unternehmen:
- IT-Ops & Administratoren: Für alle, die präzise Kontrolle statt Bauchgefühl suchen. Das Pack liefert die notwendige Transparenz und Steuerbarkeit, um den Systembetrieb jederzeit im Griff zu behalten.
- Datenschutz & Compliance-Verantwortliche: Perfekt für Teams, die höchste Sicherheitsstandards fordern. Mit LAN-Only-Management, nativer SSL-Verschlüsselung und vordefinierten Backup-Policies werden regulatorische Vorgaben lückenlos erfüllt.
- Fachbereiche und Endanwender: Entwickelt für Teams, die sofort produktiv arbeiten wollen. Statt wertvolle Zeit mit dem zusammensetzen und Warten von Eigenbau-Systemen zu verlieren, erhalten Fachabteilungen eine schlüsselfertige, verlässliche Arbeitsumgebung.
Die Hardware Spezifikationen der meloki scope7-4480
Die Meloki scope7-4480 ist mit folgenden Komponenten gerüstet:
- CPU: AMD Ryzen 7 9800X (8 Kerne / 16 Threads)
- Arbeitsspeicher: 128 GB DDR5 RAM
- Grafikkarte (GPU): NVIDIA L4 Tensor Core mit 24 GB VRAM
- Speicherkapazität: 1x 1TB NVME SSD & 1x 1TB SSD 2.5″
- Stromversorgung: 2x internes Netzteil (Redudant)
Diese Systemlösung wurde speziell als kompakte 1HE-Server-Rack-Version für standardisierte 19-Zoll-Schränke konzipiert. Ein technisches Highlight ist die Integration der NVIDIA L4 Tensor Core GPU: Dank ihres Low-Profile-Formfaktors fügt sie sich perfekt in die flache Gehäusearchitektur ein.
Mit einer maximalen Leistungsaufnahme von gerade einmal 72 Watt agiert die GPU extrem stromsparend und ermöglicht eine energieeffiziente Bereitstellung von KI- und Rechenleistung auf minimalem Raum.
Hinweis zur Geräuschentwicklung: Aufgrund des flachen 1HE-Formfaktors müssen die kleinen Gehäuselüfter unter Last mit hohen Drehzahlen arbeiten, was zu einer entsprechenden Lautstärke führt. Für den Einsatz im abgeschotteten Serverraum ist dies irrelevant. Steht Ihr Rack jedoch in einer offenen Arbeitsumgebung, empfiehlt sich ein akustisch optimierter Aufstellungsort.
Benchmark – GPU NVIDIA L4 Tensor Core 24GB
Die Tabelle gibt für jedes KI‑Modell drei Kennzahlen an: Latency (s) misst die durchschnittliche Antwortzeit, P95 (s) zeigt die 95‑Prozent‑Latenz (also die Zeit, die 95 % der Anfragen nicht überschreiten), und Tokens/s gibt an, wie viele Token pro Sekunde das Modell verarbeiten kann. Diese Werte ermöglichen einen schnellen Vergleich der Geschwindigkeit und Effizienz der einzelnen Modelle.
| # | Modell | Latency (s) | P95 (s) | Tokens/s |
|---|---|---|---|---|
| 1 | ministral-3:8b | 2,68 | 4,14 | 42,91 |
| 2 | gpt-oss:20b | 3,78 | 5,64 | 54,93 |
| 3 | gemma4:26b | 6,06 | 7,87 | 65,64 |
| 4 | qwen3.5:9b | 22,84 | 46,23 | 42,10 |
| 5 | llama3.2:3b | 0,94 | 1,41 | 88,06 |
Fazit: KI Server Made in Germany – Für wen eignet sich der Server: meloki scope7-4480
Der Server eignet sich hervorragend für den Einstieg in die Künstliche Intelligenz oder für kleinere Modelle, beispielsweise zur Durchführung von Analyseaufgaben oder als Wissensdatenbank in moderatem Umfang. Für zukunftsorientierte Unternehmen, Behörden und Branchen mit strengen Datenschutzanforderungen, wie zum Beispiel dem Finanzsektor oder dem Gesundheitswesen, stellt diese On-Premise-Lösung eine optimale Wahl dar.
Modernisieren Sie Ihre IT und machen Sie Ihr Unternehmen bereit für KI
Mit individueller IT-Beratung verbinden Sie zukunftsfähige Infrastruktur, sichere KI-Integration und spürbar effizientere Arbeitsabläufe.
Starten Sie mit einem klaren Plan in eine effiziente, KI-fähige Zukunft.
Quellen: Meloki.ai – Startseite
