AI, die bei dir im Haus läuft.Wir bauen die Hardware, richten sie ein und halten sie am Laufen.

Lokale AI heißt: Die Modelle laufen auf Hardware, die dir gehört – ein Gerät auf dem Tisch oder ein GPU-Rack im Serverraum. Eingaben und Dokumente verlassen das Unternehmen nicht. Wir legen das System für deine Last aus, bauen und installieren es, verbinden es mit deinen Daten und kümmern uns danach darum.

  • Eingaben und Dokumente bleiben im Haus
  • NVIDIA-Hardware, passend zu deiner Last
  • Aufbau, Installation und Pflege aus einer Hand
  • Offene Modelle, keine Bindung an einen Anbieter

Beschreib dein Vorhaben

Sag uns, was die AI tun soll und wie viele sie nutzen werden – oder schick die Konfiguration aus dem Konfigurator. Du bekommst innerhalb eines Werktags eine schriftliche Antwort.

Wir nutzen deine Angaben nur zur Beantwortung dieser Anfrage. Kein Newsletter, keine Weitergabe. Es gilt unsere Datenschutzerklärung.

Bei dir im Haus
Wo die Modelle laufen
Tischgerät bis GPU-Rack
NVIDIA DGX Spark, RTX-PRO-Karten
Aufbau und Pflege
Auslegung, Installation, Updates
Offene Modelle
Austauschbar, ohne Anbieterbindung

Konfigurator

Stell deine lokale AI zusammen.Vom Tischgerät bis zum GPU-Rack.

Fünf Fragen, dann siehst du einen Referenzaufbau. Er ist ein Startpunkt, kein Angebot: Die endgültige Auslegung folgt aus einem Workshop mit deiner echten Last.

01 · Was soll sie tun?
02 · Wie viele nutzen sie gleichzeitig?
03 · Modellklasse

Mittelgroße offene Modelle: Assistenten, Dokumentsuche, Agents.

04 · Wo steht sie?
05 · Rund um die Hardware
Service von uns
Auslegung, Aufbau und Installation· immer dabei

Referenzaufbau

GPU-Server mit 4 × RTX PRO 6000 Blackwell

AI-Speicher
384 GB (4 × 96 GB)
Bauform
19-Zoll-Rack
Strombedarf
1200 W für die Grafikkarten
Läuft darauf
Mittelgroße offene Modelle: Assistenten, Dokumentsuche, Agents.

Startpunkt, kein Angebot. Preise stehen hier bewusst nicht: Umfang und Preis bekommst du schriftlich, bevor etwas bestellt wird.

Kommt dir bekannt vor?

Die nützlichsten Fälle sind die, die du nicht herausgeben darfst.

Verträge, Kundenakten, Konstruktionsdaten, interne Zahlen. Die Daten, bei denen AI am meisten helfen würde, sollen gerade nicht zu einem fremden Dienst. Dafür ist lokale AI da:

Daten, die im Unternehmen bleiben müssen

Vertraulichkeitsvereinbarungen, Berufsgeheimnis, Betriebsrat, Vorgaben von Auftraggebern. Ein öffentlicher AI-Dienst kommt nicht in Frage, also startet das Projekt nie.

Kosten, die mit jedem Nutzer wachsen

Jeder Platz und jede Anfrage wird abgerechnet. Mit eigener Hardware gehört dir die Kapazität, egal ob zehn oder hundert Leute sie nutzen.

Niemand, der es baut und betreibt

Einen GPU-Server zu kaufen ist der leichte Teil. Modelle auswählen, für ein ganzes Team bereitstellen, Daten anbinden und alles aktuell halten ist die Arbeit.

Abhängigkeit von einem Anbieter

Modelle ändern sich, Preise ändern sich, Bedingungen ändern sich. Mit offenen Modellen auf eigener Hardware entscheidest du, wann etwas ersetzt wird.

Was wir tun

Von der Auslegung bis zum System, das jeden Tag läuft.

Ein Team für Hardware, Software und Betrieb. Sechs Teile der Arbeit:

Auslegung

Wir gehen von der Last aus: was die AI tun soll, wie viele sie gleichzeitig nutzen, welche Modelle das braucht. Daraus folgt die Hardware – nicht umgekehrt.

Hardware und Aufbau

NVIDIA DGX Spark für den Tisch oder ein kleines Team, GPU-Server mit RTX-PRO-Karten im 19-Zoll-Rack für mehr. Wir bauen das System zusammen, samt Netzwerk, Speicher und Notstrom, wo es nötig ist.

Modelle und Laufzeit

Offene Modelle, passend zur Aufgabe, so bereitgestellt, dass ein ganzes Team sie gleichzeitig nutzen kann. Mehrere Modelle nebeneinander: eines für den Chat, eines für Dokumente, eines für Sprache.

Deine Daten, angebunden

Suche über interne Dokumente, Zugriff auf die Systeme, in denen dein Team arbeitet, und Agents mit festen Werkzeugen – damit die AI mit deinem Wissen arbeitet, nicht nur mit Allgemeinwissen.

Zugriff und Sicherheit

Wer welches Modell und welche Daten nutzen darf, Anmeldung über eure vorhandenen Konten, ein Protokoll der Nutzung. Das System steht in deinem Netz, hinter deiner Firewall.

Pflege und Monitoring

Updates für System und Modelle, Überwachung von Last, Temperatur und Ausfällen und ein Ansprechpartner, der deinen Aufbau kennt. Oder die Übergabe an deine IT, mit Dokumentation.

So läuft es ab

Vom ersten Gespräch bis zur AI im Alltag.

Fünf Schritte. Jeder endet mit etwas, das du prüfen kannst, bevor der nächste beginnt.

  1. Schritt 01

    Workshop zur Last

    Wir gehen die Anwendungsfälle mit den Leuten durch, die das System nutzen werden, und mit deiner IT. Du bekommst eine schriftliche Auslegung: Hardware, Modelle, Standort, Strom und Netzwerk.

  2. Schritt 02

    Angebot

    Umfang und Preis schriftlich, Hardware und Service aufgeführt, bevor etwas bestellt wird.

  3. Schritt 03

    Aufbau und Test

    Wir bauen das System zusammen, installieren Laufzeit und Modelle und testen sie an Fällen aus deinem Alltag.

  4. Schritt 04

    Installation vor Ort

    Das System kommt in dein Büro oder deinen Serverraum, in dein Netz und hinter deine Anmeldung. Dein Team bekommt eine Einweisung.

  5. Schritt 05

    Pflege

    Updates, Monitoring und neue Modelle, sobald es sie gibt – oder eine dokumentierte Übergabe an deine IT.

Hintergrund

AI, die wir selbst bauen und betreiben.

Lokale AI ist der jüngste Teil unserer Arbeit. Dahinter steht AI-Software, die wir selbst entwickeln und jeden Tag betreiben.

Alle Case Studies
Index AI – Case Study

Shopify-App

Index AI

Index AI: unsere Shopify-App für AI-Shopping. Sie bereitet Produktdaten für AI-Assistenten auf und misst, ob sie den Shop nennen.

Typ
Shopify-App
Assistants
3 measured
Starter
Free
Case Study
Section Store – Case Study

Shopify-App

Section Store

Section Store: unsere Shopify-App für Theme-Sections. Über ihren AI-Connector arbeiten AI-Assistenten mit festen Werkzeugen in der App.

Typ
Shopify-App
Install
One click
Free
14 sections
Case Study

Zusammenarbeit

Richtig auslegen. Dann einmal bauen.

Zu kleine Hardware enttäuscht, zu große steht herum. Deshalb ist der erste Schritt immer die Last. Umfang und Preis stehen schriftlich fest, bevor etwas bestellt wird.

Zum Einstieg

Workshop zur Last

Anwendungsfälle, Nutzer und Daten, übersetzt in eine schriftliche Auslegung.

  • Hardware, Modelle und Standort auf Papier
  • Strom, Kühlung und Netzwerk geprüft
  • Ehrliche Antwort, wenn Cloud besser passt

Das System

Aufbau und Installation

Das System zusammengebaut, getestet und in deinem Netz installiert.

  • DGX Spark oder GPU-Server im Rack
  • Modelle und Laufzeit für ein ganzes Team
  • Angebunden an deine Daten und Anmeldung

Danach

Pflege

Wir halten das System aktuell und behalten es im Blick.

  • Updates für System und Modelle
  • Monitoring mit Alarmen
  • Oder dokumentierte Übergabe an deine IT

Worauf du dich verlassen kannst

  • Umfang und Preis schriftlich, bevor etwas bestellt wird
  • Auslegung aus deiner Last, nicht aus dem Katalog
  • Offene Modelle, die sich später ersetzen lassen
  • Schriftlich festgehalten, auf welche Daten das System zugreift
  • Dokumentation, mit der deine IT arbeiten kann
  • Eine klare Ansage, wenn ein Cloud-Modell die Aufgabe besser löst

FAQ

Fragen, die Unternehmen stellen, bevor sie AI ins Haus holen.

Was heißt lokale AI?
Das AI-Modell läuft auf Hardware in deinem Unternehmen statt bei einem fremden Dienst. Eingaben, Dokumente und Ergebnisse bleiben in deinem Netz. Dein Team nutzt sie im Browser, ähnlich wie einen öffentlichen AI-Assistenten.
Welche Hardware nutzt ihr?
NVIDIA. Für den Tisch oder ein kleines Team den DGX Spark, ein kompaktes Gerät mit 128 GB Speicher, den sich Prozessor und Grafikchip teilen; zwei davon lassen sich koppeln. Für mehr Nutzer oder größere Modelle GPU-Server im 19-Zoll-Rack mit RTX PRO 6000 Blackwell, je Karte 96 GB Speicher. Was passt, folgt aus deiner Last.
Sind lokale Modelle so gut wie die großen Cloud-Modelle?
Nicht in jedem Fall. Offene Modelle sind für Assistenten, Dokumentsuche, Auslesen und viele Agent-Aufgaben sehr leistungsfähig geworden, bei den schwierigsten Aufgaben liegen die größten Cloud-Modelle aber noch vorn. Wir testen deine Fälle vor dem Kauf und sagen es, wenn ein Cloud-Modell die bessere Wahl ist.
Brauchen wir einen Serverraum?
Für die kleinen Aufbauten nicht. Ein DGX Spark steht auf dem Tisch und läuft an einer normalen Steckdose. GPU-Server gehören in ein Rack mit passender Stromversorgung und Kühlung; beides prüfen wir im Workshop.
Was kostet das?
Das hängt von der Hardware ab und davon, wie viel Betrieb wir übernehmen. Nach dem Workshop bekommst du ein schriftliches Angebot, in dem Hardware und Service aufgeführt sind, bevor etwas bestellt wird. Der Konfigurator auf dieser Seite zeigt einen Referenzaufbau, keinen Preis.
Wer kümmert sich danach um das System?
Wir, wenn du das möchtest: Updates, Monitoring und neue Modelle. Oder deine IT übernimmt mit unserer Dokumentation. Beides geht, und du kannst später wechseln.
Kann die AI mit unseren Dokumenten und Systemen arbeiten?
Ja. Die Suche über interne Dokumente und der Zugriff auf eure Systeme über feste Werkzeuge gehören zum Aufbau. Auf welche Daten das System zugreift, legen wir mit dir fest und halten es schriftlich fest.
Ist das DSGVO-konform?
Wenn die Modelle im Haus laufen, entfällt die Übermittlung an einen fremden AI-Dienst – in vielen Projekten der größte Punkt. Was trotzdem zu klären ist – Zwecke, Zugriffe, Aufbewahrung –, gehen wir mit dir und deinem Datenschutzbeauftragten durch.

Welche Daten würdest du nie an eine Cloud-AI schicken?

Genau dort beginnt lokale AI meistens. Erzähl uns davon, und wir melden uns mit einem Termin fürs Erstgespräch und einer ersten Einschätzung zur richtigen Größe – unverbindlich.