Seit 2006 Aktiv in der Softwareentwicklung
100 % Hosting in Deutschland
NRW+ Kunden in NRW und bundesweit
Langfristig Partnerschaften statt Projektgeschäft

Keine Cloud. Ihre eigene KI auf Ihren Servern.

Öffentliche KI-Dienste wie ChatGPT senden jede Eingabe an Server in den USA – unter unklaren Datenschutzbedingungen und mit dem Risiko, dass Ihre Daten für das Training fremder Modelle verwendet werden. Ein Self-Hosted Firmen-Chatbot arbeitet ausschließlich innerhalb Ihres eigenen Sicherheitsperimeters: Ihre Unternehmensdaten verlassen niemals das Haus.

Durch RAG (Retrieval Augmented Generation) wird Ihr Chatbot mit Firmenwissen aus Wikis, Dokumenten und Datenbanken verknüpft. So beantwortet er Fragen präzise und mit Quellenangabe – ohne teures Nachtrainieren des Modells. Wir planen, installieren und betreiben diese Systeme – von der Modellauswahl bis zum laufenden Betrieb. Wie schnell das auf eigener Hardware läuft, haben wir gemessen: bis zu 77 Token pro Sekunde auf einer einzelnen Grafikkarte – Aufbau und alle Werte im KI-Benchmark. Warum Firmenwissen dafür nicht ins Modell trainiert werden muss, erklärt unser Beitrag zu RAG-Systemen.

Datenhoheit

Ihre Daten bleiben auf Ihren Servern. Kein Transfer in US-Clouds.

DSGVO-konform

Betrieb ausschließlich in Deutschland oder auf Ihrer eigenen Infrastruktur.

Anpassbar

Modell, Oberfläche und Datenquellen nach Ihren Anforderungen konfiguriert.

Kostenkontrolle

Keine variablen API-Kosten je Anfrage. Planbare Betriebskosten.

Für wen das relevant ist

Self-Hosted KI ist sinnvoll, wenn Datenschutz, Kontrolle oder individuelle Anpassung entscheidend sind.

KMU & Mittelstand

Unternehmen mit sensiblen Kundendaten, Betriebsgeheimnissen oder hohem Datenschutzbewusstsein.

Kanzleien & Praxen

Besonders schützenswerte Mandanten- oder Patientendaten erfordern maximale Kontrolle über KI-Systeme.

Verbände & Kirchen

Organisationen mit eigenen IT-Infrastrukturen und dem Wunsch nach Unabhängigkeit von Tech-Konzernen.

Softwarefirmen

Entwicklungsteams, die KI-Funktionalität in eigene Produkte integrieren wollen – ohne externe Abhängigkeit.

Agenturen

Kreative und digitale Agenturen, die KI-gestützte Workflows intern oder für Kunden aufbauen wollen.

Self-Hosting affin

Organisationen, die bereits eigene Server betreiben und KI als natürliche Erweiterung ihrer Infrastruktur sehen.

So funktioniert Ihr Firmen-Chatbot

RAG (Retrieval Augmented Generation) verbindet ein Sprachmodell mit Ihrem Firmenwissen – ohne dass das Modell selbst trainiert werden muss.

Mitarbeiter stellt Frage per Chat-Interface
Frage stellen
Mitarbeiter stellen Fragen in natürlicher Sprache – wie bei ChatGPT.
Vektordatenbank durchsucht Dokumente, Wikis und PDFs
Dokumente finden
Die Vektordatenbank durchsucht Wikis, PDFs und CRM-Einträge nach relevanten Inhalten.
Self-Hosted LLM generiert Antwort auf Basis der gefundenen Dokumente
Antwort generieren
Das Self-Hosted LLM (Llama, Mistral, Phi) formuliert die Antwort.
Präzise Antwort mit Quellenangabe, alle Daten bleiben auf eigenen Servern
Präzise Antwort
Ergebnis mit Quellenangabe – alle Daten bleiben auf Ihren Servern.
Firmen-Wiki durchsuchen

Mitarbeiter fragen in natürlicher Sprache – der Chatbot durchsucht fragmentierte Datensilos, Intranet-Seiten und PDFs und liefert sofort die richtige Antwort mit Quellenangabe.

Sicherer Support-Bot

Automatische Beantwortung und Klassifizierung von Kundenanfragen oder IT-Tickets. Da die KI lokal läuft, können bedenkenlos sensible Kundendaten verarbeitet werden.

Interner Assistent

Von HR-Richtlinien über Projektdaten bis zu Verträgen: Der KI-Assistent beantwortet Mitarbeiterfragen sekundenschnell und reduziert interne Rückfragen spürbar.

Open-Source-Modelle – ohne Lizenzkosten

Aktuelle Open-Source-Modelle liegen qualitativ nah an kommerziellen Cloud-Modellen. Sie laufen lokal auf Ihrer Hardware – ohne laufende Lizenzgebühren.

Llama (Meta)

Branchenstandard im Open-Source-Ökosystem. Llama 3.3 erreicht Cloud-KI-Niveau, kleinere Versionen laufen auf Standard-Hardware.

Mistral (EU)

Europäisches Modell mit guten Ergebnissen für europäische Sprachen. Apache-2.0-Lizenz ohne kommerzielle Einschränkungen.

Phi (Microsoft)

Kompakte Modelle mit niedrigem Ressourcenbedarf. Für Szenarien mit begrenzter Hardware geeignet, MIT-Lizenz.

Qwen & weitere

Multilinguale Modelle und spezialisierte Varianten für Softwareentwicklung, Analyse und mehr.

In 8 Minuten erklärt

Wie funktioniert ein Firmen-Chatbot mit Self-Hosted KI? Dieses Video zeigt die wichtigsten Konzepte – verständlich und auf den Punkt. Dauer: , Transkript direkt unter dem Video.

Transkript des Videos lesen (7:59 Minuten)

Künstliche Intelligenz. Sie spüren es sicher auch: auf der einen Seite dieser enorme Druck, innovativ zu sein und mitzuhalten, und auf der anderen Seite die berechtigte Sorge um Ihre wertvollsten Firmendaten. Wie also die Chancen von KI nutzen, ohne die Sicherheit aufs Spiel zu setzen? Genau darum geht es heute. Wir schauen uns eine Technologie an, die genau das verspricht: Fortschritt und Sicherheit Hand in Hand.

Und damit sind wir auch schon bei der Kernfrage, die wohl jedem Geschäftsführer und IT-Leiter gerade im Kopf herumgeht: Wie kriegen wir diese unglaubliche Power von KI in unser Unternehmen, ohne unsere Kronjuwelen, also unsere Daten, zu riskieren? Genau das ist die Frage, die wir bei DasDomainDepot.de jeden Tag in unseren Beratungsgesprächen hören und die wir jetzt mal klären.

Tauchen wir direkt ein in dieses Dilemma, das viele Unternehmen im Moment fast lähmt. Es ist eine echte Zwickmühle. Das Marketing will endlich loslegen, der Vertrieb will schnellere Analysen, aber die IT-Leitung schlägt die Hände über dem Kopf zusammen und warnt vor den rechtlichen Risiken und dem totalen Kontrollverlust. Falls Ihnen das bekannt vorkommt: Sie sind absolut nicht allein. Diese Zahl hier, 68 %, spricht Bände. Mehr als zwei Drittel aller deutschen Firmen zögern, weil sie sich Sorgen um den Datenschutz machen. Und das ist keine übertriebene Angst, das ist eine knallharte und absolut vernünftige unternehmerische Abwägung.

Diese Zahl hier macht das Risiko greifbar: 4 %. Das klingt vielleicht erst mal nicht nach viel, aber das ist die mögliche Höhe eines DSGVO-Bußgeldes, berechnet auf Ihren weltweiten Jahresumsatz. Aber mal ehrlich, es geht ja nicht nur um die Strafen. Der Vertrauensverlust bei Ihren Kunden und Partnern wiegt oft noch viel schwerer.

Was sind denn die konkreten Gefahren? Bei Standard-KI-Lösungen aus der Cloud schicken Sie Ihre Daten quasi auf eine Reise ohne Wiederkehr, oft direkt auf Server in den USA. Damit geben Sie die Kontrolle ab. Sie verlieren Ihre Datensouveränität, Sie begeben sich in eine rechtliche Grauzone und machen sich komplett abhängig. Genau das sind die Risiken, die wir bei DasDomainDepot.de in unseren Sicherheitskonzepten von Anfang an ausschließen.

Wie sieht die Alternative aus? Lassen Sie uns das direkt vergleichen. Stellen Sie sich das bildlich vor: Links die Standard-Cloud. Da schicken Sie Ihre Daten in ein anonymes Schließfach in einem anderen Land. Rechts die private Lösung. Da bleiben Ihre Daten im Tresor in Ihrem eigenen Haus. Der Unterschied könnte größer nicht sein: volle Kontrolle und eingebaute DSGVO-Konformität auf der einen Seite, Unsicherheit und Abhängigkeit auf der anderen. Dieser Satz aus unserer langjährigen Erfahrung bringt es auf den Punkt: Die Wahl des Serverstandorts ist keine technische Kleinigkeit, sondern die strategische Kernentscheidung für Ihre Datensicherheit und Ihre rechtliche Absicherung.

Gibt es also eine Technologie, die beides kann – die ganze Leistungsfähigkeit von KI nutzen und gleichzeitig die volle Kontrolle über die eigenen Daten behalten? Ja, die gibt es, und die Antwort heißt RAG. Das ist sozusagen die Brücke zwischen moderner KI und den strengen Sicherheitsanforderungen des deutschen Mittelstands.

Was genau ist RAG? Stellen Sie sich das am besten wie einen hochintelligenten Assistenten vor, der eine ganz klare Einweisung hat: Er darf ausschließlich in den Dokumenten Ihrer eigenen, privaten Firmenbibliothek nachschlagen. Die KI wird also sicher mit Ihrer Wissensdatenbank verbunden und antwortet präzise, aber eben nur mit dem Wissen, das Sie ihr geben. Was heißt das für Sie? Ganz einfach: Ihre Daten werden nicht zum Training genutzt. Ihre Daten bleiben Ihre Daten. Punkt.

Der Prozess dahinter ist ziemlich elegant und vor allem sicher. Zuerst werden Ihre Dokumente aufbereitet. Wenn ein Mitarbeiter eine Frage stellt, findet das System die genau passende Stelle. Und exakt dieser relevante Ausschnitt, wirklich nur der, wird der KI als Kontext gegeben. Basierend darauf formuliert das Modell eine exakte Antwort. Das Ergebnis: präzise, vertrauenswürdige Information, auf die sich Ihre Leute verlassen können.

Die Vorteile sind die direkten Antworten auf die Sorgen vom Anfang. Erinnern Sie sich an die 4 % DSGVO-Bußgeld? Mit einer RAG-Lösung können Sie an das Thema einen Haken machen. Sie sichern sich Ihre Souveränität, bekommen die Kosten unter Kontrolle und erhalten ein Werkzeug, das Ihre Fachsprache und Ihre Prozesse versteht.

So viel zur Theorie. Was bedeutet das für Sie und Ihre Mitarbeiter im ganz normalen Arbeitsalltag? Stellen Sie sich vor, ein neuer Mitarbeiter fängt an. Anstatt wochenlang Kollegen zu fragen, nutzt er einfach den internen Chatbot und ist innerhalb von Tagen voll einsatzbereit. Oder denken Sie an Ihren internen Support: Ein Bot beantwortet rund um die Uhr die immer gleichen Fragen und schafft so wertvolle Zeit in der IT und der Personalabteilung für die wirklich wichtigen Aufgaben. Das sind reale, messbare Effizienzgewinne.

Aber – und das ist ein ganz wichtiges und ehrliches Aber – so eine leistungsstarke Lösung ist kein Produkt von der Stange. Der Weg dorthin erfordert Expertise. Die Herausforderungen sind real: Die eigenen Daten müssen erst einmal für eine KI verständlich gemacht werden. Welches Sprachmodell passt am besten zu uns? Wie stellt man einen sicheren und stabilen Betrieb sicher? Und wie integriert man das Ganze reibungslos? Diese Fragen muss man nicht alleine beantworten. Hier ist ein erfahrener Partner an Ihrer Seite Gold wert.

Man braucht einen Partner, der nicht nur die Technologie versteht, sondern auch die speziellen Anforderungen des deutschen Mittelstands kennt und lebt – so wie wir bei DasDomainDepot.de. Wir nehmen genau die Herausforderungen, die wir gerade besprochen haben, und machen daraus Ihre fertige Lösung: von der ersten Analyse über die Umsetzung bis zum sicheren Hosting auf deutschen Servern. Wir verstehen uns dabei nicht als einmaliger Dienstleister, sondern als Teil Ihres Teams, als Ihr langfristiger Partner auf dem Weg in die digitale Zukunft.

Es geht darum, eine hochkomplexe Technologie zu nehmen und sie so zu verpacken, dass sie für den Mittelstand zu einem echten, sicheren und vor allem wirklich nutzbaren Werkzeug wird. Mit dem richtigen technologischen Ansatz und einem erfahrenen Partner wird aus der anfänglichen KI-Falle eine riesige Chance, ein handfester Wettbewerbsvorteil. Die Frage ist also nicht mehr, ob, sondern wie Sie KI einführen. Wenn Sie bereit sind, diesen Schritt zu gehen, besuchen Sie die Website von DasDomainDepot.de und vereinbaren Sie ein unverbindliches Erstgespräch. Vielen Dank für Ihre Zeit.

Häufige Fragen zu KI im Unternehmen

Brauche ich eine GPU?

Für kleine Modelle (bis ca. 7B Parameter) läuft der Betrieb auch auf moderner CPU-Hardware akzeptabel – für interne Tools mit überschaubarer Last oft ausreichend. Für flüssigen Produktionsbetrieb, größere Modelle oder höhere Nutzerzahlen empfehlen wir GPU-Hardware. Wir beraten Sie je nach konkretem Anwendungsfall.

Wie viel RAM wird benötigt?

Das hängt stark von der Modellgröße ab. Als grobe Orientierung: Ein 7B-Modell in quantisierter Form (4-Bit) benötigt ca. 4–6 GB RAM. Ein 13B-Modell ca. 8–10 GB, ein 70B-Modell deutlich mehr. Für den produktiven Einsatz planen wir die Hardware gemeinsam mit Ihnen nach den konkreten Anforderungen.

Wie groß sind die Modelldateien?

Je nach Modell und Quantisierung zwischen 2 GB (sehr kleine Modelle) und 40+ GB (große Modelle in voller Präzision). Quantisierte Modelle (z.B. 4-Bit) sind deutlich kleiner und für die meisten Anwendungsfälle gut geeignet.

Ist der Betrieb auch komplett offline möglich?

Ja. Self-Hosted KI kann vollständig ohne Internetverbindung betrieben werden (Air-Gapped). Einmal installiert, benötigt das System keine externe Verbindung. Das ist besonders relevant für Kanzleien, Praxen und andere Organisationen mit besonders schützenswerten Daten.

Was kostet das?

Das hängt vom gewählten Betriebsmodell ab. On-Premise beim Kunden hat einmalige Einrichtungskosten und dann planbare Wartungskosten. Managed Hosting hat monatliche Betriebskosten, dafür keine eigene Hardware. Wir besprechen das gerne konkret in einem ersten Gespräch.

Ist das wirklich DSGVO-konform?

Ja – unter der Voraussetzung, dass die KI auf deutschen oder europäischen Servern läuft und Daten die vereinbarte Infrastruktur nicht verlassen. Wir betreiben ausschließlich in Deutschland oder On-Premise beim Kunden. Ein Auftragsverarbeitungsvertrag (AVV) kann abgeschlossen werden.

Eigenen Firmen-Chatbot aufsetzen?

Wir zeigen Ihnen in einem kostenlosen Workshop, wie Ihr Firmenwissen per KI durchsuchbar wird – DSGVO-konform und auf Ihren Servern.

Direkter Kontakt – ohne Umwege. Wir melden uns innerhalb eines Werktages.