So wählen Sie den richtigen KI-Dienstleister: Checkliste mit 20 Fragen und Vertragsbestandteilen (AI Act, DSGVO, IP, Abnahmekriterien)

Der Unterschied zwischen einem KI-Einsatz mit messbarem Effekt und einem Projekt, das mit einer Präsentation endet, liegt selten in der Technologie. Entscheidend sind der Umgang des Partners mit Daten, die Art der Erfolgsmessung und das, was ihr im Vertrag festhaltet. Dieser Text ist eine Liste von Fragen für die ersten Gespräche mit dem Anbieter und eine Liste von Klauseln, die vor dem Projektstart in den Vertrag gehören.

Dies ist keine Rechtsberatung; Vertragsklauseln sollten mit einer Rechtsanwältin/einem Rechtsanwalt abgestimmt werden, insbesondere bei Hochrisiko-Systemen nach AI Act.

Die wichtigsten Punkte

• Beginnen Sie mit dem Problem, nicht mit dem Modell. Ein guter Partner fragt zuerst nach Prozess, Daten und dem erwarteten Ergebnis – und erst danach nach dem Tech-Stack.
• Daten bestimmen das Ergebnis. Fragen Sie nach Data Audit, Zugängen, Berechtigungen und dem Ort der Verarbeitung.
• Ein KI-Vertrag unterscheidet sich von einem Software-Vertrag. Er muss Rollen nach AI Act, Auftragsverarbeitung nach DSGVO, Eigentum an Code, Prompts, Konfigurationen und Modellgewichten, metrische Abnahmekriterien sowie Nutzungskosten der Modelle regeln.
• Abnahme ist Statistik, kein Knopfdruck. Abnahmekriterien werden auf einem Testset definiert – mit Qualitätsschwellen, Antwortzeit und Kosten pro Anfrage.
• Planen Sie den Exit. Dokumentation, Übergabe und Austauschbarkeit des Modells sind Klauseln, die das Unternehmen nach Projektende absichern.

Was bedeutet die Einführung von KI im Unternehmen

Eine KI-Einführung heißt, ein System zu bauen und in Betrieb zu nehmen, das Machine-Learning-Modelle oder Sprachmodelle (LLM) in einem Unternehmensprozess nutzt: Assistent für Mitarbeitende oder Kundinnen/Kunden, Agenten, die Aufgaben in Systemen ausführen, RAG-Wissensbasis, prädiktives Modell. In den meisten Business-Projekten werden keine eigenen Modelle von Grund auf trainiert; man nutzt fertige Modelle via API oder Open-Weight-Modelle und verbindet sie mit Unternehmensdaten und -systemen. Deshalb zählen die Kompetenzen des Partners vor allem in Integration, Daten, Sicherheit und Erfolgsmessung.

Die drei Säulen der Partnerbewertung

Technologie und Daten

Bevor Sie nach dem Preis fragen, prüfen Sie, wie das Unternehmen mit Daten arbeitet: Ob es Quellen auditiert, Daten aufräumt, Berechtigungen aus Quellsystemen in die KI überträgt, wie es Modelle auswählt (Kosten, Qualität, Verarbeitungsort) und ob es sie ohne Neuaufbau austauschen kann. Ein Partner, der sofort vorschlägt, ein eigenes Modell zu trainieren, muss begründen können, warum ein fertiges Modell mit RAG nicht ausreicht.

Business und Erfolgsmessung

Ein Rollout ohne Discovery-Phase (was messen wir, Status quo, was gilt als Erfolg) endet in Funktionen, die niemand nutzt. Ein guter Partner schlägt einen Piloten für einen Prozess mit echten Daten vor – mit Vorher-/Nachher-Messung.

Recht und Sicherheit

Der AI Act gilt stufenweise ab 2024 (Verbote und AI-Kompetenzen ab Februar 2025, Transparenz ab August 2026, Hochrisiko-Systeme ab Dezember 2027). Die DSGVO gilt vollumfänglich. Der Partner sollte wissen, in welcher Rolle er auftritt (Anbieter oder Anwender nach AI Act, Auftragsverarbeiter nach DSGVO) und was das vertraglich bedeutet.

Warnsignale und Best Practices

Checkliste: 20 Fragen an den KI-Implementierungspartner

Erfahrung

1. Können Sie ein KI-System zeigen, das produktiv beim Kunden läuft – mit Zahlen? Suchen Sie Case Studies mit Metriken (Zeit, Kosten, Umsatz), nicht bloße Beschreibungen.
2. Welche Probleme traten in früheren Implementierungen auf und wie haben Sie sie gelöst? Die Antwort zeigt, ob der Partner Risiken anspricht, bevor sie eintreten.
3. Haben Sie Erfahrung in unserer Branche? Daten in Fintech, Healthcare oder Fertigung stellen unterschiedliche Anforderungen an Sicherheit und Compliance.
4. Haben Sie Systeme von anderen Anbietern übernommen und KI in Legacy-Systeme integriert? Die wenigsten Unternehmen bauen von Grund auf neu.

Daten und Architektur

1. Wie läuft bei Ihnen das Data Audit vor dem Rollout ab? Quellen, Qualität, Lücken, Berechtigungen.
2. Wie wählen Sie das Modell aus und erlaubt die Architektur dessen Austausch? Frage nach Abhängigkeit von einem Anbieter.
3. Wie begrenzen Sie Halluzinationen? RAG auf verifizierten Quellen, Zitieren von Quellen, Qualitätstests der Antworten, Verweigerung bei fehlenden Daten.
4. Wie übertragen Sie Berechtigungen aus den Quellsystemen in die KI? Nutzer sehen nur, wozu sie Zugriff haben.
5. Wie testen Sie ein System mit nicht deterministischen Antworten? Testset, Metriken, Regressionstests nach jeder Änderung am Modell oder an den Prompts.
6. Wer und wie überwacht die Qualität nach dem Go-live? Logs, Metriken, Alerts, Plan zum Nachtrainieren oder Austausch des Modells.

Sicherheit und Recht

1. Wo werden unsere Daten physisch verarbeitet und durch welche Parteien? Cloud des Modellanbieters, Cloud des Kunden, Kundeninfrastruktur; Liste der Unterauftragsverarbeiter.
2. Dürfen Unternehmensdaten in das Training von Anbietermodellen einfließen? Erwartete Antwort: nein – gestützt auf die Geschäftsvereinbarung mit dem Modellanbieter.
3. Wie stellen Sie DSGVO-Konformität sicher? Auftragsverarbeitungsvertrag, Datenminimierung, Datenschutz-Folgenabschätzung (DPIA), falls erforderlich, Recht auf Löschung.
4. In welcher Rolle nach AI Act treten Sie auf und in welcher wir? Anbieter des Systems oder Anwender; Risikokategorie; Konsequenzen für Dokumentation und Aufsicht.
5. Welche Schutzmechanismen gelten für Daten in Prompts und Antworten? Filter für sensible Daten, Logging, Zugriffskontrollen, Sicherheitstests (inkl. Prompt Injection).

Zusammenarbeit und Kosten

1. Wie definieren Sie den Piloten und welches Ergebnis liefert er? Scope, Daten, Metriken, Skalierungsentscheidung.
2. Wie gliedern Sie die Kalkulation auf? Aufbau, Nutzung der Modelle (bei geschätzter Anfragenzahl), Betrieb und Weiterentwicklung. Ein Gesamtpreis ohne Aufschlüsselung ist ein Warnsignal.
3. Welche Business-Metriken werden wir verfolgen? Zeitersparnis, Servicekosten, Conversion, Umsatz; vor und nach dem Rollout gemessen.
4. Wer arbeitet konkret im Projekt und in welchem Modell? Dediziertes Team, Erweiterung unseres Teams, Projekt mit festem Umfang; Zugang zu einer/einem Architekt:in.
5. Was erhalten wir am Ende und wie erfolgt die Übergabe? Code, Dokumentation, Prompts, Konfigurationen, Testsets; Möglichkeit des Betriebs durch ein anderes Team.

Vertragsbestandteile für eine KI-Einführung

1. Rollen und Verantwortlichkeiten nach AI Act

• Festlegung, wer Anbieter des Systems ist (entwickelt und bringt in Verkehr) und wer Anwender (nutzt es im eigenen Geschäft). Entsteht das System im Auftrag unter der Marke des Kunden, kann der Kunde der Anbieter sein; der Vertrag sollte dies ausdrücklich benennen.
• Risikoklassifizierung des Systems im Vertrag oder Anhang; bei hohem Risiko: wer für technische Dokumentation, Logging, menschliche Aufsicht und Konformitätsbewertung verantwortlich ist.
• Transparenz: Das System informiert Nutzende, dass sie mit KI interagieren; generierte Inhalte werden gekennzeichnet, gemäß Art. 50.
• AI-Kompetenzen (Art. 4): Schulung des Kundenteams als Bestandteil der Lieferung, kein Zusatz.
• Meldung von Vorfällen: Verfahren und Fristen zur Information des Kunden über Systemfehler und Sicherheitsvorfälle.

2. DSGVO und Daten

• Auftragsverarbeitungsvertrag (Art. 28 DSGVO) mit dem Partner und Liste der Unterauftragsverarbeiter (inkl. Modellanbieter) mit Widerspruchsrecht gegen Änderungen.
• Verarbeitungsort und Regionen (EU/EWR), Regeln für Transfers außerhalb des EWR.
• Verbot des Trainings von Anbietermodellen auf Kundendaten, vertraglich mit dem Modellanbieter bestätigt.
• Datenminimierung und Anonymisierung vor Übergabe an das Modell; Filter für besondere Kategorien personenbezogener Daten.
• Datenlöschung: Die Architektur (RAG statt Training auf personenbezogenen Daten) soll die Löschung einer Person ohne Neuaufbau des Modells ermöglichen; Log-Aufbewahrung (bei Hochrisiko-Systemen mind. 6 Monate nach AI Act).
• Datenschutz-Folgenabschätzung (DPIA) und – bei hohem Risiko für bestimmte Anwender – Folgenabschätzung zu Grundrechten (Art. 27 AI Act): wer sie erstellt.

3. Geistiges Eigentum

• Übertragung der vermögensrechtlichen Urheberrechte (keine Lizenz) an Code, Datenskripten, Dokumentation, Prompts, Konfigurationen sowie Test- und Evaluationssets, auf allen Nutzungsarten, mit Zahlung je Projektphase.
• Modellgewichte: Wenn der Partner ein Modell feinabstimmt (Fine-Tuning), gehen die Rechte an Gewichten und Trainingsdaten im durch die Basislizenz zulässigen Umfang auf den Kunden über. Modelle externer Anbieter (OpenAI, Anthropic, Google) lassen sich nicht „kaufen“; der Vertrag sollte dies klar trennen.
• Open-Source-Komponenten und Open-Weight-Modelle: Liste mit Lizenzen und Bestätigung der Eignung für den kommerziellen Einsatz.
• Von KI generierte Inhalte: Das Urheberrecht schützt menschliche Werke; der Vertrag sollte Rechte an Ergebnissen und die Verantwortung für deren Nutzung regeln, ohne Schutz zu versprechen, den das Recht nicht gewährt.
• Know-how des Partners: Bringt der Partner eigene Komponenten oder Produkte ein (z. B. eine vorgefertigte Knowledge Base), Lizenz dafür mit Recht zur Weiternutzung nach Vertragsende.

4. Abnahmekriterien

• Vorab abgestimmtes Testset (repräsentative Anfragen und erwartete Antworten), auf dessen Basis die Abnahme gemessen wird.
• Aufgabenspezifische Qualitätsschwellen: für einen Wissensbasis-Assistenten z. B. Anteil korrekter, quellenbasierter Antworten, Anteil verweigerter Antworten bei fehlenden Daten; für Klassifikation: Precision und Recall; für Extraktion: Feldgenauigkeit.
• Antwortzeit (z. B. 95. Perzentil) und Kosten pro Anfrage bei angenommenem Volumen.
• Sicherheit: Tests zu Prompt Injection und Datenabfluss, Berechtigungskontrollen.
• Menschliche Aufsicht: Wo der Mensch das Ergebnis freigibt, bevor es an Kundinnen/Kunden oder Systeme geht.
• Realismus: KI hat einen Fehlerspielraum; die Abnahme definiert ein akzeptables Niveau, keine 100 %.

5. Kosten, Betrieb und Exit

• Kalkulation aufgeteilt in Aufbau, Nutzung der Modelle (mit Mechanismus zur Anpassung an Anbieterpreisschwankungen) und Betrieb.
• SLA für Verfügbarkeit und Reaktionszeit; Qualitätsmonitoring als Service, keine bloße Zusage.
• Austauschbarkeit des Modells als architektonische Anforderung vertraglich festhalten.
• Exit-Klausel: Übergabe von Code, Dokumentation, Daten und Konfigurationen im vereinbarten Format, Übergangsphase, Support für das Folge-Team.
• Vertraulichkeit und Audit: Recht des Kunden auf Sicherheits- und Compliance-Audits beim Partner und seinen Unterauftragsverarbeitern.

Welchen Partnertyp suchen Sie

Die Wahl hängt vom Ausgangspunkt ab: Für das Hinzufügen von KI zu bestehenden Systemen passt ein auf KI spezialisiertes Softwarehaus, für ein Transformationsprogramm im Konzern ein großer Integrator, für Datenordnung ein Analysehaus. Eine Übersicht von KI-Implementierern in Polen, gruppiert nach Partnertyp, finden Sie in unserem Ranking der TOP 10 Firmen für KI-Implementierung in Polen.

Startup House baut KI-Assistenten, Agenten und RAG-Wissensbasen für mittelständische und große Unternehmen, auch in regulierten Branchen (Fintech, Healthcare, Cybersecurity). Die Lösungen laufen auf verifizierten Kundendaten, in der Kundencloud, integriert mit Zugriffsrichtlinien; Kundendaten trainieren keine öffentlichen Modelle. ISO 27001-konform. Beispiel: Ein Kundenportal mit eingebauter KI für eine Cybersecurity-Plattform mit Fortune-500-Kunden verkürzte das Onboarding um 95 %, und die Übernahme sowie Modernisierung des Logistiksystems für Omnipack senkten die Entwicklungskosten um 40 %.

Siehe auch: AI Act: Was ein Unternehmen bei der KI-Implementierung leisten muss · Case Studies von Startup House

FAQ

Eigenes KI-Team oder Softwarehaus?

Die Rekrutierung eines KI-Teams dauert Monate, und das erste Rollout erfordert Erfahrung in Integration und Sicherheit. Für die meisten Unternehmen funktioniert das Modell: Start mit einem Partner, paralleler Kompetenzaufbau intern (Schulungen, Product Owner auf Kundenseite), schrittweise Übernahme des Betriebs.

Was kostet eine KI-Einführung?

Hängt vom Umfang ab. Ein Pilot eines Assistenten für einen Prozess mit fertigen Modellen ist ein Projekt von wenigen Wochen; ein Rollout in mehreren Bereichen mit Integrationen dauert Monate. Die Kalkulation sollte Aufbau, Modellnutzung und Betrieb getrennt ausweisen.

Erschwert der AI Act Implementierungen?

Für die meisten Business-Einsätze (minimales Risiko) beschränken sich die Pflichten auf Mitarbeitendenkompetenzen und Transparenz gegenüber Nutzenden. Hochrisiko-Systeme (Recruiting, Kredit-Scoring, Biometrie) erfordern Dokumentation, Logging und menschliche Aufsicht – mit Frist ab Dezember 2027. Ein Partner, der das versteht, entwirft das System von Anfang an konform.

Was sind die größten Risiken bei der Einführung von KI?

Niedrige Datenqualität, fehlende Baseline-Messung, fehlende Teamakzeptanz, Abhängigkeit von einem Modellanbieter und ein Vertrag, der Eigentum an Code, Prompts und Daten nicht regelt.

Wie lange dauert die Einführung?

Einen Piloten für einen Prozess mit echten Daten kann man in wenigen Wochen bauen. Ein produktiver Rollout mit Integrationen und Sicherheit dauert länger und hängt von der Zahl der Systeme und der Datenqualität ab.

Kann ich den Modellanbieter während oder nach dem Projekt wechseln?

Ja, wenn die Architektur es vorsieht und der Vertrag es verlangt. Modelle ändern sich alle paar Monate; ein System, in dem das Modell ein austauschbarer Baustein ist, braucht beim Anbieterwechsel keinen Neuaufbau.

Womit beginnt die Vorbereitung des Unternehmens auf die Einführung von KI?

Starten Sie mit der Analyse der Geschäftsprozesse, der verfügbaren Daten und der Bedürfnisse der Mitarbeitenden. Wählen Sie dann Bereiche, in denen KI-Werkzeuge messbare Vorteile bringen, und benennen Sie eine verantwortliche Person für das Projekt. Nächste Schritte sind Risikobewertung, Pilot in einer kontrollierten Umgebung und schrittweise Ausweitung des Einsatzes in den Arbeitsalltag.

Was ist eine KI-Policy und sollte jedes Unternehmen eine haben?

Eine KI-Policy ist ein internes Dokument, das Regeln für den Einsatz von KI-Systemen in der Organisation festlegt. Sie sollte erlaubte KI-Tools, Beschränkungen bei der Dateneingabe, Regeln zur Ergebnisverifikation sowie die Verantwortung von Mitarbeitenden und Administratoren definieren. Sie kann auch die Auswahl von Anbietern, Updates von KI-Modellen und die Meldung von Vorfällen regeln. Eine gut vorbereitete KI-Policy unterstützt Rechtssicherheit und den sicheren KI-Rollout.

Ist ein Register der KI-Systeme in jeder Organisation Pflicht?

Nicht jede Organisation ist verpflichtet, ein formales Register aller KI-Systeme zu führen. Ein internes Register ist jedoch eine gute Praxis des Risikomanagements. Es sollte Systemname, Zweck, Anbieter, genutzte Daten, Risikokategorie und verantwortliche Person enthalten. Für bestimmte Hochrisiko-Systeme sieht der AI Act zudem Registrierungspflichten vor. Ihr Umfang hängt unter anderem von der Rolle der Organisation und dem Anwendungsfall ab.

Wie führt man eine Risikobewertung vor der Einführung eines KI-Systems durch?

Beginnen Sie mit dem Verwendungszweck des Systems, der Art der verarbeiteten Daten und möglichen Auswirkungen auf Personen und die Organisation. Die Analyse sollte Informationssicherheit, Ergebnisqualität der KI, Fehlentscheidungen, menschliche Aufsicht und potenziell verbotene Praktiken berücksichtigen. Bestimmen Sie zudem, ob der Einsatz als unzulässiges Risiko oder als Hochrisiko-System nach AI Act einzustufen ist. Die Risikobewertung ist kein einmaliges Dokument – sie sollte mit Systemänderungen aktualisiert werden.

Erfordert die Einführung von KI eine Datenschutz-Folgenabschätzung?

Eine Datenschutz-Folgenabschätzung (DPIA) ist nach DSGVO erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Das betrifft insbesondere bestimmte Formen des Profilings und automatisierter Entscheidungen. Der bloße Einsatz von KI bedeutet nicht automatisch eine DPIA-Pflicht. Die DPIA ersetzt nicht die nach AI Act erforderliche Risikobewertung, da beide Mechanismen teils unterschiedliche Risiken adressieren.

Was bedeutet AI Literacy und welche Schulungen sollten Mitarbeitende erhalten?

AI Literacy bezeichnet Kompetenzen für den bewussten, sicheren und verantwortungsvollen Umgang mit KI-Systemen. Schulungen sollten Möglichkeiten und Grenzen von KI-Modellen, Datenschutz, Ergebnisprüfung und Fehlererkennung abdecken. Schulungsmaterialien sind an Rollen und Nutzung der KI-Tools im Arbeitsalltag anzupassen. Art. 4 AI Act sieht Maßnahmen zur Sicherstellung angemessener AI-Kompetenzen durch Anbieter und Anwender von Systemen vor.

Wer ist Anbieter und wer Anwender eines KI-Systems nach dem AI Act?

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es in Verkehr bringt oder unter eigenem Namen/Markenzeichen bereitstellt. Anwender nutzt ein KI-System im Rahmen seiner Tätigkeit – außerhalb persönlicher, nicht-professioneller Nutzung. Die Rollenteilung ist relevant für Dokumentation, Aufsicht, Sicherheit und Pflichten nach EU-Recht. In bestimmten Fällen kann die implementierende Organisation die Pflichten des Anbieters übernehmen.

Wie funktioniert die menschliche Aufsicht über KI, also Human in the Loop?

Human in the Loop ist ein Betriebsmodell, in dem Menschen die Ergebnisse der KI prüfen oder freigeben. Sie können Empfehlungen prüfen, Fehler korrigieren und in Situationen mit zusätzlichem Kontrollbedarf die finale Entscheidung treffen. Das ist besonders wichtig bei der Automatisierung von Prozessen mit Auswirkungen auf Kundinnen/Kunden, Mitarbeitende oder andere Personen. Die Aufsicht muss real sein: Mitarbeitende müssen die Grenzen des Systems verstehen, Ergebnisse anfechten können und die Befugnis zur Intervention haben.

Der Text dient Informationszwecken und stellt keine Rechtsberatung dar. Rechtsstand: Oktober 2026 (AI Act nach Digital Omnibus, Verordnung 2026/1744).