EU AI Act

Risikobewertung KI-Einsatz

Stand: Mai 2026 · Verantwortlich: Geschäftsführung dialogfitness.studio

1. Geltungsbereich

Diese Bewertung gilt für sämtliche KI-Funktionen der Plattform dialogfitness.studio sowie der Schwester-Plattform pflichtschulungen.at. Im Einzelnen umfasst sind:

• Online-Kurse / Pflichtschulungen: KI-Lerncoach, Quiz-Erklärung, adaptive Vertiefungsfrage, Glossar-Extraktion, KI-gestützte Final-Prüfungs-Fragen, Editor-Hilfen für Kursautoren.
• KI-Dialogtrainer: Konversations-Übungen mit KI-simulierten Partnern (Listening-Coach, Feedback-geben, Kritik-empfangen, MI-Trainer, Assertivität, Schwierige Gespräche, Manipulationsabwehr u. a.) inklusive optionaler Sprachausgabe (TTS) und Spracherkennung (STT).
• Dialog- und Technik-Auswertung: Strukturiertes 5-Dimensionen-Feedback nach jedem Dialog- oder Technik-Trainer (Paraphrase, Fragen, I-Botschaften, Vier-Ohren, Reframing, Wertschätzung u. a.).
• Selbst-Assessments / Evaluierungen: Validierte Tests (AELS, RE, RAS, PS, Innere Verhinderer u. a.). Score-Berechnung deterministisch nach veröffentlichten Skalen-Normen, Einordnungstexte KI-formuliert.
• Entwicklungs-Coach / 60-Tage-Reise: Personalisierter Trainingsplan auf Basis der Selbst-Tests mit Empfehlungen aus festem Trainer-Katalog.
• Reflexions-Hilfen: Optionale KI-Analyse von Journal-Einträgen, Sprach-Aufnahmen (Stimmanalyse), E-Mail-Entwürfen — auf Initiative des Nutzers.
• Demos: Vorschau-Versionen der Dialogtrainer und Selbst-Tests, öffentlich erreichbar ohne Login.

2. Rolle nach EU AI Act

dialogfitness.studio nimmt eine Doppelrolle ein:

2.1 Anbieter (Provider) — Art. 3 Nr. 3

Für die KI-Systeme, die wir unter unserem Namen auf den Markt bringen bzw. in Betrieb nehmen. Konkret: KI-Lerncoach, Quiz-Erklärung, Vertiefungsfrage, Glossar-Extraktion, Demo-Voice-Trainer, Editor-Aktionen, Evaluations-Interpretation, Entwicklungsanalyse.

Diese Systeme integrieren Foundation-Modelle in eine eigene Anwendung mit definiertem Zweck, eigenem System-Prompt, eigener Temperatur-Konfiguration, eigener Wissensgrundlage und eigener UI. Damit sind sie eigenständige KI-Systeme im Sinne von Art. 3 Nr. 1, die wir unter dem Brand dialogfitness.studio (bzw. white-label auf pflichtschulungen.at und künftigen Schwester-Plattformen) bereitstellen.

Da unsere Systeme nicht hochrisiko sind (siehe Pkt. 4), greifen die schweren Anbieter-Pflichten nach Kapitel III, Abschnitt 2 (Art. 8–17) NICHT. Es gelten:

• Art. 4 — AI Literacy
• Art. 50 Abs. 1 — Design-Pflicht: Nutzer müssen erkennen können, dass sie mit KI interagieren
• Art. 50 Abs. 2 — Markierung KI-generierter Outputs (synthetische Texte, Audio, Bilder)
• Art. 50 Abs. 4 — Deepfake-Kennzeichnung (relevant für TTS-Stimmen)

2.2 Betreiber (Deployer) — Art. 3 Nr. 4

Für die zugrundeliegenden Foundation-Modelle, die wir lizenziert einsetzen — Claude (Anthropic), TTS (ElevenLabs), Nova-3 (Deepgram), Whisper (OpenAI). Diese Modelle bauen wir nicht selbst. Die GPAI-Pflichten nach Kapitel V (Art. 51–55) treffen die jeweiligen Hersteller, nicht uns.

2.3 Rolle der Schwester-Plattformen und Endkunden

Wenn unsere KI-Systeme über pflichtschulungen.at oder künftige Partner-Plattformen ausgespielt werden und der Endkunde (z.B. ein Unternehmen, das den Pflichtkurs für seine Mitarbeitenden einsetzt) ist Betreiber unseres KI-Systems. Wir bleiben Anbieter. Der Endkunde unterliegt seinerseits Art. 4 (AI Literacy seiner Mitarbeitenden) und Art. 26 (Betreiber-Pflichten, soweit nicht hochrisiko).

3. Prüfung „Verbotene Praktiken" (Art. 5)

Ergebnis: Keine verbotene Praktik.

4. Prüfung „Hochrisiko" (Anhang III)

Anhang III Nr. 3 — Allgemeine und berufliche Bildung

• (a) Zugang zu Bildung: Wir entscheiden nicht über Zulassung oder Ablehnung von Lernenden — der Kunde / die Organisation steuert die Zuweisung. → trifft nicht zu.
• (b) Bewertung von Lernergebnissen / Steuerung des Lernprozesses:Differenzierte Betrachtung:
  • Quiz-Bewertung in Online-Kursen: deterministisch (Vergleich mit hinterlegtemcorrect-Index). KI-Erklärungen werden nach der Bewertung erzeugt und beeinflussen die Punktzahl nicht. Vertiefungsfrage optional ohne Score-Wirkung. → trifft nicht zu.
  • Dialog- und Technik-Auswertung (5-Dimensionen-Feedback): Die KI bewertet eine freie Übungs-Konversation des Nutzers. Diese Bewertung ist ausschließlich für die Selbst-Reflexion des Übenden bestimmt, nicht für institutionelle Bewertungen oder Personalentscheidungen. Sie ist nicht Teil einer Prüfungsleistung, kein Zertifikat hängt davon ab, kein Zugang zu Weiterbildung oder Beruf wird gesteuert. Die Lernenden bleiben jederzeit Herr ihres eigenen Lernpfads, Empfehlungen sind nicht bindend. → trifft nicht zu, solange das Feedback im Selbstlern-Kontext bleibt.
    Re-Assessment-Trigger: Würde ein Kunde unsere Plattform so einsetzen, dass dieses Feedback Pflichtschulungs-Bestehen, Personalbewertungen oder Beförderungs- entscheidungen beeinflusst, müsste der Kunde diese Nutzung als Hochrisiko einstufen und entsprechende Anbieter-/Betreiber-Pflichten erfüllen. Wir weisen darauf in den Nutzungsbedingungen hin.
  • Selbst-Assessments / Evaluierungen: Score-Berechnung deterministisch nach veröffentlichten Norm-Skalen. KI formuliert nur den qualitativen Einordnungstext. → trifft nicht zu.
  • Entwicklungs-Coach: Empfehlungs-System aus fester Trainer-Liste, kein Eingriff in den Lernweg. → trifft nicht zu.
• (c) Niveau-Bewertung von Bildungseinrichtungen: trifft nicht zu.
• (d) Erkennung verbotenen Verhaltens bei Prüfungen: Keine Proctoring-, Eye-Tracking- oder Cheat-Detection-Funktion. → trifft nicht zu.

Andere Anhang-III-Bereiche

• Biometrie: nicht eingesetzt
• Kritische Infrastruktur: nicht relevant
• Beschäftigung / Personalauswahl: nicht eingesetzt
• Zugang zu öffentlichen Diensten / Kreditwürdigkeit: nicht eingesetzt
• Strafverfolgung / Migration / Justiz: nicht eingesetzt

Ergebnis: Kein Hochrisiko-System nach Anhang III.

5. Transparenzpflichten (Art. 50)

• Art. 50 (1) — Interaktion mit KI: Nutzer werden vor Beginn jeder KI-Interaktion (Lerncoach, Demo-Trainer, Quiz-Erklärung) im UI darauf hingewiesen.
• Art. 50 (2) — Synthetische Inhalte: KI-generierte Texte (Erklärungen, Coach-Antworten) sind im UI als „KI-Erklärung" gekennzeichnet. Synthetische Audio-Stimmen sind mit „🤖 KI-Stimme" gekennzeichnet.
• Art. 50 (4) — Deepfake: Die TTS-Stimmen entsprechen keiner realen Person. Die Demo-Begrüßung und der Demo-Header weisen ausdrücklich auf den synthetischen Charakter hin.

6. AI Literacy (Art. 4)

Seit 2. Februar 2025 gilt die Verpflichtung zur Sicherstellung von KI-Kompetenz. Wir kommen dem nach durch:

• Verpflichtende interne Schulung aller Mitarbeitenden zum Thema EU AI Act + DSGVO + LLM-Grundlagen
• Modell-Cards für jede produktive KI-Funktion (intern dokumentiert)
• Jährliche Auffrischung mit Stichprobe

7. Maßnahmen gegen Halluzinationen

• System-Prompts mit expliziter „Wissensgrundlage = nur Lerninhalt"-Regel
• Niedrige Temperatur (0,1–0,4) für faktische Funktionen
• Regel: Wenn Antwort nicht im Material → das offen sagen
• Glossar-Definitionen werden aus dem Lerninhalt extrahiert, nicht aus Allgemeinwissen
• Quiz-Bewertung deterministisch, KI nur erklärend

8. Datenschutz-Folgenabschätzung

Eine DSFA nach Art. 35 DSGVO wurde geprüft und ist nach unserer Einschätzung nicht zwingend erforderlich, da die Verarbeitung weder eine systematische, umfassende Bewertung persönlicher Aspekte mit erheblichen Auswirkungen darstellt, noch besondere Kategorien personenbezogener Daten in großem Umfang verarbeitet werden. Eine freiwillige DSFA-Light ist intern dokumentiert.

9. Re-Assessment

Diese Bewertung wird mindestens jährlich überprüft sowie ad hoc bei jeder neuen KI-Funktion, bei jedem Modellwechsel und bei jeder Erweiterung des Anwendungsfalls. Konkrete Trigger für eine Neubewertung Richtung Hochrisiko (Anhang III Nr. 3 lit. b):

• KI-gestützte Bewertung von Freitext-Antworten als Teil einer prüfungsrelevanten Leistung
• Verwendung des Dialog-Feedbacks für Personalentscheidungen oder Pflichtschulungs-Bestehen durch einen Kunden
• Plagiats- oder Cheating-Erkennung durch KI
• Adaptive Schwierigkeit auf Basis einer KI-Klassifikation des Lernenden

10. Hinweis

Diese Bewertung dient der internen und vertraglichen Transparenz und ersetzt keine anwaltliche Prüfung im Einzelfall.