Question 1

Was ist ki-system im Sinne des AI Act?

Accepted Answer

Ein System der künstlichen Intelligenz bezeichnet ein maschinenbasiertes System, das für den Betrieb mit unterschiedlichen Autonomiegraden konzipiert ist, das nach der Inbetriebnahme Anpassungsfähigkeit aufweisen kann und das für explizite oder implizite Ziele aus den erhaltenen Eingaben ableitet, wie Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen zu generieren sind. Diese Definition ist absichtlich weit gefasst, um alle aktuellen und zukünftigen KI-Technologien abzudecken.

Question 2

Was ist biometrisches identifizierungssystem im Sinne des AI Act?

Accepted Answer

Ein biometrisches Identifizierungssystem ist ein KI-System zur Identifizierung natürlicher Personen durch Vergleich ihrer biometrischen Daten mit denen in einer Referenzdatenbank, ohne dass die betroffene Person notwendigerweise vorher zugestimmt hat. Die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen unterliegt besonders strengen Beschränkungen.

Question 3

Was ist emotionserkennungssystem im Sinne des AI Act?

Accepted Answer

Ein Emotionserkennungssystem bezeichnet ein KI-System zur Identifizierung oder Ableitung der Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten. Die Verwendung solcher Systeme am Arbeitsplatz und in Bildungseinrichtungen ist durch die Verordnung verboten, außer zu medizinischen oder Sicherheitszwecken.

Question 4

Was ist biometrisches kategorisierungssystem im Sinne des AI Act?

Accepted Answer

Ein biometrisches Kategorisierungssystem ist ein KI-System zur Einordnung natürlicher Personen in spezifische Kategorien wie Geschlecht, Alter, Haarfarbe, Augenfarbe, Tätowierungen, ethnische Herkunft oder sexuelle und politische Orientierung. Die Kategorisierung auf der Grundlage biometrischer Daten zur Ableitung von Rasse, politischen Meinungen oder sexueller Orientierung ist verboten.

Question 5

Was ist ki-modell mit allgemeinem verwendungszweck (gpai) im Sinne des AI Act?

Accepted Answer

Ein KI-Modell mit allgemeinem Verwendungszweck bezeichnet ein KI-Modell, einschließlich wenn es mit einer großen Datenmenge mittels Selbstüberwachung im großen Maßstab trainiert wird, das eine signifikante Allgemeinheit aufweist und in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent auszuführen. Solche Modelle können in verschiedene nachgelagerte Systeme oder Anwendungen integriert werden.

Question 6

Was ist gpai-modell mit systemischem risiko im Sinne des AI Act?

Accepted Answer

Ein KI-Modell mit allgemeinem Verwendungszweck wird als systemisches Risiko eingestuft, wenn es über Hochleistungsfähigkeiten verfügt, die auf der Grundlage geeigneter technischer Instrumente und Methoden bewertet werden, oder wenn die kumulierte Rechenmenge für sein Training 10^25 FLOPS übersteigt. Solche Modelle unterliegen verstärkten Pflichten in Bezug auf Bewertung, Dokumentation und Cybersicherheit.

Question 7

Was ist ki-system mit allgemeinem verwendungszweck im Sinne des AI Act?

Accepted Answer

Ein KI-System mit allgemeinem Verwendungszweck bezeichnet ein auf einem KI-Modell mit allgemeinem Verwendungszweck basierendes KI-System, das für verschiedene Zwecke eingesetzt werden kann, sowohl zur direkten Nutzung als auch zur Integration in andere KI-Systeme. Der Anbieter eines solchen Systems muss sowohl die Pflichten in Bezug auf das zugrunde liegende Modell als auch die für das KI-System selbst geltenden Pflichten erfüllen.

Question 8

Was ist technische dokumentation im Sinne des AI Act?

Accepted Answer

Die technische Dokumentation umfasst alle Informationen, die der Anbieter eines Hochrisiko-KI-Systems gemäß Artikel 11 und Anhang IV der Verordnung erstellen und pflegen muss. Sie muss die Konformität des Systems mit den geltenden Anforderungen nachweisen und den zuständigen Behörden alle für die Bewertung dieser Konformität erforderlichen Informationen bereitstellen.

Question 9

Was ist hochrisiko-ki-system im Sinne des AI Act?

Accepted Answer

Ein Hochrisiko-KI-System ist ein in Artikel 6 der Verordnung genanntes System, entweder weil es eine Sicherheitskomponente eines unter die in Anhang I aufgeführte Harmonisierungsrechtsvorschriften der Union fallenden Produkts darstellt, oder weil es in einen der in Anhang III genannten Bereiche fällt. Solche Systeme unterliegen dem umfassendsten Pflichtenkatalog der Verordnung.

Question 10

Was ist ki-system mit begrenztem risiko im Sinne des AI Act?

Accepted Answer

KI-Systeme mit begrenztem Risiko sind solche, die den spezifischen Transparenzpflichten nach Artikel 50 der Verordnung unterliegen, ohne als Hochrisiko eingestuft zu werden. Dazu gehören Systeme, die direkt mit natürlichen Personen interagieren, Systeme zur Generierung synthetischer Inhalte und Emotionserkennungssysteme.

Question 11

Was ist ki-system mit minimalem risiko im Sinne des AI Act?

Accepted Answer

KI-Systeme mit minimalem Risiko sind solche, die weder unter die Hochrisiko-Kategorie noch unter verbotene Praktiken oder spezifische Transparenzpflichten fallen. Sie stellen die große Mehrheit der derzeit in der Union eingesetzten KI-Systeme dar. Die Verordnung fordert die freiwillige Einführung von Verhaltenskodizes für solche Systeme.

Question 12

Was ist verbotene ki-praktiken im Sinne des AI Act?

Accepted Answer

Artikel 5 der Verordnung enthält eine Liste von KI-Praktiken, die aufgrund ihres Charakters, der den Werten der Union widerspricht, streng verboten sind. Verboten sind insbesondere Social-Scoring-Systeme, unterschwellige Manipulation, Ausnutzung von Schwachstellen, biometrische Echtzeit-Fernidentifizierung in öffentlichen Räumen (mit Ausnahmen) und biometrische Kategorisierung auf der Grundlage sensibler Merkmale.

Question 13

Was ist anbieter im Sinne des AI Act?

Accepted Answer

Anbieter bezeichnet jede natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer eigenen Marke auf den Markt bringt oder in Betrieb nimmt, sei es entgeltlich oder unentgeltlich. Der Anbieter trägt die Hauptverantwortung für die Konformität des Systems.

Question 14

Was ist betreiber im Sinne des AI Act?

Accepted Answer

Betreiber bezeichnet jede natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System unter ihrer eigenen Verantwortung nutzt, es sei denn, das System wird im Rahmen einer persönlichen nichtberuflichen Tätigkeit genutzt. Der Betreiber ist verpflichtet, die Gebrauchsanweisungen des Anbieters zu befolgen und eine angemessene menschliche Aufsicht zu gewährleisten.

Question 15

Was ist importeur im Sinne des AI Act?

Accepted Answer

Importeur bezeichnet jede in der Union ansässige natürliche oder juristische Person, die ein KI-System auf den Markt bringt, das den Namen oder die Marke einer in einem Drittland ansässigen natürlichen oder juristischen Person trägt. Der Importeur muss überprüfen, ob der Anbieter das anwendbare Konformitätsbewertungsverfahren durchgeführt hat und die CE-Kennzeichnung angebracht wurde.

Question 16

Was ist händler im Sinne des AI Act?

Accepted Answer

Händler bezeichnet jede natürliche oder juristische Person in der Lieferkette, außer dem Anbieter oder dem Importeur, die ein KI-System auf dem Unionsmarkt bereitstellt. Der Händler muss überprüfen, ob das System die erforderliche CE-Kennzeichnung trägt und von den erforderlichen Unterlagen und Gebrauchsanweisungen begleitet wird.

Question 17

Was ist bevollmächtigter vertreter im Sinne des AI Act?

Accepted Answer

Bevollmächtigter Vertreter bezeichnet jede in der Union ansässige natürliche oder juristische Person, die eine schriftliche Vollmacht eines Anbieters eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck erhalten und angenommen hat, um in seinem Namen die durch die Verordnung festgelegten Pflichten und Verfahren zu erfüllen. Die Inanspruchnahme eines bevollmächtigten Vertreters ist für außerhalb der Union ansässige Anbieter obligatorisch.

Question 18

Was ist transparenzpflicht im Sinne des AI Act?

Accepted Answer

Die Transparenzpflicht verlangt von Anbietern und Betreibern von KI-Systemen sicherzustellen, dass natürliche Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist für eine vernünftigerweise informierte Person offensichtlich. Diese Pflicht erstreckt sich auch auf KI-generierte Inhalte, einschließlich Deepfakes und synthetischer Texte.

Question 19

Was ist menschliche aufsicht im Sinne des AI Act?

Accepted Answer

Die menschliche Aufsicht ist eine grundlegende Anforderung für Hochrisiko-KI-Systeme. Sie erfordert, dass solche Systeme so konzipiert und entwickelt werden, dass sie während ihrer Nutzungsdauer von natürlichen Personen wirksam beaufsichtigt werden können. Aufsichtsmaßnahmen müssen die Interpretation von Ergebnissen, die Entscheidung, sie nicht zu verwenden, oder die Unterbrechung des Systems ermöglichen.

Question 20

Was ist daten-governance im Sinne des AI Act?

Accepted Answer

Daten-Governance bezeichnet alle Praktiken und Maßnahmen, die Anbieter von Hochrisiko-KI-Systemen in Bezug auf Trainings-, Validierungs- und Testdatensätze umsetzen müssen. Diese Maßnahmen betreffen die Qualität, Repräsentativität, Verzerrungsfreiheit und Vollständigkeit der verwendeten Daten.

Question 21

Was ist risikomanagementsystem im Sinne des AI Act?

Accepted Answer

Das Risikomanagementsystem ist ein kontinuierlicher iterativer Prozess, der während des gesamten Lebenszyklus eines Hochrisiko-KI-Systems geplant und ausgeführt wird. Es umfasst die Identifizierung, Analyse, Schätzung und Bewertung von Risiken sowie die Ergreifung geeigneter Risikomanagementmaßnahmen. Dieses System muss regelmäßig aktualisiert werden.

Question 22

Was ist ce-kennzeichnung im Sinne des AI Act?

Accepted Answer

Die CE-Kennzeichnung ist eine Konformitätskennzeichnung, die auf einem Hochrisiko-KI-System angebracht wird und anzeigt, dass es die Anforderungen der Verordnung erfüllt. Sie muss sichtbar, lesbar und dauerhaft vor dem Inverkehrbringen angebracht werden. Die CE-Kennzeichnung ist für alle Hochrisiko-KI-Systeme erforderlich, die in der Union in Verkehr gebracht oder in Betrieb genommen werden.

Question 23

Was ist eu-konformitätserklärung im Sinne des AI Act?

Accepted Answer

Die EU-Konformitätserklärung ist ein vom Anbieter für jedes Hochrisiko-KI-System erstelltes Dokument, das bestätigt, dass es die Anforderungen der Verordnung erfüllt. Sie muss die in Anhang V genannten Informationen enthalten und in die Amtssprache(n) übersetzt werden, die der Mitgliedstaat vorschreibt, in dem das System in Verkehr gebracht wird.

Question 24

Was ist konformitätsbewertung im Sinne des AI Act?

Accepted Answer

Die Konformitätsbewertung ist der Prozess, durch den nachgewiesen wird, dass die Anforderungen der Verordnung in Bezug auf ein Hochrisiko-KI-System erfüllt wurden. Je nach Anwendungsbereich kann diese Bewertung vom Anbieter selbst (Selbstbewertung) oder von einer unabhängigen notifizierten Stelle durchgeführt werden.

Question 25

Was ist grundrechte-folgenabschätzung (fria) im Sinne des AI Act?

Accepted Answer

Die Grundrechte-Folgenabschätzung ist eine Pflicht für Betreiber von Hochrisiko-KI-Systemen, die Einrichtungen des öffentlichen Rechts oder private Einrichtungen sind, die öffentliche Dienstleistungen erbringen. Diese Bewertung muss vor der Inbetriebnahme durchgeführt werden und die Auswirkungen des Systems auf die Grundrechte der betroffenen Personen analysieren.

Question 26

Was ist ki-reallabor im Sinne des AI Act?

Accepted Answer

Ein KI-Reallabor ist ein von einer zuständigen Behörde eingerichteter kontrollierter Rahmen, der Anbietern und potenziellen Anbietern von KI-Systemen die Möglichkeit bietet, ihre Systeme gemäß einem spezifischen Plan für eine begrenzte Zeit unter der regulatorischen Aufsicht dieser Behörde zu entwickeln, zu trainieren, zu validieren und zu testen.

Question 27

Was ist europäisches ki-büro im Sinne des AI Act?

Accepted Answer

Das Europäische Büro für künstliche Intelligenz ist die innerhalb der Europäischen Kommission geschaffene Einrichtung, die für die Überwachung der Umsetzung der Verordnung zuständig ist, insbesondere für KI-Modelle mit allgemeinem Verwendungszweck. Es ist auch für die Entwicklung von Leitlinien, die Überwachung von Verhaltenskodizes und die Koordinierung mit nationalen Behörden verantwortlich.

AI Act Glossar

Definitionen

KI-System

Biometrisches Identifizierungssystem

Emotionserkennungssystem

Biometrisches Kategorisierungssystem

KI-Modell mit allgemeinem Verwendungszweck (GPAI)

GPAI-Modell mit systemischem Risiko

KI-System mit allgemeinem Verwendungszweck

Technische Dokumentation

Risikoniveaus

Hochrisiko-KI-System

KI-System mit begrenztem Risiko

KI-System mit minimalem Risiko

Verbotene KI-Praktiken

Akteure

Anbieter

Betreiber

Importeur

Händler

Bevollmächtigter Vertreter

Pflichten

Transparenzpflicht

Menschliche Aufsicht

Daten-Governance

Risikomanagementsystem

CE-Kennzeichnung

EU-Konformitätserklärung

Konformitätsbewertung

Grundrechte-Folgenabschätzung (FRIA)

Governance

KI-Reallabor

Europäisches KI-Büro

Prüfen Sie Ihre AI Act Konformität