Künstlicher Intelligenz Kompetenzschulung

[Audio] Einen Wunderschönen guten Tag. Da wir bei TRIPS die Nutzung von künstlicher Intelligenz ausdrücklich begrüßen und fördern wollen, sehen wir uns verpflichtet Sie mit dieser kleinen Präsentation, auf die wichtigsten gesetzlichen Vorgaben hinzuweisen..

[Audio] Wie verschaffen uns zunächst einen Überblick zur Verordnung über künstliche Intelligenz und der ebenfalls relevante Datenschutzgrundverordnung, Dann gehen wir auf die explizit verbotenen Praktiken ein Und besprechen Hochrisiko Systeme und wie mit solchen unzugehen ist..

[Audio] Die Verordnung über künstliche Intelligenz, kurz KI-VO ist seit Februar 2024 in Kraft und definiert verbotene Praktiken und Hochrisiko-Systeme im Bezug zu KI. Unternehmen werden aufgefordert den Mitarbeitern, welche generell mit KI-Systemen arbeiten, eine gewisse Kompetenz zu vermitteln, was bereits mit dieser Präsentation geschieht. Die DSGVO spielt eine kritische Rolle so bald Personenbezogene Daten in ein KI-System gegeben werden. Da in solchen Fällen, per Definition in der Regel ein Hochrisiko-System vorliegt, ist eine enge Abstimmung mit dem Datenschutzbeauftragten und dem KI-Beauftragten erforderlich..

[Audio] Der Artikel 5 der KI-VO definiert Praktiken deren Ausübung mittels KI-Systemen unter Strafe steht. Das ist einmal die Anstiftung zu schädlichem Verhalten. Dazu gehören Hate-Speech, Fake-News, aber auch Deep-Fakes. Wenn das Ziel ist, Menschen so zu beeinflussen, dass diese der Gesellschaft oder Personen Schaden zufügen stellt das eine Straftat dar. Social Scoring. In China bereits im Einsatz, in Europa, zum Glück, streng verboten. Hierbei werden Personen anhand ihres Verhalten bewertet. Anhand dieser Bewertung wird entschieden ob der Person gewisse Rechte zu- oder abgesprochen werden. In China kann es sein, dass jemand der zu viele Schokoriegel kauft, deswegen nicht mit dem Schnellzug fahren darf, oder man wegen zu vieler Kranktage, das Land nicht verlassen kann. Wichtig, allein die Bewertung Stellt schon einen verstoß dar, auch wenn es noch keine Folgen gibt. Ungezielt eine Gesichtsdatenbank erstellen, was meint das? Man könnte zum Beispiel eine Kamera vor seinem Haus aufstellen, bei allen vorbeilaufenden Personen eine Gesichtserkennung durchführen und diese Daten speichern. Das wäre verboten. Es können nicht nur Gesichter an sich, sondern auch die Emotion dahinter erfasst werden. Das könnte als Grundlage von sehr wirksamer Manipulation dienen und ist deshalb nicht erlaubt. Sobald Körperdaten, das können Hautfarbe, Statur oder jegliche anderen Körpermerkmale sein, herangezogen werden und anhand dieser eine Kategorisierung stattfindet, liegt ein Verstoß vor. Das letzte ist eher für Behörden relevant. Echtzeit Fernidentifizierung zur Ermittlung aus geringem Anlass bedeutet, dass zum Beispiel die Polizei wegen eines Ladendiebstahls nicht mittels automatischer Gesichtserkennung nach dem Verdächtigem suchen darf. Der geringe Anlass ist jedoch an dieser Stelle nicht klar definiert. Die VO definiert gleich ein Strafmaß mit, welches mit bis zu 35 Millionen Euro oder 7% des Jahresumsatzes, nicht vernachlässigt werden darf..

[Audio] In Artikel 6 der KI-VO werden Hochrisiko-Systeme definiert. Das sind erstmal Systeme die als Sicherheitsbauteil dienen. Das kann jegliche Schutzeinrichtung sein die mittels KI ausgelöst oder zurückgehalten werden kann. Personaldaten automatisch verarbeiten wird schon in der DSGVO reglementiert und fällt hier unter Hochrisiko. Gleiches gilt für biometrische Daten, die ja erstmal auch Personenbezogene Daten sind. Zu beachten ist hier, dass die Verarbeitung der Daten erstmal nicht Verboten ist, der Schritt in die Kategorisierung und damit zu einer verbotenen Praktik ist aber nicht mehr weit..

[Audio] Sobald ein Hochrisiko System genutzt wird, sind strenge Auflagen zu erfüllen. Zum einen muss ein Risikomanagementsystem aufgestellt werden, um nachfolgende Risiken zu minimieren. Das System muss ausführlich dokumentiert werden, und so konzipiert sein, dass die Wirkung des Systems in Gänze nachvollziehbar ist. Die Datensätze, die den Modellen zu Grunde liegen müssen eine hohe Qualität aufweisen und zum Zweck passen. Der Mensch muss das System Überwachen und einschreiten können..

[Audio] Nun kennen Sie die kritischsten Aspekte bei der Nutzung von KI-Systemen. In der Regel werden Ihnen diese in der täglichen Arbeit nicht begegnen. Wenn es jedoch um Personal oder Sicherheit geht können diese Themen schnell relevant sein. Und damit möchte ich mich verabschieden und wünsche Ihnen alles Gute..