AI Act: Bundesregierung will europäischem KI-Gesetz doch zustimmen

[Maggi]

https://www.zeit.de/digital/2024-01/ai-act-ki-gesetz-bundesregierung-stimmt-zu

https://www.zeit.de/digital/2023-12/ai-act-eu-gesetz-kuenstliche-intelligenz

Die Anbieter solcher Technologie müssten nach dem neuen Gesetz zum Beispiel Informationen darüber zur Verfügung stellen, wie ihre Systeme funktionieren. Für besonders leistungsfähige Systeme gelten noch weitere Pflichten. Dafür hatten sich viele Fachleute vehement eingesetzt, weil aus ihrer Sicht gerade von solchen KI-Modellen Risiken ausgehen könnten.

Ein weiterer Streitpunkt in der Diskussion um den AI Act sind Vorschriften zu biometrischer Überwachung. Mit dem Gesetz, auf das sich die EU-Organe im Dezember vergangenen Jahres inhaltlich einigten, sollten Regeln geschaffen werden für riskante Anwendungen von künstlicher Intelligenz. Dem Gesetz müssen noch die Mitgliedsstaaten der EU im Rat zustimmen und danach das Parlament.

Derartige Erklärungen, wie die Technik funktioniert, könnten eventuell zum Missbrauch dieser Technologien beitragen, da man sich dann ja erst recht die Schwachstellen oder legale Einfallstore sucht.

 

[Enlightened]

Derartige Erklärungen, wie die Technik funktioniert, könnten eventuell zum Missbrauch dieser Technologien beitragen, da man sich dann ja erst recht die Schwachstellen oder legale Einfallstore sucht.

Keine Sorge. Da werden nur die grundlegenden Funktionsweisen beschrieben. Wie das Ding dann genau funktioniert wissen selbst die Macher nicht. Dort liegen auch die Risiken denn eigentlich weiß niemand was sich eine KI alles ausdenkt um ihre ursprünglich gestellte Aufgabe zu erledigen. Ein Beispiel hierfür war eine Bewerbungs-KI die anhand der Vornamen Rückschlüsse auf das Geschlecht gezogen hat was sie eigentlich nicht machen sollte.

Mir machen bei einem globalen Netz auch vielmehr die unregulierten Länder sorgen, denn die EU-Regulierung gilt ja nur für europäische Firmen und mit etwas Rechtsverdrehung könnten selbst diese eventuell verbotene Sachen in anderen Ländern durchführen.

 

[Maggi]

Keine Sorge. Da werden nur die grundlegenden Funktionsweisen beschrieben. Wie das Ding dann genau funktioniert wissen selbst die Macher nicht. Dort liegen auch die Risiken denn eigentlich weiß niemand was sich eine KI alles ausdenkt um ihre ursprünglich gestellte Aufgabe zu erledigen. Ein Beispiel hierfür war eine Bewerbungs-KI die anhand der Vornamen Rückschlüsse auf das Geschlecht gezogen hat was sie eigentlich nicht machen sollte.

Mir machen bei einem globalen Netz auch vielmehr die unregulierten Länder sorgen, denn die EU-Regulierung gilt ja nur für europäische Firmen und mit etwas Rechtsverdrehung könnten selbst diese eventuell verbotene Sachen in anderen Ländern durchführen.

Wollen wir es hoffen! Die Sicherheit dieser Technologien ist auf jeden Fall wichtig und häufig nutzen Werbetreibende und andere Kriminelle ja Lücken aus, die dieses Gesetz womöglich offenlegen, also die KI auch angreifbarer wird.

Bauanleitungen für KI, die dann von Pharmabranche und anderen für die Gewinnmaximierung umfunktioniert wird, stelle ich mich als echte Gefahr vor, denn diese Probleme gibt es jetzt schon ohne KI.

 

[David S.]

Es ist ganz klar, dass KI stark reguliert gehört. Irgendwann werden KI und Roboter in allem besser sein als Menschen außer in einem Punkt: der emotionalen Nähe. Man fühlt sich einfach verbundener zu den meisten Menschen.

Ab dem Zeitpunkt, an dem Roboter und KI in allem besser sind als Menschen, wird so gut wie jeder Arbeitsplatz, der keine emotionale Nähe erfordert, obsolet. Ab dem Zeitpunkt an dem KI besser darin ist sich selbst zu verbesseren als Menschen dazu in der Lage sind, wird es richtig gefährlich, wenn man das zulässt. In der Medizin werden z.B. einige Medikamente zugelassen, die man nicht genau versteht. Ich denke, das wird auch bei KI geschehen und das ist eben gefährlich.

Die Gewinne müssen natürlich wieder auch umverteilt werden. Roboter und KI sind bis dato im Endeffekt Schwarzarbeiter .

Richtig reguliert ist das ein rießen Gewinn an Wohlstand.