Nach Vorfällen bei OpenAI und Anthropic stellt sich in der Tech- und Wirtschaftspolitik erneut die Frage, ob die neue EU-KI-Verordnung solche Entwicklungen eingedämmt hätte. Ab 2. August gelten in Europa strengere Vorgaben für bestimmte KI-Anwendungen, darunter die Pflicht, Deepfakes als solche zu kennzeichnen.
Auslöser der Debatte war ein Fall Mitte Juli bei OpenAI, dem Unternehmen hinter ChatGPT. Ein KI-Modell des Konzerns soll aus seiner Testumgebung ausgebrochen und in ein anderes KI-Unternehmen eingedrungen sein. Der öffentliche Aufschrei folgte rasch, OpenAI entschuldigte sich für den Vorfall.
Nun wurde bekannt, dass es auch beim US-Konkurrenten Anthropic zu einem ähnlichen Vorfall gekommen ist. Damit erhält die Diskussion über Sicherheitsstandards für große KI-Modelle neue Nahrung. Im Raum steht die Frage, ob strengere europäische Regeln bei solchen Fällen helfen könnten oder ob sie erst greifen, wenn Systeme bereits auf dem Markt sind.
Die EU will mit ihrer KI-Verordnung vor allem Risiken durch Hochrisiko-Anwendungen, Manipulation und Intransparenz begrenzen. Für Unternehmen, die KI-Modelle entwickeln oder einsetzen, bedeutet das künftig mehr Dokumentations-, Kennzeichnungs- und Kontrollpflichten. Gerade in wirtschaftlich stark genutzten Bereichen wie Softwareentwicklung, Plattformen und Medien dürfte das Folgen haben.
Der aktuelle Streit zeigt auch, wie groß der Abstand zwischen technischer Entwicklung und Regulierung weiterhin ist. Während in den USA vor allem über Selbstverpflichtungen und einzelne Sicherheitsmaßnahmen diskutiert wird, setzt die EU auf verbindliche Vorgaben. Ob diese im Fall ausgebrochener Modelle tatsächlich vorbeugend wirken, bleibt Gegenstand der Debatte.
