BORAN x PAROT® Agentur für Marken- & Markenkommunikation mit Spezialisierung auf Künstliche Intelligenz und Automation
BORAN x PAROT Signature Logo White

OpenAI fördert Transparenz: Neue Standards für KI-generierte Inhalte

BORAN x PAROT Signature Logo White

Wer in der heutigen Zeit wettbewerbsfähig bleiben will, muss in die KI-Bildung seiner Mitarbeiter investieren.

OpenAI verstärkt Transparenz bei KI-generierten Inhalten

Die zunehmende Verbreitung von KI-generierten Inhalten hat Bedenken hinsichtlich der Authentizität und der potenziellen Manipulation von Informationen geweckt. Um diesem entgegenzuwirken, hat sich OpenAI der Coalition for Content Provenance and Authenticity (C2PA) angeschlossen und wird die offenen Standards der C2PA-Metadaten in seine generativen KI-Modelle integrieren.

Wichtige Maßnahmen für mehr Transparenz

Die C2PA-Standards erlauben es digitalen Inhalten, mit Metadaten zertifiziert zu werden, die ihre Herkunft nachweisen. Dies gilt unabhängig davon, ob die Inhalte vollständig von KI erstellt, mit KI-Tools bearbeitet oder traditionell erfasst wurden. OpenAI hat bereits begonnen, C2PA-Metadaten in die Bildausgaben seines neuesten Modells DALL-E 3 in ChatGPT und der OpenAI API zu integrieren. Bei der breiteren Einführung des neuen Videogenerierungsmodells Sora werden die Metadaten ebenfalls integriert.

Timing ist alles

Dieser Schritt kommt zu einer Zeit, in der die Sorgen über die Möglichkeit, dass KI-generierte Inhalte Wähler vor großen Wahlen in den USA, Großbritannien und anderen Ländern irreführen könnten, zunehmen. Die Authentifizierung von KI-erstellten Medien kann dazu beitragen, Deepfakes und andere manipulierte Inhalte, die auf Desinformationskampagnen abzielen, zu bekämpfen.

Gemeinsame Anstrengungen sind notwendig

OpenAI hebt hervor, dass technische Maßnahmen alleine nicht ausreichen. Plattformen, Ersteller und Inhaltsverwalter müssen gemeinsam handeln, um die Metadaten für Endverbraucher zu erhalten. Zusätzlich zur C2PA-Integration entwickelt OpenAI neue Verfahren zur Herkunftsbestimmung, wie z. B. manipulationssichere Wasserzeichen für Audio- und Bild-Erkennungsklassifizierer.

Praktische Anwendungen und Forschungsinitiativen

OpenAI hat Anwendungen für den Zugang zu seinem DALL-E 3 Bild-Erkennungsklassifizierer über das Researcher Access Program geöffnet. Dieses Tool soll die Wahrscheinlichkeit vorhersagen können, dass ein Bild von einem der OpenAI-Modelle stammt.

Interne Tests zeigen eine hohe Genauigkeit bei der Unterscheidung von Nicht-KI-Bildern von DALL-E 3-Visualisierungen, wobei rund 98% der DALL-E-Bilder korrekt identifiziert wurden und weniger als 0,5% der Nicht-KI-Bilder fälschlicherweise markiert wurden.

Zusätzliche Unterstützungsmaßnahmen

OpenAI hat auch die Wasserzeichentechnologie in sein Voice Engine-Modell für benutzerdefinierte Stimmen integriert, das sich derzeit in einer begrenzten Vorschau befindet. Das Unternehmen ist zuversichtlich, dass die verstärkte Einführung von Herkunftsstandards dazu führen wird, dass Metadaten Inhalte während ihres gesamten Lebenszyklus begleiten und so eine entscheidende Lücke in den Praktiken zur digitalen Inhaltsauthentizität schließen.

Partnerschaften und Förderungen

Gemeinsam mit Microsoft startet OpenAI einen gesellschaftlichen Resilienzfonds in Höhe von 2 Millionen US-Dollar, um die KI-Bildung und das Verständnis zu fördern. Dieser Fonds unterstützt Initiativen wie AARP, International IDEA und die Partnership on AI.

OpenAI betont, dass kollektives Handeln erforderlich ist: „Unsere Bemühungen rund um die Herkunftsbestimmung sind nur ein Teil einer breiteren Branchenbemühung – viele unserer Peer-Forschungslabors und generativen KI-Unternehmen treiben ebenfalls Forschung in diesem Bereich voran. Wir begrüßen diese Anstrengungen – die Branche muss zusammenarbeiten und Erkenntnisse teilen, um unser Verständnis zu vertiefen und weiterhin Transparenz im Internet zu fördern.“

BORAN x PAROT Signature Logo White

Wer in der heutigen Zeit wettbewerbsfähig bleiben will, muss in die KI-Bildung seiner Mitarbeiter investieren.

Vereinbaren Sie jetzt Ihren Kennenlern-Termin für die KI-Schulung Ihres Teams!

Daniel Boran, KI- & Automation-Experte & Geschäftsführer Boran & Parot GmbH

Hinweis in eigener Sache

Dieser Artikel richtet sich an Personen jeden Geschlechts. Keinesfalls möchten wir Personen aufgrund der Vereinfachung und besseren Lesbarkeit ausschließen.

Folgen Sie uns hier.

BORAN x PAROT Signature Logo White
BORAN x PAROT Signature Logo White
BORAN x PAROT Signature Logo White
BORAN x PAROT Signature Logo White
WordPress Cookie Plugin von Real Cookie Banner