Leopoldina-Diskussionspapier zu Generativer KI - Deutscher Bildungsserver

Leopoldina-Diskussionspapier zu Generativer KI

h t t p s : / / w w w . l e o p o l d i n a . o r g / p u b l i k a t i o n e n / d e t a i l a n s i c h t / p u b l i c a t i o n / g e n e r a t i v e - k i - 2 0 2 4 /

[ Leopoldina-Diskussionspapier zu Generativer KILink defekt? Bitte melden! ]

In dem Leopoldina-Diskussionspapier gehen die drei Autorinnen Fragen zur verantwortungsvollen Entwicklung generativer KI nach. Generative Künstliche Intelligenz (KI) verändert seit Ende 2022 drastisch weite Bereiche der Lebens- und Arbeitswelt. Inzwischen gibt es zahlreiche KI-basierte Anwendungen, die anhand von Trainingsdaten Muster erlernen und damit neue sprachliche oder visuelle Produkte erstellen. Diese Anwendungen sind mittlerweile allgemein zugänglich und leicht zu nutzen. Vor diesem Hintergrund werfen die drei Autorinnen einen Blick auf Chancen, aber auch Gefährdungen für Individuen und die Gesellschaft durch den Einsatz von generativer KI. Die Autorinnen skizzieren Problemfelder, die in der allgemeinen Diskussion noch nicht ausreichend reflektiert werden, u. a. die Möglichkeiten und Grenzen von erklärbarer KI, Machtasymmetrien, Verantwortungsdiffusion und Kontrolldefizite. Diese sind zum Teil in der Funktionslogik der KI-Technologie selbst angelegt, ergeben sich aber auch im Zusammenspiel zwischen Mensch und Technik in unterschiedlichen Kontexten.