Umgang mit KI-Systemen

Die Warnung bzgl. KI-Systemen vorweg. Die Nutzung von KI-Systeme kann mit Problemen verbunden sind.

Häufige Probleme sind:

1. Halluzinationen
   KI-Systeme können sogenannte Halluzinationen erzeugen. Dabei handelt es sich um Inhalte, die zwar plausibel klingen, jedoch faktisch falsch, erfunden oder irreführend sind. Dies betrifft insbesondere medizinische, rechtliche, gesetzliche oder behördliche Angaben.
2. Fehlerhafte oder nicht überprüfbare Quellen
   Die KI kann Inhalte generieren, die sich auf nicht verifizierte, veraltete oder unpassende Quellen stützen. Diese sind im Text möglicherweise nicht direkt erkennbar oder überprüfbar. Es besteht die Gefahr, dass falsche Informationen einfließen.
3. Falsche Interpretationen und Fehlverständnisse
   Das System analysiert die eingegebenen Informationen, kann diese jedoch missverstehen oder falsch interpretieren – insbesondere wenn Formulierungen mehrdeutig oder unklar sind.

Die Aussage eines KI-Systems ist nicht in Stein gemeißelt. Falls Fehler enthalten sind oder euch die Ausgabe nicht gefällt, könnt ihr das KI-System bitte, Änderungen durchzuführen oder Alternativen zu präsentieren.

Zur Inspiration ein paar Beispiele: