Umgang mit KI-Systemen

Risiken

Die Warnung bzgl. KI-Systemen vorweg. Die Nutzung von KI-Systeme kann mit Problemen verbunden sind.

Häufige Probleme sind:

Halluzinationen
KI-Systeme können sogenannte Halluzinationen erzeugen. Dabei handelt es sich um Inhalte, die zwar plausibel klingen, jedoch faktisch falsch, erfunden oder irreführend sind. Dies betrifft insbesondere medizinische, rechtliche, gesetzliche oder behördliche Angaben.
Fehlerhafte oder nicht überprüfbare Quellen
Die KI kann Inhalte generieren, die sich auf nicht verifizierte, veraltete oder unpassende Quellen stützen. Diese sind im Text möglicherweise nicht direkt erkennbar oder überprüfbar. Es besteht die Gefahr, dass falsche Informationen einfließen.
Falsche Interpretationen und Fehlverständnisse
Das System analysiert die eingegebenen Informationen, kann diese jedoch missverstehen oder falsch interpretieren – insbesondere wenn Formulierungen mehrdeutig oder unklar sind.

Anpassungen

Die Aussage eines KI-Systems ist nicht in Stein gemeißelt. Falls Fehler enthalten sind oder euch die Ausgabe nicht gefällt, könnt ihr das KI-System bitte, Änderungen durchzuführen oder Alternativen zu präsentieren.

Zur Inspiration ein paar Beispiele:

Liefere mir 3 andere Vorschläge für den Abschnitt „d4 Mobilität“ aus denen ich wählen kann.

Erwähne in Kapitel XYZ auch dass ich ein Warmduscher bin.

Beschreibe den Sachverhalt XYZ im Abschnitt ABC ausführlicher.

Lasse den Themenkomplex XYZ weg.