Wir unterstützen den öffentlichen Diskurs über KI-generierte Texte mit großer Begeisterung

Kontaktieren Sie uns für Vorträge, Fachartikel und mehr. Gemeinsam fördern wir Wissen und helfen gerne, die Auswirkungen von KI-generierten Inhalten zu untersuchen.

Kontaktiere uns

Warum ist die Aufklärung wichtig?

Große Sprachmodelle wie ChatGPT sind aus unserem Alltag längst nicht mehr wegzudenken. Mit seiner einfachen Bedienbarkeit hat allein ChatGPT eine Reichweite von 500 Millionen Nutzern weltweit erreicht. Jedes Unternehmen, unabhängig von Größe oder Branche, begegnet bereits KI-generierten Texten. Beispielsweise werden KI-Modelle zur Erstellung von Bewerbungen, E-Mails und Webseiteninhalten eingesetzt. Umso wichtiger ist es, über die Auswirkungen und den Umgang mit KI-generierten Texten aufzuklären, um sie nachhaltig zu nutzen.

Bereiche unser Aktivitäten

Unsere Aktivitäten erstrecken sich über viele Bereiche, darunter:

Lehre & Bildung

Umgang mit KI-generierten Texten in der Bildung

KI-Texte stellen den Bildungsbereich vor große Herausforderungen. Klare Richtlinien für den Einsatz von KI-Modellen wie ChatGPT in Universitäten und Schulen fehlen noch. Seit der Veröffentlichung von ChatGPT im November 2022 nutzen Schüler und Studierende diese Modelle im Lernalltag. Daher ist es wichtig, den Einsatz von KI-Textgeneratoren zu kontrollieren, um den Lernerfolg zu sichern.

Erste Ansätze wie die Empfehlung der Ständigen Wissenschaftlichen Kommission der Kultusministerkonferenz (SWK) schlagen vor, ChatGPT erst ab der achten Klasse regelmäßig zu nutzen. In den unteren Klassenstufen sollten Schüler weitgehend auf den Einsatz dieser Modelle verzichten und nur unter strenger Betreuung an die Technologie herangeführt werden.

Journalismus

Umgang mit KI-generierten Texten im Journalismus

Generative KI kann viele Schreibprozesse effizienter machen. Dabei darf sie jedoch keine journalistischen Grundprinzipien verletzen. Ein großes Risiko beim Einsatz von ChatGPT und Co. sind Falschinformationen und sogenannte „Content-Farmen“. Diese Netzwerke produzieren große Mengen kopierter Inhalte, um Werbeeinnahmen zu erzielen. Sie sparen sich den aufwändigen Recherche-, Interview- und Überprüfungsprozess, indem sie automatisiert Artikel anderer Nachrichtenportale mit KI kopieren.

Erste Ansätze für mögliche Richtlinien bietet die Pariser Charta, die zehn Regeln für den Einsatz von KI im Journalismus formuliert.

Cybersicherheit

KI-generierte Texte in der Cybersicherheit

KI-generierte Texte fordern die Cybersicherheit heraus. Künstliche Intelligenz macht Angriffe effizienter und schwerer erkennbar. So nutzen Kriminelle KI, um Phishing-E-Mails zu verfassen. Diese E-Mails wirken glaubwürdig und lassen sich massenhaft automatisiert erstellen. Die KI imitiert den Stil vertrauenswürdiger Quellen nahezu perfekt.

Daher müssen wir Deepfakes besser erkennen, um die Sicherheit gegen neue und bestehende Angriffe zu stärken

E-Commerce

Umgang mit KI-generierten Texten im E-Commerce

Produktbewertungen spielen oft eine entscheidende Rolle bei der Kaufentscheidung eines Kunden. Daher müssen Plattformbetreiber sicherstellen, dass diese Bewertungen authentisch und qualitativ hochwertig sind. Mit dem Aufkommen von KI-Modellen wie ChatGPT sehen sich E-Commerce-Betreiber zunehmend mit KI-generierten Bewertungen konfrontiert, die die Nutzererfahrung beeinträchtigen.

Ein interessantes Beispiel bietet Google: Auf dieser Plattform können Nutzer Restaurants, Geschäfte und Orte bewerten. Google hat festgestellt, dass KI-generierte Bewertungen die Nutzererfahrung verschlechtern. Deshalb hat das Unternehmen beschlossen, alle KI-generierten Bewertungen zu löschen.