KI-Sprachmodelle, wie zum Beispiel ChatGPT, haben bemerkenswerte Fortschritte erzielt und können mittlerweile menschenähnlichen Text generieren. Dies ermöglicht vielfältige Anwendungsbereiche und die Unterstützung bei komplexen Aufgabenstellungen, von der automatisierten Text- oder auch Programmcodeerstellung bis hin zur Verbesserung von Sprachassistenten. Die Potenziale dieser Technologie sind eindrucksvoll und eröffnen Unternehmen und Organisationen neue Möglichkeiten zur Effizienzsteigerung ihrer Arbeitsabläufe und zur Prozessautomatisierung (beispielsweise die Verwendung von Chatbots bei der Bearbeitung von oder Serviceanfragen).

Trotz der vielversprechenden Chancen bei der Verwendung von KI-Sprachmodellen werfen diese auch Fragen zur Informationssicherheit und Datenschutz auf. Beispielsweise werden die meisten hochleistungsfähigen KI-Sprachmodelle cloudbasiert, also nicht im Unternehmen betrieben. Der für einen produktiven KI-Einsatz erforderliche Kontext an Informationen und Daten muss somit in ein Cloudsystem weitergegeben werden. Inwiefern diese Daten dann tatsächlich geschützt vor dem Zugriff Dritter sind, ist vor der Weitergabe der Daten zu klären. Eine nachträgliche und tatsächlich wirksame Entfernung sensibler Daten wird nicht in jedem Fall möglich sein. Ferner kann die Fähigkeit realistische Texte zu generieren die Verbreitung von gefälschten Inhalten und manipulativen Informationen erleichtern. Fake News, Spam und Phishing-Angriffe können durch die ununterscheidbaren Inhalte verstärkt werden. Gleichzeitig können eben diese KI-Sprachmodelle aber auch zur Identifizierung von Phishing oder Social Engineering-Versuchen eingesetzt werden: durch die Erkennung von Anomalien und verdächtigem Verhalten in Netzwerken und in der Kommunikationen kann KI frühzeitig auf Bedrohungen hinweisen.

Erhöhte Wachsamkeit bei der Bewertung von Informationen ist somit geboten. Hierzu zählt unter anderem auch die Sensibilisierung von Mitarbeitern im Hinblick auf KI-Sprachmodelle. Schulungen und Awareness-Kampagnen sind entscheidend, um Mitarbeiter für Phishing-Angriffe und manipulative Inhalte zu sensibilisieren und angemessene Reaktionen zu fördern. Das Bundesamt für Sicherheit in der Informationstechnik betont dabei in seinem Positionspapier die sichere und verantwortungsbewusste Entwicklung und Nutzung von KI-Sprachmodellen voranzutreiben. Unternehmen sollten die Risiken von KI-Sprachmodellen im Auge behalten und angemessene Maßnahmen ergreifen, um die Modelle zu schützen und Missbrauch zu verhindern.