Internationale Cybersicherheitsbehörden veröffentlichen Leitfaden zur Entwicklung sicherer KI-Systeme
Künstliche Intelligenz (KI) kann unserer Gesellschaft viele Vorteile bieten, wie zum Beispiel Vorhersagen über Klima und Finanzmärkte, automatisierte medizinische Diagnosen und (teil-)autonome Transportmittel. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) betont jedoch, dass diese Systeme nicht nur sicher geplant und entwickelt werden müssen, sondern auch sicher eingeführt und betrieben werden sollen.
Um Betreibern dabei zu helfen, sichere KI-Systeme zu entwickeln, haben die Partnerbehörden des BSI aus Großbritannien und den USA das Dokument „Guidelines for Secure AI System Development“ veröffentlicht. Dieser Leitfaden wird von 23 internationalen Cybersicherheitsbehörden aus 18 Ländern unterstützt, einschließlich dem BSI selbst. Die Guidelines stellen Anforderungen auf: Die Systeme müssen jederzeit verfügbar sein und zuverlässig arbeiten können. Außerdem dürfen sie keine sensiblen Daten preisgeben.
BSI-Präsidentin Claudia Plattner erklärt: „Das BSI ist von Anfang an bei der Entwicklung von KI-Systemen im Bereich Cybersicherheit involviert. Dadurch können wir sicherstellen, dass wir die Potenziale dieser Schlüsseltechnologie für die Digitalisierung Deutschlands nutzen können und gleichzeitig transparent über Risiken kommunizieren.“ Durch dieses Vorgehen möchte man Vertrauen schaffen sowie insgesamt eine höhere Cyberresilienz in der Gesellschaft erreichen.
Die Veröffentlichung richtet sich hauptsächlich an Betreiber von KI-Produkten. In Zusammenhang mit bestehenden Prinzipien wie „security-by-design“ und „security-by-default“ zeigt das Dokument, welche spezifischen Sicherheitslücken bei KI-Systemen existieren und wie diese in der Entwicklung berücksichtigt werden können. Da Endnutzer oft nicht über genügend Einblicke verfügen, um die Risiken im Zusammenhang mit KI nachvollziehen zu können, fordern die Cybersicherheitsbehörden Betreiber von KI-Systemen auf, Nutzerinnen und Nutzer über mögliche Risiken zu informieren und ihnen aufzuzeigen, wie sie die Systeme sicher nutzen können.
Aus Sicht des BSI verdeutlicht diese gemeinsame internationale Veröffentlichung, dass Fragen zur Sicherheit von KI-Systemen nur in Zusammenarbeit mit internationalen Partnern gelöst werden können. Dies unterstreicht zudem ihre Bedeutung sowie den dringenden Handlungsbedarf in diesem Bereich.
