Internationale Cybersicherheitsbehörden veröffentlichen Leitfaden zur Entwicklung sicherer KI-Systeme

Internationale Cybersicherheitsbehörden veröffentlichen Leitfaden zur Entwicklung sicherer KI-Systeme

Internationale Cybersicherheitsbehörden veröffentlichen Leitfaden zur Entwicklung sicherer KI-Systeme

Künstliche Intelligenz (KI) kann unserer Gesellschaft viele Vorteile bieten, wie zum Beispiel Vorhersagen über Klima und Finanzmärkte, automatisierte medizinische Diagnosen und (teil-)autonome Transportmittel. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) betont jedoch, dass diese Systeme nicht nur sicher geplant und entwickelt werden müssen, sondern auch sicher eingeführt und betrieben werden sollen.

Um Betreibern dabei zu helfen, sichere KI-Systeme zu entwickeln, haben die Partnerbehörden des BSI aus Großbritannien und den USA das Dokument „Guidelines for Secure AI System Development“ veröffentlicht. Dieser Leitfaden wird von 23 internationalen Cybersicherheitsbehörden aus 18 Ländern unterstützt, einschließlich dem BSI selbst. Die Guidelines stellen Anforderungen auf: Die Systeme müssen jederzeit verfügbar sein und zuverlässig arbeiten können. Außerdem dürfen sie keine sensiblen Daten preisgeben.

BSI-Präsidentin Claudia Plattner erklärt: „Das BSI ist von Anfang an bei der Entwicklung von KI-Systemen im Bereich Cybersicherheit involviert. Dadurch können wir sicherstellen, dass wir die Potenziale dieser Schlüsseltechnologie für die Digitalisierung Deutschlands nutzen können und gleichzeitig transparent über Risiken kommunizieren.“ Durch dieses Vorgehen möchte man Vertrauen schaffen sowie insgesamt eine höhere Cyberresilienz in der Gesellschaft erreichen.

Die Veröffentlichung richtet sich hauptsächlich an Betreiber von KI-Produkten. In Zusammenhang mit bestehenden Prinzipien wie „security-by-design“ und „security-by-default“ zeigt das Dokument, welche spezifischen Sicherheitslücken bei KI-Systemen existieren und wie diese in der Entwicklung berücksichtigt werden können. Da Endnutzer oft nicht über genügend Einblicke verfügen, um die Risiken im Zusammenhang mit KI nachvollziehen zu können, fordern die Cybersicherheitsbehörden Betreiber von KI-Systemen auf, Nutzerinnen und Nutzer über mögliche Risiken zu informieren und ihnen aufzuzeigen, wie sie die Systeme sicher nutzen können.

Aus Sicht des BSI verdeutlicht diese gemeinsame internationale Veröffentlichung, dass Fragen zur Sicherheit von KI-Systemen nur in Zusammenarbeit mit internationalen Partnern gelöst werden können. Dies unterstreicht zudem ihre Bedeutung sowie den dringenden Handlungsbedarf in diesem Bereich.

Image by Tobias Weil from Pixabay
Über Carsten 294 Artikel
Carsten ist nicht nur ein Technik-Enthusiast, sondern auch ein Experte für digitale Innovationen mit einer langjährigen Erfahrung auf diesem Gebiet. Seine Artikel sind nicht nur informativ, sondern auch inspirierend und helfen unseren Lesern, die Welt der Technologie besser zu verstehen und optimal zu nutzen. Mit seiner Expertise und seinem Engagement ist Carsten ein wesentlicher Bestandteil von Snarl.de und trägt dazu bei, dass wir unseren Lesern stets hochwertigen und relevanten Content bieten können.
Kontakt: Webseite

2 Trackbacks & Pingbacks

  1. soothing music
  2. lakeside cafe

Kommentare sind deaktiviert.