BSI warnt vor KI-gestützter Schwachstellen-Analyse

Das Bundesamt für Sicherheit in der Informationstechnik beobachtet ein neues KI-Modell zur Aufdeckung von Softwarelücken mit Besorgnis. Die Entwicklung könnte die Cyberbedrohungslage grundlegend verändern.

Das amerikanische Unternehmen Anthropic hat ein Künstliche-Intelligenz-Modell namens Claude Mythos entwickelt, das versteckte Sicherheitslücken in Software automatisch aufspürt. Nach Angaben des Herstellers hat das System bereits Tausende gravierender Schwachstellen identifiziert – in Betriebssystemen und Webbrowsern, die weltweit Millionen Menschen nutzen.

Die BSI-Präsidentin Claudia Plattner nimmt diese Entwicklung ernst. Sie befürchtet, dass solche leistungsstarken Werkzeuge mittelfristig auch Cyberkriminellen zur Verfügung stehen könnten und damit die gesamte Bedrohungslage im Netz umkrempeln würde. Anthropic plant derzeit, ausgewählte Großkonzerne wie Apple und Microsoft sowie IT-Sicherheitsfirmen Zugang zu Mythos zu geben – nicht aber der Öffentlichkeit.

Für Deutschland stellt sich nach Ansicht des BSI auch eine Frage der nationalen Sicherheit. Denn wenn klassische Softwareschwachstellen zuverlässig gefunden und behoben werden, könnten Ermittler und Geheimdienste nicht mehr auf sogenannte Zero-Day-Lücken zurückgreifen – Sicherheitsmängel, die Herstellern noch nicht bekannt sind und die derzeit zur Aufklärung schwerer Straftaten genutzt werden.