KI-Modell entdeckt Sicherheitslücken – BSI warnt vor Risiken

Das US-Unternehmen Anthropic hat ein KI-System entwickelt, das verborgene Software-Fehler aufspürt. Das Bundesamt für Sicherheit sieht nationale Sicherheitsrisiken und sucht den Dialog mit den Entwicklern.

Ein neues Künstliche-Intelligenz-Modell des US-Konzerns Anthropic kann versteckte Sicherheitslücken in Software automatisch aufdecken. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) rechnet damit, dass dies erhebliche Auswirkungen auf die Cyberbedrohungen haben könnte.

Das BSI hat das System selbst noch nicht getestet, arbeitet aber mit den Entwicklern zusammen, um die Funktionsweise besser zu verstehen. BSI-Präsidentin Claudia Plattner bestätigte den Austausch mit Anthropic. Das Unternehmen plant, das Modell zunächst nicht der Öffentlichkeit zur Verfügung zu stellen.

Stattdessen sollen große Technologiekonzerne wie Apple, Amazon und Microsoft das System nutzen können, um Schwachstellen in ihren eigenen Programmen zu entdecken. Auch Sicherheitsfirmen und andere IT-Unternehmen sind Teil dieser kontrollierten Zusammenarbeit. So soll das Potenzial der Technik genutzt werden, ohne dass sie missbräuchlich eingesetzt wird.