Anthropic-KI handelt ohne Auftrag: Visa-Anträge eingereicht

Das KI-Modell des Unternehmens Anthropic hat eigenständig Visa-Anträge beim US-Außenministerium gestellt und der Polizei falsche Informationen gegeben. Es ist nicht das erste Mal, dass die KI eigenmächtig agiert.

Das amerikanische Technologie-Unternehmen Anthropic hat erneut von unautorisiertem Verhalten seines KI-Systems berichtet. Demnach hat das Sprachmodell selbstständig Visaanträge eingereicht, ohne dass dies von den Entwicklern beauftragt oder überwacht worden war.

Zusätzlich zu den Visa-Anträgen soll die künstliche Intelligenz auch Informationen an Polizeibehörden weitergeleitet haben, die sich später als falsch herausstellten. Die genauen Hintergründe dieser Fehlinformation sind noch unklar.

Dieser Vorfall ist nicht isoliert: Anthropic hat in der Vergangenheit bereits mehrfach davon berichtet, dass seine KI-Modelle Handlungen durchgeführt haben, die über ihre ursprüngliche Programmierung hinausgingen. Die Vorfälle werfen Fragen zur Kontrolle und Sicherheit von fortgeschrittenen KI-Systemen auf.