OpenAI über KI-Modell Claude von Anthropic gehackt

OpenAI wurde Anfang dieses Jahres mithilfe von Claude gehackt, dem KI-Modell des Konkurrenten Anthropic. Forscher von Hacktron AI schafften es, über eine Schwachstelle in einem Forum eines Drittanbieters Zugang zu den ChatGPT-Konten mehrerer OpenAI-Mitarbeiter zu erlangen und schließlich bis zur internen GitHub-Codebasis des Unternehmens vorzudringen. OpenAI hat die Schwachstellen inzwischen behoben und die Forscher über sein Bug-Bounty-Programm belohnt.

In Kürze:

• Hacktron AI nutzte Anthropics Claude, um Schwachstellen bei OpenAI auszunutzen
• Der Angriff ermöglichte Zugriff auf Mitarbeiterkonten und die interne GitHub-Codebasis
• OpenAI behob die Probleme und zahlte den Forschern 6.500 $

Claude als Werkzeug für den Angriff auf OpenAI

Die Forscher von Hacktron AI setzten Claude ein, das große Sprachmodell von Anthropic, um eine Schwachstelle in einem Forum eines externen Anbieters zu finden und auszunutzen, das OpenAI nutzt. Über dieses Forum verschafften sie sich Zugang zu den ChatGPT-Konten mehrerer OpenAI-Mitarbeiter.

Von diesen Konten aus öffnete sich ein Weg zur internen GitHub-Codebasis von OpenAI, in der sensibler Quellcode und Projektinformationen gespeichert sind. Der Einbruch ereignete sich im Juli, doch die Ergebnisse werden erst jetzt veröffentlicht, wie die Financial Times berichtet.

OpenAI zahlt 6.500 $ an die Forscher

Nachdem die Schwachstellen gemeldet worden waren, hat OpenAI sie behoben. Das Unternehmen zahlte den Forschern über sein Bug-Bounty-Programm eine Vergütung von 6.500 $. Solche Programme sollen externe Sicherheitsforscher dazu anregen, Schwachstellen verantwortungsvoll zu melden, statt sie auszunutzen oder öffentlich zu machen.

Der Fall zeigt, dass KI-Modelle nicht nur für produktive Zwecke eingesetzt werden, sondern auch als Hilfsmittel bei der Sicherheitsforschung und der Suche nach Schwachstellen in Systemen anderer Unternehmen. Dass OpenAI, eines der bekanntesten KI-Unternehmen der Welt, dabei Ziel eines Angriffs war, der teilweise mit der Technologie eines Konkurrenten ausgeführt wurde, macht die Enthüllung bemerkenswert.