Vitalik Buterin: KI stärkt Cybersicherheit statt sie zu schwächen

Ethereum-Mitbegründer Vitalik Buterin widerspricht der wachsenden Auffassung, KI mache Cybersecurity zu einem aussichtslosen Kampf. Buterin zufolge verschafft KI langfristig sogar den Verteidigern einen Vorteil. Er fügt ein persönliches Detail hinzu: Rund 90% seines Vermögens stecken in Krypto, was er als bewusste Wette auf diese Überzeugung bezeichnet.

Ethereum ist bei Bitvavo und OKX erhältlich.

In Kürze:

Buterin argumentiert, dass KI formal beweisen kann, dass Software sicher ist, so wie sie mathematische Theoreme beweisen kann.
Gute Definitionen von Sicherheit sind entscheidend und bilden eine kleinere Angriffsfläche als der Code selbst.
Buterin sagt, dass Ethereum in den kommenden Jahren diesen Weg einschlägt, mit der vollständigen Verifikation aller Software als Ziel.

KI als Waffe für Verteidiger

Buterin reagiert auf die Auffassung, dass KI Angreifer so stark macht, dass Cybersecurity nicht mehr zu gewinnen ist. Dieser Argumentation folgt er nicht. Seiner Meinung nach ist Sicherheit von Natur aus im Vorteil des Verteidigers, sobald die Branche ihre Hausaufgaben gemacht hat.

Er zieht einen Vergleich zu mathematischen Beweisen: Wenn KI komplexe mathematische Theoreme beweisen kann, dann kann sie auch formal nachweisen, dass ein Programm sicher ist. Das gilt selbst für sehr komplizierte Software. Es geht ihm also nicht darum, wer schneller Schwachstellen findet, sondern darum, Software zu entwickeln, die von Anfang an viel schwerer zu knacken ist.

VitalikButerin @VitalikButerin

It's an increasingly common take that AI hacking means cybersecurity is doomed.

I disagree. I think cybersecurity is naturally defense-favoring once people get their shit together. And anyone who continues to hold cryptocurrency (including me, ~90% of my net worth) is implicitly making that bet.

Here's why I am making that bet.

First, the oversimplified punchy one-line statement:

If AI can prove Navier-Stokes and FLT, then AI can prove the statement "this program is secure" as a mathematical theorem. Even if the program is very complicated.

Now, the nuance:

(See also: https://t.co/6YPWgVT7rO )

The word "secure" is hiding all kinds of skeletons in the closet in terms of what it actually means. What does it mean for Signal (the encrypted messenger) to be "secure"?

The most basic definition you might think of is: no one who doesn't hold the recipient's secret key can read the contents of the message.

But:

* Did you remember to include _other_ critical forms of security? Can the adversary forge messages? Can the attacker prevent messages from reaching the recipient? Can they cause your client to crash by sending malformed messages?
* Have you made sure that your model of the adversary includes attackers that interfere with the protocol actively and not just passively? And attackers that interfere by replaying messages to you or the recipient that either of you sent over the wire at any point earlier?
* What if the adversary hacked (or _is_) the Signal server?
* How did you learn which public key belongs to the recipient in the first place? What if that process was tampered with?
* What if your device gets hacked at some point in the past or future - is your message still safe then?
* What if your key leaks because of a bug in your operating system? Or because you got a bugged version of the Signal client? Or what if the database is corrupted?
* Or the libraries, interpreter or compiler of the programming language you wrote it in?
* What if your key leaks because tiny perturbations in perceptible signals generated by the hardware leak mathematical relationships that can extract the key a few hundredths of a bit at a time?
* Are you hiding the *size* of the payload? Does that matter?
* You're definitely not hiding the identity of the sender and the recipient, and the exact time each message was sent (think: not just time-of-day, but also time deltas between one message and the next). Is that not enough to deduce a lot of important facts about what relationships you have, and what *kinds* of conversations you are having?

So ... even definitions can be over a thousand lines of code, and need deep careful thought to figure them out.

Working on making definitions more human-readable is of extreme importance - it's perhaps the only "high-level language" that matters right now.

But even still, even despite all of the above, for security-critical components, the definition is a much smaller attack surface than the implementation. Verifying that the definition is adequate is a much more tractable task than scanning over the code directly - and can become even more tractable with better tooling.

Definitions are also _additive_: if two groups have two different definitions A and B, then, well, you can just prove that the program satisfies both A and B. Code is not additive in this way: if a program is A + B, a bug in A _or_ B can sink the whole thing. Definitions are additive. And if you can't satisfy A and B at the same time, you've isolated the most important philosophical issue for your project to spend its next few weeks grappling with.

Sometimes, definitions are not much smaller than the implementation - UI components might be one example. But for many of the most critical components - message-passing protocols, sandboxes, cryptography like SNARKs and FHE - the asymmetry is real.

Historically, a large class of failures with this approach have come from people only verifying a small portion of their code, that they self-declared to be the security-critical portion, and ignoring the rest - and it turns out that something in the rest of the code is security-critical too.

This was reasonable back when verification was difficult and scarce. The solution today: sorry, you have to verify over literally your entire program, including database, networking, any caching layers, everything. Modern AI can do it.

So it's not about "the good guys find all the vulnerabilities before the bad guys do" - that could maybe work too, after all a finite program only has a finite number of vulns, but it's riskier - it's specifically an asymmetric strategy of making code that is much more resilient in the first place.

This is the kind of direction that Ethereum is going in for the next few years. There is no future for blockchains - especially blockchains with scalability and privacy - without doing this. We need to make software actually secure. And we have already made a lot of progress.

16 Sept 2026View full tweet on X ›

Die Definition von Sicherheit ist das eigentliche Problem

Ein großer Teil seiner Ausführungen dreht sich darum, was das Wort “sicher” eigentlich bedeutet. Buterin zeigt am Beispiel der Messaging-App Signal, wie viele Aspekte eine gute Sicherheitsdefinition umfassen muss. Man denke an das Fälschen von Nachrichten, Schwachstellen in Betriebssystemen, Angriffe über den Server oder das Ausleiten von Schlüsseln über Hardwaresignale.

Diese Definitionen können Tausende Zeilen Code umfassen und erfordern präzises Denken. Dennoch bilden sie eine kleinere Angriffsfläche als die Implementierung selbst. Ein zusätzlicher Vorteil ist, dass Definitionen kumulativ wirken: Erfüllt ein Programm zwei separate Sicherheitsdefinitionen, gelten beide gleichzeitig. Bei Code ist das anders, denn ein Fehler in einem Baustein kann das Ganze zu Fall bringen.

Buterin stellt fest, dass in der Vergangenheit oft etwas schiefging, weil Entwickler nur einen kleinen Teil ihres Codes verifizierten und den Rest außer Acht ließen. Seine Schlussfolgerung ist, dass eine vollständige Verifikation aller Ebenen notwendig ist: Datenbanken, Netzwerke, Caching-Schichten und die gesamte Lieferkette. Moderne KI macht das seiner Ansicht nach machbar.

Ethereum will vollständig verifizierbare Software

Buterin macht deutlich, dass dieser Ansatz direkt für Ethereum relevant ist. Ohne ernsthafte Schritte in Richtung nachweislich sicherer Software sieht er keine Zukunft für Blockchains, schon gar nicht für Netzwerke, die auf Skalierbarkeit und Privatsphäre setzen. Er stellt fest, dass bereits erhebliche Fortschritte erzielt wurden, die kommenden Jahre aber entscheidend werden.

Der Ethereum-Kurs steht zum Zeitpunkt des Schreibens bei $2.440, ein Anstieg von 1,4% in den vergangenen 24 Stunden.