KI-Forscher warnen vor Risiko für die Menschheit

Mehrere KI-Forscher führender Unternehmen haben diese Woche ernste Bedenken hinsichtlich der Sicherheit fortschrittlicher künstlicher Intelligenz geäußert. Ein Forscher von Anthropic schätzt, dass die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts zum Tod aller Menschen führt, bei über 10 Prozent liegt.

Das Wichtigste in Kürze:

• Forscher von Anthropic, OpenAI und Google DeepMind warnen vor existenziellen KI-Risiken
• Ein Forscher gibt an, dass KI-Unternehmen rücksichtslos handeln und direkt auf Superintelligenz hinarbeiten
• Laut mehreren Forschern fehlt es derzeit an Plänen, um Alignment-Probleme zu lösen

Forscher verlässt Anthropic

Ein Forscher, der drei Jahre lang bei OpenAI und Anthropic an Pretraining-Forschung arbeitete, hat Anthropic diese Woche verlassen. Er sagt, keines der beiden Unternehmen handle verantwortungsvoll; beide steuerten in rasantem Tempo auf selbstverbessernde Superintelligenz zu.

Seine Kritik wird von Kollegen bei denselben Unternehmen bestätigt. Ein Forscher, der sich bei Anthropic mit KI-Alignment beschäftigt, bestätigt, dass das Team aufrichtig davon überzeugt ist, dass KI jeden Menschen auf der Erde töten kann. Die Wahrscheinlichkeit dafür schätzt er innerhalb von zehn Jahren auf mehr als 10 Prozent.

Mehrere Forscher äußern Besorgnis

Ein weiterer Forscher, der Google DeepMind im Juni verlassen hat, unterstützt diese Warnungen voll und ganz. Seiner Ansicht nach glauben viele Forscher, dass sie an etwas arbeiten, das jeden auf dem Planeten töten könnte. Das sei buchstäblich Teil seiner täglichen Arbeit gewesen.

Die gemeinsamen Warnungen deuten darauf hin, dass es in der KI-Branche ernsthafte Zweifel daran gibt, fortschrittliche Systeme sicher zu halten. Die Forscher weisen darauf hin, dass es derzeit keinen Plan gibt, um Alignment-Probleme für Superintelligenz zu lösen, trotz maximaler Anstrengungen von Anthropic, und dass klar keine Fortschritte erzielt werden.