22 Worte gegen die Auslöschung der Menschheit

von Leslie P. Zimmermann | Veröffentlicht am 01.06.2023

In einer 22 Wörter langen Stellungnahme rufen viele Bekannte der KI-Branche dazu auf, den Gefahren der Auslöschung der Menschheit durch Künstlicher Intelligenz (KI) zu begegnen. Nachdem bereits im März ein offener Brief erschienen war, der zu einem sechsmonatigen Moratorium der KI-Forschung aufrief und gemischte Reaktionen stieß, ist diese Stellungnahme der Versuch, mit vereinter Stimme zu sprechen [1]:

„Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.“ [2]

Auch soll die Diskussion über die existenziellen Risiken von Technologien aus der Nische einiger Tech-Kreise und Philosophie-Seminare herausgeholt werden, wo diese Debatten schon einige Dekaden geführt werden [3]. Ebenfalls dürfte sich viele der Unterzeichnenden darüber bewusst sein, dass sie selbst, genauer gesagt die Unternehmen, für die sie arbeiten, nicht so schnell mit der KI-Entwicklung stoppen werden. Daher sind sie mit der Stellungnahme wohl auch darum bemüht, die Verantwortung an den Gesetzgeber auszulagern.

Endnoten

  1. Roose, Kevin. „A.I. Poses ‘Risk of Extinction,’ Industry Leaders Warn“. The New York Times, 30. Mai 2023, Abschn. Technology. https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html.
  2. „Statement on AI Risk“, 30. Mai 2023. https://www.safe.ai/statement-on-ai-risk.
  3. Eine der bekanntesten Personen in dieser Debatte ist der Philosoph Nick Bostrom, der in Hinblick auf eine mögliche „Superintelligenz“ warnt: „[...] we can see that the outcome could easily be one in which humanity quickly becomes extinct.“ (Bostrom, Nick. Superintelligence: Paths, dangers, strategies. New York, NY, US: Oxford University Press, 2014, S. 419) Siehe auch: Joy, Bill. „Why the Future Doesn’t Need Us“. Wired, April 2000. https://www.wired.com/2000/04/joy-2/. Bostrom, N. „Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards“. Journal of Evolution and Technology 9 (2002). https://ora.ox.ac.uk/objects/uuid:827452c3-fcba-41b8-86b0-407293e6617c. Hendrycks, Dan, und Mantas Mazeika. „X-Risk Analysis for AI Research“. arXiv, 20. September 2022. http://arxiv.org/abs/2206.05862.