Robert Klatt
Wissenschaftler warnen vor einem drohenden Kontrollverlust über Künstliche Intelligenz (KI), die im schlimmsten Fall den Menschen auslöschen könnte.
Seoul (Südkorea). Eine Studie, der an auch leitende Wissenschaftler von Google Deepmind beteiligt waren, kam bereits 2022 zu dem Ergebnis, dass eine Künstliche Intelligenz (KI) wahrscheinlich die Menschheit auslöschen wird. Zu einem ähnlichen Ergebnis kamen auch führend Wissenschaftler und Wirtschaftsvertreter, die 2023 eine Stellungnahme des Center for AI Safety (CAIS) unterzeichnet haben. Nun haben führende Wissenschaftler, unter anderen von den Unternehmen Google, Meta und Microsoft, auf dem KI-Gipfel in Seoul erneut vor den Gefahren der KI gewarnt.
„Ohne ausreichende Vorsicht könnten wir unwiederbringlich die Kontrolle über autonome KI-Systeme verlieren.“
Laut ihrer Publikation im Fachmagazin Science gehören zu den Risiken einer autonomen KI die gesellschaftliche Manipulation, etwa durch gezielte Falschinformationen, die permanente Überwachung aller Menschen, Cyberattacken auf kritische Infrastruktur (KRITIS) und sogar die vollständige Auslöschung aller Menschen.
Als besonders gefährlich sehen die Wissenschaftler, zu denen etwa Geoffrey Hinton, Andrew Yao und Dawn Song gehören, autonome KI-Systeme. Laut ihnen könnte es passieren, dass diese Computersysteme nutzen, um ihre individuellen Ziele zu erreichen und dabei gegen die Interessen der Menschen handeln.
„Sobald autonome KI-Systeme unerwünschte Ziele verfolgen, könnten wir nicht mehr in der Lage sein, sie unter Kontrolle zu behalten.“
Laut den Autoren können auch KIs, die mit guten Absichten entwickelt wurden, solche unerwünschten Nebeneffekte haben. Dies bestätigte kürzlich auch eine Studie des Massachusetts Institute of Technology (MIT), laut der die bereits existierenden KIs Menschen täuschen und betrügen können.
Yann LeCun, der KI-Forschungschef des Facebook-Konzerns Meta, sieht hingegen noch keine reale Gefahr durch KIs. Laut ihm wird es noch viele Jahre dauern, bis KIs eine ausreichende Intelligenz besitzen, um den Menschen gefährlich werden zu können. Sam Altman, Chef des Unternehmens OpenAI, erklärt hingegen, dass der Konzern sich angesichts der Situation dazu verpflichtet führt, mehr in die Sicherheit ihrer Produkte zu investieren.
Science, doi: 10.1126/science.adn0117
