Missbrauchspotenzial hoch

KI entwickelt 40.000 chemische Waffen in 6 Stunden

Robert Klatt

Eine Künstliche Intelligenz (KI) aus der Medikamentenentwicklung hat in nur sechs Stunden 40.000 toxische Moleküle gefunden. Diese können als Basis für chemische Waffen verwendet werden.

Raleigh (U.S.A.). Wissenschaftler des Unternehmens Collaborations Pharmaceuticals entwickeln mit einer Künstlichen Intelligenz (KI) Moleküle für neue Medikamente darauf, unter der Bedingung, dass diese für den Mensch nicht toxisch sind. Eine Einladung von Labor Spiez aus der Schweiz zu einer Konferenz zur biologischen Rüstungskontrolle haben die Forscher um Fabio Urbina nun dazu genutzt, zu demonstrieren, dass mit ihrem Algorithmus mit kleinen Anpassungen auch neue potenziell tödliche Moleküle gefunden werden können. Diese könnten etwa in chemischen Waffen verwendet werden.

Laut ihrer Publikation im Fachmagazin Nature Machine Intelligence modifizierten die Wissenschaftler des Unternehmens ihren Molekülgenerator MegaSyn für ihre Präsentation auf der Konferenz so, dass er statt ungiftiger Moleküle, möglichst giftige Stoffe findet. Dabei sollte sich die KI auf Stoffe beschränken, die dem Nervengift VX ähneln. Es handelt sich dabei um einen der gefährlichsten chemischen Kampfstoffe weltweit.

40.000 Moleküle in sechs Stunden

In nur sechs Stunden fand die KI 40.000 Moleküle, die den Vorgaben der Wissenschaftler genügen. Darunter befanden sich bereits bekannte Nervengifte wie VX, aber auch viele völlig neue Stoffe. Ob diese auch tatsächlich toxisch sind, wurde in der Realität noch nicht untersucht. Weil die KI jedoch auch bekannte Gifte entwickelte, gehen die Wissenschaftler davon aus, dass zumindest ein Teil der 40.000 Moleküle sich als Basis für chemische Waffen eignen. Sie konstatieren daher, dass ein „nichtmenschlicher Generator einer tödlichen Chemiewaffe voll realisierbar ist“.

Weckruf für die Wissenschaft

Um die Methode anzuwenden, sind zwar noch Kenntnisse im Bereich der Chemie und Toxikologie nötig, das maschinelle Lernen vereinfacht die Entwicklung chemischer Kampfstoffe aber signifikant. Die Ergebnisse des Versuchs bezeichnen die Forscher deshalb als einen Weckruf dafür, wie KI für die Medikamentenentwicklung missbräuchlich verwendet werden. Die automatisierte Entwicklung biochemischer Kampfstoffe ist somit Realität und keine Science-Fiction mehr.

Problematisch daran ist auch, dass niemand weiß, wie viele Unternehmen über entsprechende Techniken verfügen. Es ist deshalb essenziell, dass die Wissenschaft sich mit dem enormen Missbrauchspotenzial der Technik auseinandersetzt, um mögliche Schutzmaßnahmen zu entwickeln.

Nature Machine Intelligence, doi: 10.1038/s42256-022-00465-9

Spannend & Interessant
VGWortpixel