„Weckruf“: Künstliche Intelligenz entwickelt 40.000 Chemie-Waffen in 6 Stunden
Ein Test zeigt die Gefahr von Künstlicher Intelligenz. Wissenschaftler sehen die Entwicklung von 40.000 Giften in wenigen Stunden als „Weckruf“.
Kassel – Die Wissenschaftlerinnen und Wissenschaftler sind selbst überrascht: Ein Computer hat insgesamt 40.000 mögliche Chemie-Waffen in nur sechs Stunden erstellt. Einige sollen so giftig sein wie das Nervengift VX.
Das bekannte Gift tötet in nur wenigen Minuten und zählt zu den giftigsten Substanzen auf der Erde. Es kann über Haut, Augen oder Atemwege aufgenommen werden. Im Februar 2017 wurde der Halbbruder von Kim Jong-un mutmaßlich mit dem Wirkstoff VX getötet, so die Nachrichtenagentur afp.
Chemie-Waffen: Normalerweise erzeugt die KI Medikamente
Eigentlich geht es bei der computergestützten Chemie-Forschung darum, Medikamente für seltene Krankheiten zu entwickeln. Forscher von Collaborations Pharmaceuticals (USA) haben das Gift-Experiment lediglich auf Anfrage durchgeführt, das schreibt das Wirtschaftsmagazin t3n.de.
Angefragt hatte die Spiez Convergence. Diese Konferenz beschäftigt sich mit möglichen Auswirkungen der Wissenschaft auf die Biowaffenkonventionen*, so t3n.
Computer mit tödlichen Rezepturen: KI hat in kürzester Zeit viele Gifte erzeugt
Für das etwas andere Experiment haben die Forschenden ihre künstliche Intelligenz (KI), umgekehrt laufen lassen. Normalerweise untersucht die KI Toxizität (Giftigkeit) von Molekülen, um gefahrlose Wirkstoffe zu erzeugen.
Der Test sollte zeigen, wie gefährlich eine solche KI sein kann, wenn sie für die falschen Interessen verwendet wird. Das sagte der Hauptautor des Experimentes, Fabio Urbina, gegenüber dem amerikanischen Mediennetzwerk The Verge. Veröffentlicht wurden die Ergebnisse, am 7. März 2022 im Forschungsjournal nature machine intelligence.
Tod aus dem Computer: Ergebnisse seien ein „Weckruf“ so die Forschenden
Die Resultate des Tests müssen als „Weckruf“ verstanden werden, schrieben die Forschenden in ihrer Veröffentlichung von Anfang März. Das Herstellen von Giften, beziehungsweise chemischen oder biologischen Kampfstoffen, würde durch das maschinelle Lernen extrem vereinfacht werden, so die Herausgeber.
Die KI erzeugte in dem Experiment viele bereits bekannte Gifte, darunter auch das gefährliche Nervengift VX. Einige der Gifte seien sogar noch tödlicher als VX, so Urbina. In ihrer Veröffentlichung gingen die Forschenden nicht allzu sehr ins Detail, um nicht zu viele Informationen zur Giftstoffgewinnung zu verraten.
Gefahr aus dem Computer: Mit wenig Kenntnissen zur Gift-Waffe
Für die Erstellung der Stoffe brauche es nicht viel, so Urbina. Kenntnisse in der Anwendung des Programms Python, die richtigen Datensätze (aus dem Internet) und zwei bis drei Tage Zeit, würde wohl schon reichen.
Die Forschenden erhoffen sich eine Sensibilisierung von vielen Wissenschaftlerinnen und Wissenschaftlern für dieses oder ähnliche Szenarien. Außerdem müsse ein Umgang mit den frei zugänglichen Datensätzen gefunden werden. So wichtig die freie Zugänglichkeit für die Forschung ist, so gefährlich kann sie im Bereich von Chemie und Giften für die Menschen werden. (lm) *wlz.de ist ein Angebot von IPPEN.MEDIA.
Auch interessant
Kommentare
Liebe Leserinnen und Leser,
wir bitten um Verständnis, dass es im Unterschied zu vielen anderen Artikeln auf unserem Portal unter diesem Artikel keine Kommentarfunktion gibt. Bei einzelnen Themen behält sich die Redaktion vor, die Kommentarmöglichkeiten einzuschränken.
Die Redaktion