Aunque los avances en tecnología e inteligencia artificial (IA) pueden lograr muchas mejoras en la vida de la gente, si esta tecnología es mal usada puede llegar a causar mucho daño, inclusive una guerra nuclear internacional. Esto es lo que sugiere un nuevo informe.
Un equipo de expertos ha determinado que los avances tecnológicos podrían llevar a los líderes de los países a actualizar sus armas nucleares, lo que también genera el riesgo de que estas armas puedan ser manipuladas por una IA defectuoso o modificada.
RAND Corporation, una organización que se dedica a desarrollar soluciones para los desafíos de las políticas públicas, ha publicado un informe de cómo los avances en la inteligencia artificial pueden afectar el futuro de las armas nucleares. Los resultados se han basado en una combinación de conocimientos de expertos en diversos campos, incluida la seguridad nuclear, la inteligencia artificial, el gobierno y la industria.
Para elaborar el informe, se les pidió a los expertos que imaginen los sistemas de armas nucleares en 2040, y exploren cómo la IA podrían afectarlos.
RAND señala en su informe:
El temor de que las computadoras, por error o malicia, puedan llevar a la humanidad al borde de la aniquilación nuclear ha atormentado la imaginación desde los primeros días de la Guerra Fría. El peligro pronto podría ser más ciencia que ficción. Impresionantes avances en IA han creado máquinas que pueden aprender y pensar, provocando una nueva carrera de armamentos entre las principales potencias nucleares del mundo. No son los robots asesinos de los éxitos de Hollywood de los que tenemos que preocuparnos; es cómo las computadoras pueden desafiar las reglas básicas de la disuasión nuclear y llevar a los humanos a tomar decisiones devastadoras”.
Según los investigadores, a medida que la tecnología avanza, los países pueden preocuparse de que sus enemigos estén siempre un paso por delante de ellos. Esta preocupación puede causar que los países continúen avanzando en su propia tecnología nuclear como medida de protección. Sin embargo, esto podría tener un efecto continuo, con cada país avanzando en su tecnología por miedo.
Los avances en IA han provocado un nuevo tipo de carrera de armamentos entre las potencias nucleares. Esta tecnología podría desafiar las reglas básicas de la disuasión nuclear y conducir a errores de cálculo catastróficos”.
Además, el informe toma en cuenta que una IA podría ser pirateada y alimentada con información incorrecta. Esto es realmente preocupante, pues la información con las que cuentan las IA son utilizadas para tomar decisiones y realizar ataques. En el año 1983 casi ocurrió un error similar cuando un ex oficial del ejército soviético detectó una advertencia incorrecta en una computadora, acerca de que EE.UU. había lanzado un ataque con varios misiles, según señaló CNBC.
Edward Geist, investigador asociado de políticas de RAND, especialista en seguridad nuclear y coautor del nuevo documento, dijo en un comunicado:
Los sistemas autónomos no necesitan matar personas para socavar la estabilidad y hacer más probable la guerra catastrófica”.
Sin embargo RAND aclara que con la cantidad correcta de cooperación global, las IA podrían hacernos más seguros.
No hay comentarios:
Publicar un comentario
Nota: solo los miembros de este blog pueden publicar comentarios.