Se agota el tiempo para evitar una catástrofe para la humanidad: qué dijeron desde Washington
La empresa especializada en seguridad nacional e inteligencia artificial (IA) Gladstone AI alertó sobre los riesgos existenciales que suponen las nuevas tecnologías.
Un reciente informe comisionado por el Departamento de Estado de los Estados Unidos (EE.UU.) encendió alarmas al revelar que los sistemas más avanzados de inteligencia artificial (IA) podrían, en el peor de los casos, representar una «amenaza de extinción para la especie humana».
«A medida que los sistemas de IA se vuelven cada vez más capaces, crean nuevos riesgos para la seguridad nacional que deben ser monitoreados. Estos incluyen riesgos de accidentes, así como riesgos de nuevas aplicaciones maliciosas que antes eran imposibles», escribió Gladstone AI, la empresa encargada de realizar el reporte y especializada en seguridad nacional e IA.
La elaboración del informe tardó más de un año y se basó en entrevistas con más de 200 personas; entre ellas, altos ejecutivos de empresas líderes de inteligencia artificial, investigadores de ciberseguridad, expertos en armas de destrucción masiva y funcionarios de seguridad nacional dentro del Gobierno. A continuación, todos los detalles.
Inteligencia artificial: cuáles son los riesgos de esta tecnología
Today we’re announcing the results of the first U.S. government-commissioned assessment of catastrophic risks from AI on the path to AGI.
It was a year-long investigation into the national security risks introduced by advanced AI and culminated in an action plan to address them.
— Jeremie Harris (@jeremiecharris) March 11, 2024
El informe publicado por Gladstone AI identificó, a grandes rasgos, cuatro categorías de riesgos asociados a la IA. En concreto, profundizó sobre los riesgos económicos, sociales, existenciales y de seguridad nacional.
Respecto a la primera categoría, la compañía alertó sobre el desplazamiento laboral y la desigualdad económica, ya que consideran que la IA tiene el potencial para automatizar muchas tareas que actualmente realizan los humanos, además de que los beneficios de dicha tecnología podrían concentrarse en un pequeño grupo de personas.
Por otro lado, los expertos se mostraron preocupados por los casos de uso de la IA para manipular la opinión pública y las elecciones. De acuerdo al escrito, los modelos de próxima generación podrían «quebrantar la democracia» en caso de que fuesen de acceso abierto.
En cuanto a los riesgos sociales y/o existenciales, Gladstone AI explicó que la IA avanzada podría usarse para desarrollar armas autónomas que podrían desestabilizar la seguridad global y provocar catástrofes globales, como guerras nucleares o pandemias.
«Los riesgos asociados con estos acontecimientos son de alcance global, tienen orígenes profundamente técnicos y están evolucionando rápidamente«, dicta el informe, que también resalta la necesidad de abordar estas cuestiones con urgencia ya que cada vez hay menos tiempo para evitar «riesgos catastróficos».
Fuente: Infotechnology
Diario Mendoza Sur
