IA descontrolada, ciberataques y armas: los riesgos que Anthropic expone a sus futuros accionistas

COMPARTIR

En el prospecto para su salida a bolsa, la empresa dedica 93 de 335 páginas a los riesgos que podrían afectar a sus inversionistas.

Anthropic, la empresa de inteligencia artificial creadora del asistente Claude, advirtió a sus futuros inversionistas sobre los riesgos que podría enfrentar. Entre ellos, que sistemas de IA actúen fuera de control, ciberataques y el posible uso de esta tecnología para desarrollar armas. Las advertencias están en el prospecto que presentó ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) antes de salir a bolsa. De sus 335 páginas, 93 están dedicadas a riesgos. El de SpaceX, en comparación, dedicó 38 de más de 250 páginas a ese tema.

La compañía advierte que sus modelos podrían avanzar tan rápido que no alcance a implementar medidas de seguridad adecuadas. También advierte que una IA cada vez más autónoma podría “realizar acciones dañinas de forma independiente y a gran escala, sin intervención humana”. Entre los posibles usos malintencionados menciona el desarrollo de armas químicas y el uso de la IA por gobiernos autoritarios para reprimir a sus ciudadanos.

El documento también incluye riesgos de negocio: la falta de capacidad de cómputo, la vigilancia sobre el impacto ambiental de los centros de datos y la dependencia de pocos clientes grandes, entre ellos SpaceX y Microsoft.

Según Brian Mulberry, estratega jefe de mercado de Zacks Investment Research, las reglas para cotizar en bolsa en Estados Unidos exigen que las empresas expongan sus riesgos “de forma muy clara”, para que los inversionistas sepan lo que están comprando.