Dario Amodei aboga por ralentizar el desarrollo de la inteligencia artificial
El CEO de Anthropic solicita medidas de seguridad antes de continuar con el avance de la IA.
Dario Amodei, director ejecutivo de Anthropic, ha solicitado a la industria tecnológica que desacelere el desarrollo de la inteligencia artificial. Su petición se basa en la necesidad de implementar medidas de seguridad adecuadas antes de que la IA alcance capacidades potencialmente peligrosas.
Amodei advierte que, en menos de un año, la IA podría tener la capacidad de controlar internet de manera malintencionada. Este escenario plantea riesgos significativos para la humanidad, incluyendo ataques cibernéticos a gran escala y el desarrollo de armas biológicas.
Para abordar estos riesgos, el CEO propone un plan de tres etapas. La primera etapa incluye permitir el acceso a evaluadores externos para revisar los sistemas y las medidas de seguridad de la IA. La segunda etapa aboga por la coordinación entre empresas y países democráticos para establecer estándares comunes de seguridad.
Finalmente, Amodei sugiere la creación de acuerdos internacionales que definan límites y mecanismos de verificación para prevenir el uso peligroso de la inteligencia artificial. Su propuesta se presenta en un contexto de creciente debate sobre cómo equilibrar el avance tecnológico con la seguridad pública.