SAN FRANCISCO, California.- Las advertencias sobre los posibles riesgos de la inteligencia artificial volvieron a generar debate luego de que Jacob Coxon, exempleado de Anthropic, asegurara que algunos especialistas de la industria consideran posible que sistemas avanzados de IA representen una amenaza extrema para la humanidad durante la próxima década.
Coxon, investigador de 27 años, anunció su salida de Anthropic mediante una serie de publicaciones en X, donde cuestionó el ritmo de desarrollo de la tecnología y advirtió sobre la posibilidad de que surjan sistemas con capacidades superiores a las humanas. Según planteó, estos modelos podrían llegar a adquirir recursos, encontrar vulnerabilidades informáticas y transformar determinadas áreas a una velocidad difícil de controlar.
Sus declaraciones se suman a una serie de cuestionamientos realizados por trabajadores e investigadores del sector, quienes han expresado preocupación por el avance acelerado de la IA y la capacidad de las empresas para establecer mecanismos efectivos de seguridad. En julio, alrededor de mil 400 empleados de compañías dedicadas a esta tecnología respaldaron una carta en la que solicitaron una mayor regulación gubernamental.
Las declaraciones de Coxon también recibieron respaldo de Evan Hubinger, investigador de mayor rango en Anthropic, quien afirmó que la posibilidad de que la IA llegue a representar una amenaza existencial es tomada en serio dentro del sector. Hubinger estimó personalmente en menos de 10% la probabilidad de un escenario de este tipo durante los próximos 10 años, aunque reconoció que actualmente no existe un plan definitivo para impedir que una eventual superinteligencia supere la capacidad humana de control. El concepto de superinteligencia continúa siendo teórico y es objeto de amplio debate entre especialistas.
