La IA podría representar un grave peligro para la humanidad, advierte experto de Anthropic

Evan Hubinger, quien lidera el área de seguridad en Anthropic, ha sostenido que existe una posibilidad de más del 10% de que la inteligencia artificial acabe con la humanidad en los próximos diez años. Esta afirmación se produce luego de que Jacob Coxon, un ingeniero que renunció recientemente a Anthropic, alertara sobre la falta de responsabilidad en el manejo de la IA por parte de las empresas del sector.

Coxon, que previamente trabajó en OpenAI, manifestó en redes sociales que el desarrollo acelerado de la IA podría resultar en sistemas que superen las capacidades humanas y que representen una amenaza sin precedentes. A su juicio, tanto OpenAI como Anthropic son conscientes del potencial destructivo de su trabajo, pero se encuentran atrapados en la carrera por liderar el mercado.

La necesidad de regulación en la IA

Coxon propuso la necesidad urgente de una regulación en el desarrollo de la IA, sugiriendo acciones como la prohibición temporal de mejoras en los modelos actuales. La falta de un marco regulatorio claro pone en riesgo el bienestar de la sociedad, y el ingeniero urge a sus colegas a reflexionar sobre las implicaciones de sus creaciones.

¿Queréis potenciar un ‘aprendizaje por refuerzo’ superinteligente sin un entendimiento riguroso de su mente? – Jacob Coxon

La preocupación por el impacto de la IA no es nueva, ya que otros expertos, como Geoffrey Hinton, también han dejado sus cargos en empresas tecnológicas para hablar abiertamente sobre los riesgos asociados con esta tecnología. Asimismo, un grupo de exempleados de OpenAI publicó una carta abierta denunciando la rapidez del avance en IA y la falta de medidas de protección para quienes alertan sobre estos peligros.