Anthropic revela intentos de uso indebido de su IA en investigaciones de armas biológicas

Anthropic, la empresa californiana de inteligencia artificial, comunicó que ha logrado desarticular posibles complots en los que sus modelos de IA eran utilizados para llevar a cabo investigaciones que podrían facilitar el desarrollo de armas biológicas. Esta información fue reportada en un informe presentado el jueves.

La compañía explicó que, durante este año, identificó y bloqueó varios de estos usos inapropiados, aunque no pudo verificar si los fines de las investigaciones eran legítimos o malintencionados. Ante la incertidumbre sobre el potencial peligro de sus modelos y el riesgo de contribuir a la creación de patógenos dañinos, decidieron actuar preventivamente.

Detección y bloqueos implementados

En su declaración, Anthropic resaltó que aunque las evaluaciones pueden ofrecer indicios sobre la capacidad de sus modelos, no son concluyentes en cuanto a su uso real para desarrollar armas biológicas. Hasta el momento, la empresa no ha recibido evidencia pública sobre el mal uso de sus plataformas por parte de otras compañías.

La empresa también compartió una lista de los casos en los que se detectó un uso indebido de sus modelos de IA, incluyendo el chatbot Claude, en diferentes países como China, Rusia y Yemen. Esto ha generado un debate creciente entre expertos sobre el uso dual de la inteligencia artificial.

Anthropic, preocupada por la creciente autonomía de sus modelos, aseguró que ha desarrollado sistemas de detección para identificar y bloquear posibles riesgos relacionados con sus tecnologías de inteligencia artificial.