Detenido tras amenazar a su hijo a través de un chatbot de IA

Un agricultor de 36 años, de la localidad de São Gabriel da Palha en Brasil, fue arrestado después de intercambiar mensajes perturbadores con el asistente de inteligencia artificial ChatGPT durante casi dos meses. En sus conversaciones, el hombre reveló su deseo de matar a su hijo y a otras personas antes de suicidarse.

Las autoridades tomaron conocimiento del caso cuando OpenAI, la empresa detrás de ChatGPT, reportó los mensajes al FBI, que posteriormente alertó a las autoridades brasileñas. Este tipo de situaciones son raras y plantean desafíos para la policía y el sistema judicial en cuanto a la interpretación y manejo de amenazas potenciales detectadas por inteligencia artificial.

Según Brenno Andrade, jefe de la comisaría de delitos cibernéticos en Espírito Santo, el sospechoso había mostrado poco contacto con su hijo, limitándose a pagar la manutención. La policía sospecha que el resentimiento por estos pagos pudo haber motivado sus amenazas.

Durante la búsqueda en su propiedad, los agentes encontraron cuatro botellas con sustancias no identificadas y una cuerda atada con un nudo, lo que sugiere intenciones suicidas. Además, se descubrieron indicios de que el hombre había planeado ataques contra escuelas, iglesias y policías.

Después de 54 días de detención, el agricultor fue liberado el 13 de agosto debido a retrasos en la investigación. Aunque no se han presentado cargos en su contra, enfrenta restricciones, como la prohibición de contactar a su hijo y el uso de un dispositivo de monitoreo electrónico mientras las indagaciones continúan.

Este caso representa uno de los pocos en el que un chatbot ha generado una alerta a las autoridades, lo que lleva a preguntarse sobre su papel en el proceso judicial. La defensa del acusado sostiene que simplemente estaba hablando sin intención real de llevar a cabo sus amenazas, planteando un debate sobre la naturaleza de los delitos relacionados con la inteligencia artificial.

"Si hablar con la IA y decir tonterías es un delito, todo el mundo irá a la cárcel".

En resumen, este incidente no solo resalta la importancia de la vigilancia en el uso de tecnologías de IA, sino también la necesidad de contar con un marco legal que aborde adecuadamente las amenazas detectadas por estas herramientas, evitando tanto la omisión como la sobreexposición a la vigilancia.