Un incidente que parece sacado del guion de una serie ocurrió en Argentina: una inquietante conversación con ChatGPT disparó una alarma en Estados Unidos y, gracias a ello, la Policía Federal logró frustrar a un chico de 15 años que planeaba un ataque en su colegio para matar a varios de sus compañeros. El adolescente utilizaba el asesoramiento de la Inteligencia Artificial.
De EE. UU. a Argentina
La publicación realizada por el medio Clarín indica que la investigación comenzó el pasado 19 de agosto. Todo partió de una alerta remitida por el Agregado Jurídico del FBI en la Embajada de Estados Unidos en Argentina, relacionada con un usuario de Gmail que habría mantenido una conversación en ChatGPT, en la que hablaba de sus planes de realizar un tiroteo en una escuela. Inicialmente, se proyectaba para el año 2027, pero aparentemente pensaba con adelantar los plazos. En los chats con la IA, también había mencionado que era menor de edad.
Según fuentes oficiales, uno de los datos que hizo saltar las alarmas era que el adolescente había manifestado un elevado interés en la compra de vestimenta y de cuchillos tácticos.
A partir de estos datos, se activó un protocolo que derivó la alerta al FBI primero y a la Argentina después.
Incautación
Aunque la investigación se encuentra bajo estricto secretismo por tratarse de un menor de edad, el fiscal encargado del caso brindó algunos detalles a un medio radial.
Los datos aportados por el FBI incluían una serie de consultas a la IA y conversaciones con otras personas en el exterior vinculadas con este plan. También se determinaba el IP de la conexión, que permitió establecer que la comunicación se había realizado desde la zona de Quilmes. Posteriormente, comenzó un operativo de oficio, iniciando las tareas de campo, con análisis de fuentes abiertas, redes sociales y vigilancia en la casa señalada.
Entre la alerta de Estados Unidos y el allanamiento pasaron apenas ocho días. El pasado 28 de agosto, un grupo comando entró a la casa y comenzaron la requisa. A diferencia de otras alertas, que no pasan de fantasías adolescentes, en este caso encontraron material que acrecientan las sospechas: 2 celulares, 2 pares de guantes tácticos, un gorro tipo piluso camuflado militar, una balaclava con diseño de calavera, un pasamontaña camuflado militar y gafas de protección táctica de color negro. También se encontró una foto del menor en la que estaba probándose máscaras.
El joven, quien está acusado de intimidación pública en grado de tentativa, no prestó declaración al momento de ser allanado.
No es el primer caso
Aunque nos resulta muy llamativo, este caso de Argentina no es el primero de una alerta que sale desde OpenAI a las autoridades respecto a un usuario con potencial de cometer un crimen. En abril de este año, un hombre de 37 años le preguntó a ChatGPT en Francia cómo conseguir una Glock semiautomática para «matar a un agente de inteligencia de la CIA, el Mossad o la Direction Générale de la Sécurité Intérieure (DGSI)», el equivalente francés de la dirección de inteligencia. Horas después, el hombre fue detenido por las fuerzas de seguridad.
Otro caso ocurrió en este año; un aviso de OpenAI al FBI contribuyó al arresto de un hombre que planeaba el asesinato de su exnovia a través de su conversación con ChatGPT. Se trataba de un exanalista de Goldman Sachs y egresado con honores de la Universidad del nordeste de Boston, quien fue acusado de debatir con la IA los planes para violar y asesinar a su ex. «La voy a matar para fin de mes, si no es mía no quiero que nadie la tenga», le escribió al chat en uno de los mensajes que la firma le compartió a las autoridades federales. Las autoridades contactaron a la exnovia, quien contó que venía recibiendo llamadas y amenazas del hombre. Con esos elementos, la policía de Florida lo detuvo en mayo. En un juicio abreviado, aceptó su culpabilidad para evitar casi 25 años de cárcel por acecho agravado y amenazas de muerte.
Protocolo establecido
OpenAI tiene un protocolo establecido para estos casos, que figura en el apartado de reglas de la comunidad de Open AI,
Primero, la herramienta detecta elementos que pueden indicar un daño potencial a otros. Si eso ocurre, reenvía los datos a un grupo de moderadores humanos, quienes determinan si representa una amenaza inminente de daño físico grave a otras personas. Si detectan indicios de daño potencialmente grave en el mundo real, se remite a un nivel superior para una investigación más exhaustiva. Esta etapa se reserva para un subconjunto limitado de casos y tiene como objetivo garantizar que los escenarios de mayor riesgo se evalúen con contexto y conocimientos especializados adicionales. Cuando las conversaciones indican un riesgo inminente y creíble de daño a terceros, se notifican a las autoridades policiales.
En las políticas de privacidad de OpenAI también se especifica que comparten información personal sobre el usuario en el caso de que sea necesario para «proteger la seguridad y la integridad de nuestros productos, empleados, usuarios o el público».