DATOS
La IA que ayudó a evitar un crimen: ChatGPT alertó al FBI sobre plan para asesinar a una exnovia
Los sistemas de seguridad de OpenAI identificaron señales que apuntaban a una amenaza potencialmente creíble contra otra persona
La inteligencia artificial volvió a demostrar que puede tener aplicaciones que van mucho más allá de responder preguntas o facilitar tareas cotidianas. En Florida, los sistemas de seguridad de ChatGPT permitieron detectar un posible plan de violencia contra una mujer y activar una alerta que terminó llegando al FBI.
El caso involucra a Darren Zhou, un exanalista financiero de Goldman Sachs, de 25 años, quien recientemente se declaró culpable de cargos relacionados con amenazas y acoso contra su expareja.
De acuerdo con documentos judiciales citados por medios estadounidenses, Zhou utilizó ChatGPT durante semanas para hablar de su exnovia y, con el paso del tiempo, sus conversaciones evolucionaron hacia amenazas explícitas y planes para atacarla.
El hombre llegó a describir al chatbot escenarios en los que pretendía localizar a la mujer, agredirla y asesinarla. También habría hablado de un supuesto plan de asesinato-suicidio y de haber adquirido armas para llevarlo a cabo.
La inteligencia artificial detectó el peligro
Lo que convirtió este caso en un hecho extraordinario fue que las conversaciones no quedaron simplemente almacenadas en el historial del usuario.
Los sistemas de seguridad de OpenAI identificaron señales que apuntaban a una amenaza potencialmente creíble contra otra persona. Posteriormente, un equipo especializado revisó las conversaciones y la empresa emitió una alerta de emergencia al FBI.
La información fue entregada a las autoridades federales, que posteriormente la hicieron llegar a la Oficina del Sheriff del Condado de Palm Beach. Los investigadores analizaron aproximadamente dos meses de conversaciones y concluyeron que no se trataba únicamente de una expresión momentánea de enojo, sino de un patrón de amenazas, preparación y planificación.
La intervención permitió que las autoridades actuaran antes de que el supuesto ataque se concretara.
Zhou fue arrestado en mayo y posteriormente Goldman Sachs confirmó su despido después de conocer el caso.
Una segunda oportunidad para la tecnología
El caso pone sobre la mesa una de las aplicaciones más importantes que puede tener la inteligencia artificial: detectar señales de peligro y contribuir a prevenir tragedias.
Los sistemas de IA son capaces de analizar enormes cantidades de información y reconocer patrones que podrían pasar inadvertidos en una conversación cotidiana. En este caso, esa capacidad permitió identificar que las expresiones del usuario habían evolucionado de simples declaraciones a amenazas concretas contra una persona.
La tecnología, sin embargo, no sustituyó a las autoridades. La información generada por el sistema fue revisada y posteriormente canalizada a las fuerzas de seguridad, que fueron las encargadas de investigar y actuar.
Ese punto es fundamental: la IA funcionó como una herramienta de detección temprana, mientras que la decisión de intervenir correspondió a seres humanos y a las instituciones encargadas de proteger a la víctima.
El caso termina en una condena
Zhou llegó a un acuerdo de culpabilidad con la fiscalía. Como parte del acuerdo, recibió ocho años de libertad condicional, deberá utilizar un monitor electrónico durante los primeros dos años, someterse a una evaluación de salud mental y participar en un programa para agresores de violencia doméstica.
También tiene prohibido acercarse o comunicarse con su expareja y posee restricciones relacionadas con armas, alcohol y drogas.
Más allá del proceso judicial, el caso deja una imagen poco habitual de la inteligencia artificial: una tecnología creada para conversar y asistir a las personas terminó convirtiéndose, mediante sus mecanismos de seguridad y la intervención de especialistas, en una herramienta que ayudó a detectar una amenaza y permitió a las autoridades actuar antes de que ocurriera una posible tragedia.
La historia también abre un debate inevitable sobre los límites de la privacidad y sobre cuándo una plataforma tecnológica debe intervenir cuando detecta un peligro grave. Pero en este caso concreto, la alerta de emergencia terminó teniendo un resultado decisivo: el supuesto plan criminal fue descubierto antes de que pudiera llevarse a cabo.