El CEO de OpenAI, Sam Altman, se disculpó con los miembros de una comunidad canadiense donde ocurrió un tiroteo en masa a principios de este año por no alertar a la policía sobre la cuenta de ChatGPT del tirador. «El dolor que ha sufrido su comunidad es inimaginable», escribió Altman en una carta compartida el viernes en las redes sociales por el Primer Ministro de Columbia Británica, David Eby. «Los he tenido presentes a menudo en los últimos meses».
Ocho personas murieron en la masacre del 10 de febrero en la pequeña comunidad de Tumbler Ridge en el noreste de Columbia Británica. Seis personas fueron abatidas mortalmente cuando Jesse Van Rootselaar de 18 años abrió fuego en la Escuela Secundaria de Tumbler Ridge, dijeron las autoridades, y la madre y el hermano de 11 años del tirador murieron en una residencia cercana. Van Rootselaar murió de una herida de bala autoinfligida, según las autoridades.
Altman escribió en la carta, fechada el jueves, que la cuenta de ChatGPT de Van Rootselaar fue prohibida en junio de 2025, aproximadamente ocho meses antes del tiroteo. «Lamento profundamente no haber alertado a la policía sobre la cuenta que fue prohibida en junio», dijo Altman.
En febrero, OpenAI le dijo a CBS News que la cuenta de Van Rootselaar había sido marcada el año pasado por herramientas automatizadas de detección de abusos e investigadores humanos que identifican posibles usos indebidos de ChatGPT para actividades violentas. OpenAI dijo que la cuenta fue luego prohibida por violar sus políticas de uso.
OpenAI dijo que la empresa había considerado si debía alertar a la policía sobre la cuenta, pero en ese momento determinó que no representaba un riesgo inminente y creíble de daño físico grave a otros, sin cumplir con el umbral para la derivación.
«Nuestros pensamientos están con todos los afectados por la tragedia de Tumbler Ridge», dijo OpenAI en un comunicado a CBS News en febrero después del tiroteo. «Nos comunicamos proactivamente con la Real Policía Montada de Canadá con información sobre el individuo y su uso de ChatGPT, y continuaremos apoyando su investigación».
OpenAI dice que ChatGPT está entrenado para evitar daños en el mundo real, y se le instruye a negarse a ayudar cuando detecte una intención ilícita. Los usuarios que indiquen planes de hacer daño a otros son marcados para revisión humana para determinar si un caso representa una amenaza inminente de daño físico y debe ser referido a la policía, según la empresa.
Altman escribió en su carta que OpenAI seguirá centrándose en los esfuerzos de prevención «para ayudar a garantizar que algo así nunca vuelva a suceder».
«A continuación, el Fiscal General de Florida, James Uthmeier, anunció una investigación penal contra OpenAI después de revisar los mensajes entre ChatGPT y un estudiante de la Universidad Estatal de Florida acusado en un tiroteo en el campus de abril de 2025 que mató a dos personas y dejó heridas a varias otras. Uthmeier dijo que su equipo determinó que ChatGPT ofreció «consejos significativos» al presunto tirador. Su oficina está emitiendo citaciones a OpenAI solicitando registros de los protocolos de la empresa para informar posibles delitos a la policía, y su manejo de las amenazas de los usuarios. Respecto al tiroteo en Florida, un portavoz de OpenAI dijo en un comunicado a CBS News el martes que «después de enterarse del incidente», identificaron una cuenta de ChatGPT que se cree está asociada con el sospechoso y compartieron esta información con la policía.
_FIN_DEL_ARTÍCULO_
