Demandan a OpenAI en Canadá por no alertar sobre amenazas de tiroteo en ChatGPT

Una provincia de Canadá presentó una demanda judicial contra OpenAI, la empresa creadora de ChatGPT. La acusación formal sostiene que la compañía tecnológica omitió dar aviso a las fuerzas de seguridad sobre una serie de interacciones de carácter violento realizadas por un usuario en la plataforma, quien actualmente está bajo sospecha de planificar un tiroteo masivo.

La responsabilidad de las plataformas de IA

De acuerdo con los argumentos de la demanda, OpenAI habría desoído los llamados para alertar de manera urgente a las autoridades competentes sobre los textos de tono peligroso generados por el sospechoso. La provincia demandante señala que la empresa tenía la capacidad y la obligación de intervenir ante indicios claros de una amenaza armada en curso.

Este proceso judicial abre una nueva discusión internacional respecto a las obligaciones de las firmas de inteligencia artificial en la prevención del delito. El caso pone bajo la lupa los protocolos de seguridad de OpenAI y la responsabilidad civil de las plataformas tecnológicas frente a situaciones que pongan en riesgo la vida de los ciudadanos.

Con información de Al Jazeera (en).