OpenAI informó que, en situaciones donde se identifiquen amenazas serias hacia terceros, algunas conversaciones de ChatGPT podrán ser revisadas por un equipo especializado y, de ser necesario, derivadas a las autoridades.

"Si los revisores humanos determinan que un caso implica una amenaza inminente de daño grave, podríamos informarlo a las fuerzas policiales", explicó la compañía en un comunicado reciente.

Este procedimiento incluye el análisis de diálogos en contextos como salud mental o posibles planes de violencia, y habilita sanciones que van desde el bloqueo de cuentas hasta la notificación a organismos oficiales.

En qué casos pueden entregar información

Las políticas de uso actualizadas señalan que OpenAI puede compartir datos de usuarios con gobiernos u otros terceros "si es requerido por la ley, para prevenir fraude, actividad ilegal o para proteger la seguridad de los productos, empleados y usuarios".

Aunque no se detallaron los protocolos específicos, la empresa aclaró que la revisión interna será un paso previo a cualquier reporte a las autoridades.

Este mecanismo, remarcan especialistas, no es ajeno a otras plataformas digitales que también colaboran en investigaciones cuando existen órdenes judiciales.

La polémica y el antecedente de una demanda

El anuncio llega en medio de cuestionamientos por casos en los que el chatbot habría dado respuestas dañinas. Uno de los más resonantes fue la denuncia de los padres de un adolescente de 16 años que se suicidó y que, según la demanda, recibió consejos de ChatGPT para concretar su decisión.

Los familiares acusan a OpenAI de homicidio culposo y sostienen que la empresa no activó protocolos de emergencia pese a detectar señales claras de riesgo. "Lo que este caso pondrá en tela de juicio es hasta qué punto OpenAI y Sam Altman se apresuraron a comercializar ChatGPT a pesar de los problemas de seguridad", señaló el abogado de la familia.