Una conversación con inteligencia artificial dejó de ser privada cuando un hombre expresó su intención de asesinar a su hijo de ocho años. La alerta llegó a las autoridades y derivó en su detención antes de que se reportara una agresión.
El caso muestra que las plataformas pueden detectar mensajes asociados con daño inminente y activar protocolos de emergencia. La intervención abre preguntas sobre privacidad, falsos positivos y el límite entre moderación y vigilancia.
Especialistas señalan que una amenaza concreta, con víctima y posible intención, requiere una respuesta distinta a una consulta hipotética. La evaluación humana sigue siendo necesaria para interpretar el contexto.
Para familias y usuarios, el episodio recuerda que un chatbot no sustituye atención psicológica ni servicios de emergencia. También obliga a las empresas a explicar con claridad cuándo una conversación puede ser revisada o compartida.
