De Último Minuto

6/recent/ticker-posts

Ad Code

Empresas de datos se vuelven cuerpos policiales en nuestra distopía moderna

NACIONAL
El sector privado se está involucrando en la lucha contra la delincuencia
Es sorprendente cómo la realidad ha llegado a reflejar la ciencia ficción distópica. En la película Sentencia Previa (Minority Report) de 2002, Tom Cruise interpretó a un policía que trabajaba en una división especializada en Virginia conocida como PreCrime que capturaba a individuos basándose en el conocimiento previo de sus delitos proporcionado por videntes.

La vigilancia masiva y la tecnología representada en la película (publicidad personalizada basada en la ubicación, reconocimiento facial, periódicos que se actualizaban a sí mismos) son omnipresentes en la actualidad. El único aspecto en el que el director Steven Spielberg se equivocó fue en la necesidad de recurrir a videntes. En cambio, las fuerzas del orden pueden recurrir a datos y tecnologías proporcionados por compañías como Google, Facebook, Amazon y el grupo de inteligencia Palantir.

Vale la pena recordar la perspectiva distópica de estas capacidades en un momento en que el sector privado está cada vez más involucrado en el negocio de la lucha contra la delincuencia y la recopilación de inteligencia. La semana pasada, la Unión Americana de Libertades Civiles (ACLU, por sus siglas en inglés) y otros grupos de derechos humanos le pidieron a Amazon que dejara de vender su “orwelliano” sistema de procesamiento de imágenes Rekognition a las autoridades policiales, diciendo que estaban "propiciando el abuso en manos del gobierno".

Dijeron que el sistema representaba una "grave amenaza para las comunidades, incluyendo a las personas de color y a los inmigrantes". Los estudios han demostrado que el software de reconocimiento facial regularmente identifica erróneamente a las personas de color.

Esto es irónico, dado que las actividades policiales alimentadas por el análisis de grandes datos fueron impulsadas hace varios años por primera vez en EEUU como respuesta al racismo y al sesgo. La idea era que ayudaría a eludir los sesgos cognitivos humanos, como el vínculo entre la raza negra y la criminalidad.

Sarah Brayne, académica de la Universidad de Texas, estudió recientemente el uso de análisis de datos en el Departamento de Policía de Los Ángeles, que ha trabajado con Palantir para construir modelos predictivos de dónde podrían ocurrir crímenes. Ella descubrió que el análisis de datos había cambiado fundamentalmente la naturaleza de la vigilancia policial, reduciendo la reacción al crimen y orientándola más hacia la vigilancia masiva y la predicción de dónde podría ocurrir un crimen.

Además, la fusión de múltiples fuentes de datos en los modelos de Palantir también significa que las personas que nunca han tenido un encuentro con la policía bien podrían terminar bajo vigilancia.

Además, los informes de transparencia emitidos por los grandes grupos tecnológicos que documentan las solicitudes que reciben de los gobiernos de todo el mundo para obtener información sobre los usuarios de la plataforma muestran que las cifras han aumentado de forma espectacular en los últimos años. Solamente en los últimos seis meses, Google recibió aproximadamente 87,000 solicitudes de este tipo, y 66 por ciento de ellas resultaron en la entrega de parte de la información.

Las solicitudes que vienen en forma de una orden de búsqueda (por ejemplo, para el contenido de los correos electrónicos de alguien) deben cumplirse. Pero otras solicitudes de información "sin contenido", como el número de comunicaciones entre dos personas o el encabezado de un correo electrónico, se pueden solicitar con una citación o una orden judicial, que son más fáciles de obtener.
Las empresas pueden optar por cumplir con esas solicitudes, desafiarlas en los tribunales o tratar de reducir su alcance. Los ejecutivos pueden tomar decisiones muy diferentes con respecto a la información que entregan.

Mientras tanto, hay grandes categorías de información que los jueces y los reguladores todavía están decidiendo cómo manejar. La Corte Suprema de EEUU está a punto de decidir qué cantidad información basada en la ubicación se debe entregar a las autoridades sin una orden judicial; en este momento, las compañías toman la decisión por sí mismas. También está por verse cómo el nuevo Reglamento General de Protección de Datos de Europa, que se introdujo el viernes pasado, coincidirá con, por ejemplo, la recientemente aprobada Ley de la Nube de EEUU que les permite a las autoridades estadounidenses recopilar datos recolectados en el extranjero.

Por supuesto, hay muchos países, como China, en los que el sector público y el privado ya trabajan juntos en la vigilancia pública masiva. Esto no sólo afecta a los gigantes tecnológicos chinos — Baidu, Alibaba y Tencent — sino a cualquier empresa occidental que recopila datos en China. Apple, por ejemplo, ha protegido bastante los datos de sus usuarios en EEUU; se negó a ayudar al FBI a desbloquear un iPhone bloqueado durante las investigaciones de los ataques terroristas de San Bernardino en 2015. Sin embargo, Beijing ha obligado a la empresa a trasladar todos sus centros de datos iCloud de sus usuarios chinos a China continental, donde serán administrados por una empresa local, que no necesita cumplir con las leyes estadounidenses sobre protección de datos.

La conclusión es que las empresas, les guste o no, se están convirtiendo en cuerpos policiales. Esto ha llevado a algunos altos ejecutivos a preguntarse si desean almacenar tanta información como lo hacen actualmente, especialmente en empresas cuyos modelos comerciales principales no involucran la gestión de datos.

También se están librando batallas internas en Google y en otras partes sobre si la tecnología de la compañía — no sólo los datos — debe proporcionarse a los funcionarios del departamento de defensa y de la ley. A medida que la cantidad de datos digitales crece, también se intensificará el debate sobre quién debe manejarlos y cómo se deben gestionar.

DIARIO LIBRE

Publicar un comentario

0 Comentarios

Ad Code