Calificación social: Cuidado con lo que publicas

Resulta difícil imaginarse la vida sin las redes sociales. Las utilizamos para conversar, comunicarnos, compartir nuestras creaciones, discutir las noticias del momento y mucho más. Sin embargo, debes tener presente que cualquier podría utilizar tus perfiles en redes sociales para evaluar, por ejemplo, tu capacidad de pagar un préstamo bancario o para decidir si eres es el indicado para un trabajo específico.

La medición del potencial de una persona basada en sus acciones, el círculo social y demás se conoce como calificación social. La calificación social de una persona es similar en ciertos aspectos a la calificación de crédito que los bancos utilizan cuando conceden préstamos, pero puede incluir una gran variedad de información.

Muchos países ya usan la calificación social en diferentes situaciones. Por ejemplo, las aseguradoras de Nueva York tienen permiso legal para determinar las primas mediante el análisis de los datos provenientes de las redes sociales.

Y China está desarrollando un sistema de crédito social que algunos describen como algo similar a la novela 1984. Sin embargo, no todos consideran dichos sistemas como algo alarmante; algunos piensan que pueden ser muy útiles, pues pueden hacer la vida más segura. ¿Están preparadas las personas y la tecnología para lo que está por venir?

Calificación social: Qué opinan las personas

Para medir la opinión de la gente hacia la calificación social, hemos encuestado a más de 10.000 personas en todo el mundo. Y esto es lo que descubrimos.

Poco menos de la mitad (el 46 %) ha escuchado acerca de ella. El fenómeno es mucho más conocido en Asia. Por ejemplo, en China, donde las calificaciones se han extendido a nivel nacional, el 71 % de los encuestados conocen las calificaciones sociales, en comparación con el 13 % en Austria y Alemania. Además, de nuevo casi la mitad (el 45 %) de los encuestados admite tener dificultades para entender cómo se calculan dichas calificaciones. Solamente una de cada cinco (el 21 %) se ha topado con ellas en la vida real (aunque es posible que algunas personas simplemente desconozcan que las calificaciones sociales juegan un rol crucial en la obtención de un préstamo o un crédito hipotecario).

Sin embargo, por lo general muchos están de acuerdo con la idea subyacente de las calificaciones sociales: el 70 % afirma que es justo y correcto limitar el acceso a los recursos públicos (transporte, educación, vivienda, etc.) basándose en el comportamiento de la gente.

A muchas personas no les importa  la vigilancia, siempre y cuando haya un buen motivo. Por ejemplo, para mejorar la seguridad, casi la mitad está dispuesta a permitir que el gobierno vigile las redes sociales; dos de cada cinco compartirían sus datos con una empresa a cambio de descuentos y otros beneficios. Solamente cerca de un 20 % de los encuestados expresó su inquietud con respecto a que las organizaciones privadas y públicas muestren interés en su información personal.

Calificación social: La tecnología

Muchas de las personas que entrevistamos apoyan la idea de las calificaciones sociales, probablemente debido a la opinión de que, en su conjunto, ofrecerán una evaluación justa e imparcial. Por desgracia, con la tecnología actual, eso resulta improbable.

En primer lugar, es difícil rastrear los errores. Los sistemas actuales se basan en las redes neurales, cuyos principios operativos no quedan claros ni para los desarrolladores, por no decir de los operadores o el público en general. Al subir o bajar la calificación de alguien, la red neural no revela el fundamento informativo de dicha decisión. Si el ordenador dice que no eres idóneo para un préstamo, no conseguirás uno, aunque seas una persona decente con buenos ingresos.

En el idioma de los análisis clínicos y la seguridad informática, esto se conoce como “falso positivo”, lo mismo que pasa cuando una solución de seguridad marca un archivo limpio como infectado o un análisis clínico identifica por error una enfermedad en la muestra de un paciente.

En lo que respecta a nuestro tema favorito, los antivirus, el nivel de falsos positivos varía enormemente de un producto a otro. Algunos productos arrojan dictámenes incorrectos más a menudo que la media, y otros muchos menos (nuestras soluciones de seguridad presentan un número mínimo de falsos positivos). La idea es que resulta imposible eliminar los errores por completo. Pero en caso de las calificaciones que afectan los derechos humanos e incluso las vidas, el precio de dichos errores puede ser muy elevado.

Aparte de los errores causados por algoritmos inexactos o datos imperfectos, estos sistemas también pueden verse atacados intencionalmente. En cuanto a las calificaciones sociales a nivel nacional, nuestros expertos han identificado tres tipos de ataques potenciales.

1. Ataques contra los dispositivos que recopilan información

Para determinar con exactitud la calificación de las personas, el sistema necesita mucha información sobre ellas. Y obtiene estos datos no solamente de la redes sociales, sino también de varias cámaras y sensores instalados en aparatos, el llamado Internet de las cosas (IdC). Estos dispositivos son a menudo vulnerables y se ven atacados en repetidas ocasiones. De hecho, tan solo en el primer semestre del 2019, detectamos 105 millones de intentos de ataques contra ellos.

2. Ataques contra la implementación del software

Para asignarte una calificación social, no basta con que el sistema recopile información acerca de ti; también necesita procesarla e interpretarla. El mecanismo que gestiona esto también puede ser vulnerable tanto a las tentativas de infección de malware, como a los ataques no convencionales.

Por ejemplo, imagina que un atacante usa unas gafas de color. Un humano podría reconocerlo fácilmente, pero una cámara inteligente podría confundirlo con otra persona, de modo que todo lo que haga frente a la cámara puede atribuírsele a esa otra persona.

3. Ataques contra la lógica del sistema

Por último, un atacante puede identificar las acciones que, si se repiten muchas veces, cambian la calificación radicalmente, ya sea de modo positivo o negativo. Por ejemplo, aprovechando las lagunas en la lógica del sistema, se puede inflar la calificación propia o, a la inversa, arruinar la de una víctima potencial.

Prepárate para el mundo de las calificaciones sociales

En resumen, las calificaciones sociales pueden no resultar tan justas e imparciales como queríamos o pensábamos. Igualmente, dichos sistemas ya se están implementando en ciertos campos y es probable que su uso se extienda con el tiempo. Y, aunque no existe un modo de protegerse por completo de sus errores, vale la pena intentar minimizar el riesgo.

• Piensa bien (y muy bien) antes de publicar una foto ambigua de ti u otra información potencialmente comprometedora en redes sociales. Es mejor mantener algunas cosas en privado. Por lo menos, no las publiques.
• Protege tus cuentas para que los ciberdelincuentes no puedan atacarte y usarlas en tu contra. Crea contraseñas únicas y seguras, activa la autentificación de dos factores y no introduzcas tus credenciales de inicio de sesión en sitios sospechosos.
• Protege tu privacidad. Para que el banco no te deniegue un préstamo porque sabe que, por ejemplo, estás buscando un empleo, protégete contra la recopilación de información online. En esta publicación te explicamos cómo hacerlo.