Acababa de comenzar mi maestría en inteligencia artificial cuando un compañero de clase me preguntó si conocía Amazon, una nueva librería en línea donde literalmente puedes pedir cualquier libro del mundo y recibirlo en tu puerta. Sintiendo toda la emoción de una feria del libro de la escuela secundaria, entré al mundo de Amazon.com y pedí un hermoso libro. Parecía revolucionario y futurista, pero aún así cómodo y personal. Más tarde ese año, en 1995, Amazon envió a sus clientes leales, incluido yo, una taza de café gratis para las fiestas.
En ese momento, era difícil imaginar que las pequeñas empresas terminarían a expensas de Jeff Bezos. Bellevue, Washington, garaje está celebrando su 30 aniversario y se venderá a $1,97 billón patrimonio neto hoy. Sigo usando Amazon para pedir dispositivos y artículos básicos, ver películas y programas y leer libros en Kindle. Hago todo esto a pesar de que sé que mi otrora querido librero se ha convertido en un gigante hambriento de datos que está causando estragos en mi privacidad.
Hoy en día, Amazon vende básicamente de todo y lo sabe básicamente todo, desde nuestro papel higiénico favorito hasta las preguntas de nuestros hijos sobre Alexa y lo que sucede en nuestros vecindarios, y está permitido. la policía ¡en él también! Amazon sabe dónde vivimos, cómo suena nuestra voz, quiénes son nuestros contactos, cuál es nuestro historial crediticio, a qué temperatura mantenemos nuestros hogares e incluso si tenemos alergias u otros problemas de salud.
A partir de esta información, la empresa evalúa un perfil completo: probablemente sepa si somos homosexuales o heterosexuales, casados o divorciados, republicanos o demócratas, sexualmente activos o no, religiosos o laicos. Sabe cuán educados somos y cuánto dinero ganamos. Y utiliza esa información para promocionarnos mejor.
Como investigador de privacidad, defiendo fuertes protecciones de la privacidad del consumidor. Después de pasar la mayor parte de una década revisando las políticas de privacidad con un peine de dientes finos, puedo decir con seguridad que Amazon ha tenido el peor historial de privacidad de cualquier empresa. No es sólo que Amazon tenga una política de privacidad terrible; también es el hecho de que, junto con Facebook y Google, ha desarrollado una terrible economía de publicidad dirigida, que se basa en obtener la mayor cantidad de información posible de los usuarios, para que cualquiera que tenga acceso a ella pueda conseguir que compre más. cosas para convertir
Dada la importancia de la libertad en la historia fundacional de Estados Unidos, es irónico que este país dependa de una empresa que explota nuestro libre albedrío hacia la ciencia.
“¿Compraste estos cafés italianos?” Amazon nos pregunta. “Esto es lo que deberías comprar a continuación”.
La privacidad y el libre albedrío están indisolublemente ligados: ambos deciden quiénes somos, qué queremos y cuándo lo queremos, sin que nadie nos mire ni interfiera. La privacidad es buena para nuestra salud mental y buena para la sociedad. Ni las corporaciones ni los gobiernos, que tienen acceso a los datos que recopilan las empresas, deberían tener acceso a un conocimiento ilimitado sobre quiénes somos y qué hacemos todo el tiempo.
Amazon jugó un papel importante para hacerlo posible. Su batalla contra la privacidad ha dado un giro particular distopía recientemente en Gran Bretaña, donde algunas estaciones utilizaron el sistema de inteligencia artificial de Amazon llamado Rekognition para escanear los rostros de los pasajeros y determinar su edad, género y estado emocional, ya sea feliz, triste o enojado; identificar comportamientos supuestamente antisociales como correr, gritar, andar en patineta y fumar; y adivina si eran suicidas. Es como el Pensamiento Policial de Orwell, pero en lugar de Gran Hermano, es Gran Bezos.
Lo peor es que solo aceptamos esta intervención a cambio de artículos baratos y envío gratuito en dos días.
Desafortunadamente, Amazon se ha convertido casi en una necesidad básica. Pero podemos tomar medidas para mitigar sus peores efectos.
Los consumidores no deberían tener que cargar con la carga de mejorar Amazon; los formuladores de políticas y los reguladores deberían hacerlo. Un buen lugar para empezar es con ellos. Ley de privacidad estadounidense, legislación actualmente pendiente en el Congreso. No es perfecto, pero al menos soluciona un fallo evidente en nuestra ley federal de privacidad. Las leyes estatales de privacidad forman un mosaico en cuanto a qué tan bien protegen a los consumidores.
Deberíamos pensar en la privacidad de los datos como un derecho humano. La idea de que las empresas tengan derecho a toda la información que puedan recopilar sobre nosotros y a hacer inferencias sobre nosotros es completamente infundada. Hace treinta años nadie habría aceptado esto.
Esta no es la forma en que se supone que debería funcionar el mundo, y es especialmente aterrador ahora que estamos en el punto en el que entramos en la era de la inteligencia artificial. Las aplicaciones generadas por IA, como los chatbots de los que seguimos escuchando, están diseñadas para eliminar la mayor cantidad de información personal posible y supuestamente hacerlas más eficientes. Y Amazon es mejorando el asistente de Alexa incorporar tecnología de generación de IA.
Nada de lo que pueda comprar en Amazon me ayudará a sentirme mejor acerca de un futuro sin intrusiones, vigilancia masiva y monitoreo omnicanal de nuestras emociones y tendencias. Lo que comenzó como un lindo libro y una taza gratis ha generado un mundo donde compro de todo, dondequiera que vaya, y tal vez en un futuro no muy lejano, cada emoción que siento pueda ser rastreada y se convirtió en una conclusión para venderme más cosas. . o suprimir ideologías peligrosas o promover cualquier otra causa que las corporaciones o los gobiernos consideren útil. Si esto suena distópico es porque lo es.
Jen Kaltrider es la directora del proyecto Mozilla * Privacidad incluida.
