Un experto advirtió que Australia está a solo unos años de convertirse en una distopía orwelliana, en la que cada movimiento será monitoreado mientras la IA se integra en los sistemas de vigilancia.
El Dr. Raffaele Ciriello, profesor titular de la Universidad de Sydney, dijo al Daily Mail que las cámaras de vigilancia ya estaban “en todas partes” y que la IA “añadiría otra capa”.
“Esto ya es así en gran medida, pero tal vez en los próximos tres a cinco años -diez años como máximo- estimo que la vigilancia se convertirá en la norma”, afirmó.
El Dr. Ciriello añadió que Australia contaba con un sistema de vigilancia similar al de China, aunque destacó que no existía una estrategia nacional en ninguno de los dos países.
“Lo que tenemos en realidad no es tan diferente de lo que existe en China”, afirmó.
“Tienen varios marcos legales (que utilizan la vigilancia) que prevén diversas sanciones para las personas que infringen la ley, muy parecido a lo que tenemos en los países occidentales”. Pero esto es más a nivel regional y estatal. No está unificado a nivel nacional.
Un informe de la Oficina de Auditoría de Queensland, publicado en septiembre, encontró que el gobierno estatal tiene una supervisión limitada sobre el uso ético de la IA.
Al examinar la implementación de la tecnología de reconocimiento de imágenes de IA que detecta violaciones del uso del teléfono y del cinturón de seguridad en los automóviles, el estudio encontró que los funcionarios “tienen una visibilidad limitada sobre el uso de la IA y los riesgos éticos emergentes”.
Cada vez más funcionarios australianos están explorando el uso de la vigilancia mediante IA en la vida cotidiana.
El informe también sugiere que el proyecto podría infringir la privacidad de los habitantes de Queensland.
Este año el Ayuntamiento de Melbourne también debatió planes para introducir una cámara privada y un sistema de sensores de mapeo 3D para monitorear las multitudes en la víspera de Año Nuevo, y está considerando hacer que la tecnología sea permanente.
Ambas políticas han planteado preguntas más amplias sobre los riesgos de la vigilancia, incluida la tecnología impulsada por la inteligencia artificial, y cómo podría extenderse por toda Australia.
El Dr. Ciriello hizo una predicción sombría sobre el futuro de Australia si las tendencias continúan intensificándose.
“Parece una forma de distopía orwelliana en la que tenemos esta tecnología a escala masiva en todas las esferas públicas”, dijo.
“La gente se está acostumbrando, pero debido a que estos sistemas de IA son inherentemente sesgados, es probable que se dirijan de manera desproporcionada a minorías y poblaciones desatendidas”.
“Esto conducirá a una mayor vigilancia de las minorías raciales y étnicas, que se verán particularmente afectadas.
Otra cuestión que planteó el Dr. Ciriello fue cómo reaccionan algunas personas al saber que están bajo vigilancia, citando observaciones hechas por un colega que se especializa en crímenes performativos.
La vigilancia será la norma para los australianos en los próximos tres a cinco años, advirtió el Dr. Raffaele Ciriello, profesor titular de la Universidad de Sydney.
“Aparentemente hay una gran tendencia en Nueva Gales del Sur en la que los adolescentes explotan deliberadamente las cámaras de vigilancia para ser filmados y luego lo publican en TikTok como competencia por llamar la atención”, dijo.
“Algunas personas explotan esta atención y cometen delitos deliberadamente. Otros trasladan la actividad a otra parte, donde es menos transparente.
“En cada calle por la que caminas, eres monitoreado y seguido, lo que cambia completamente tu comportamiento.
“Ya no existe un espacio público real o un espacio privado real porque en todas partes alguien observa y se sigue algo”.
El Gobierno de Queensland y el Ayuntamiento de Melbourne no son los primeros en implementar vigilancia mediante IA; el Dr. Ciriello añade que grandes minoristas como Kmart y Bunnings han introducido la tecnología para detectar robos.
“Lo usamos en el Abierto de Australia con tecnología de reconocimiento facial y ahora estamos usando el reconocimiento de imágenes en el tráfico en las calles”, dijo.
Pero cuando se le preguntó si existía riesgo de vigilancia excesiva, confirmó que, desde su punto de vista, era un problema grave.
“Siendo de origen europeo, regularmente me sorprende lo que está sucediendo aquí (en Australia), porque causaría un gran revuelo en Europa”, dijo.
El Dr. Ciriello dijo que el nivel de vigilancia en Australia es similar al de China (foto de visitantes filmada por cámaras de inteligencia artificial con tecnología de reconocimiento facial en Beijing en 2018)
El Dr. Ciriello dijo que pasó los primeros 20 años de su vida en Alemania, donde “la gente tiene preocupaciones extremadamente fuertes sobre la privacidad por razones históricas”.
“Tienen experiencia directa, primero bajo el régimen nazi y luego en Alemania Oriental, como parte de la Unión Soviética. Es una historia que hace que los alemanes de hoy estén extremadamente preocupados por la privacidad.
“Crecí en este entorno y la infraestructura de vigilancia es significativamente más avanzada aquí (en Australia)”.
Añadió que políticas como la muy elogiada prohibición del gobierno albanés de las redes sociales para los menores de 16 años también normalizan la vigilancia de la IA.
La prohibición se lanzó el 10 de diciembre y las plataformas y los padres exigieron que mantuvieran alejados a los niños.
Pero el Dr. Ciriello explicó que las plataformas se basarán en algoritmos de inteligencia artificial para determinar si un usuario es menor de edad al observar su historial de búsqueda.
“Creo que la mayoría de la gente ya está resignada al hecho de que vivimos en una sociedad completamente vigilada”, dijo.
“La vigilancia no solo proviene del Estado, sino también de proveedores comerciales en diferentes niveles (como las plataformas de redes sociales).
El Dr. Ciriello (en la foto) advirtió que una mayor vigilancia podría afectar a las minorías en Australia
“Los datos a menudo se reenvasan y revenden. La infraestructura tecnológica existe, pero lo que falta en Australia son mecanismos de control democrático.
Cuando se le preguntó si el uso cada vez mayor de la vigilancia mediante IA podría invadir las libertades de los australianos, el Dr. Ciriello preguntó: “¿Qué libertad?”.
“No sólo corremos el riesgo de perder esto, sino que ya lo hemos perdido en algunos aspectos”, afirmó.
“La privacidad ya no existe. Todo está monitoreado. Todo está en línea.
“Ya hemos renunciado a muchas cosas y la tendencia general es hacia una mayor erosión de la privacidad”.
