Tema central
NUSO Nº 294 / Julio - Agosto 2021

La desigualdad automatizada Industrialización, exclusión y colonialismo digital

La inteligencia artificial plantea nuevos problemas y desafíos respecto de la industrialización del Sur global, que se enfrenta a renovadas formas de colonialismo. Lejos de reducir las desigualdades, las normas para la economía digital que están siendo negociadas en la Organización Mundial del Comercio podrían agravar las brechas existentes. 

La desigualdad automatizada  Industrialización, exclusión y colonialismo digital

Décadas atrás, Alan Turing ya se preguntaba si la inteligencia artificial era realmente inteligencia1. De aquellos experimentos más filosóficos que matemáticos quedó, sobre todo, la duda sobre si las tareas automatizadas son más eficaces que aquellas que hacemos «manualmente». En los años recientes, con el desarrollo de las telecomunicaciones primero, y de la cibernética después, comenzó a ser posible recoger, procesar y sistematizar una enorme cantidad de datos (big data) mediante sistemas de algoritmos. Nacía así lo que hoy conocemos como inteligencia artificial: algoritmos que mediante enormes cantidades de información pueden emular comportamientos humanos y optimizar tareas. 

A menudo se expresan sentimientos de temor respecto de qué pasará cuando estos sistemas «reemplacen» a los seres humanos2. Lo cierto es que siempre hemos encontrado formas tecnológicas de realizar las tareas de manera más eficiente: el transporte nos hace llegar más rápido, la industria textil produce más y mejores vestimentas, las máquinas levantan la cosecha a mayor velocidad, etc. ¿Y la inteligencia artificial? Procesa información. Pero ¿es realmente «inteligencia»? Lo distintivo de los seres humanos no es solo su capacidad de procesar y absorber información; es también su capacidad de equivocarse, de crear, de aprender, de ser únicos, de ser diversos, de ver las cosas desde otro ángulo. Artificial, seguro, pero ¿inteligencia? El machine learning nos muestra que la evolución de esta tecnología puede emular a nuestro cerebro, pero aún falta mucho camino por recorrer3. De hecho, la inteligencia artificial encuentra su mayor debilidad y sus mayores críticas en su poca capacidad de juzgar en diversos contextos, en su estandarización de los resultados, en su homogeneización de todos sin distinguir diversidades. Esto hace pensar en la inteligencia artificial como en una mera tecnología (aunque sumamente poderosa), que tiene una capacidad inimaginable de procesar información y, sobre esa base, trazar una línea hacia el futuro, teniendo únicamente en cuenta las variables o contextos que hayamos incluido en el conjunto de datos que la alimentan. Dicho de otro modo: la creatividad, la imaginación y la crítica sobre su propio accionar quedan a un lado, y difícilmente pueda emular la inteligencia humana. No solo eso: la programación es realizada por seres humanos con limitaciones y preconceptos que los llevan a diseñar una inteligencia artificial sesgada. Así, las críticas respecto a la discriminación, los sesgos, los juicios sin contexto y otras falencias que presenta son tantas que nos hacen pensar si no son máquinas de generar exclusión artificial.

Desigualdad y exclusión

Ya están bien documentados los problemas de exclusión y desigualdad social que genera la incorporación de inteligencia artificial en diversos ámbitos4. Se han detectado algoritmos que estigmatizan a las personas de color5, que otorgan menos crédito a mujeres por el solo hecho de ser mujeres6 o que directamente imposibilitan el acceso a empleos por diversos motivos7. El problema de fondo no es solo la base de datos sobre la que está construido el sistema de inteligencia artificial, sino más bien, y sobre todo, la decisión sobre quién da las órdenes y define la acción del equipo programador. La poca diversidad sexual, racial, étnica y cultural que existe entre quienes diseñan y producen la tecnología es un problema, pero no el único8. Si los algoritmos deciden sobre las personas, sobre su libertad, sobre su empleo, sobre su capacidad de acceder a seguros, servicios médicos y otras cuestiones fundamentales de la vida, es menester tener la posibilidad de regularlos. 

Parece lógico, pero para entender por qué esto es tan difícil, hay que mirar hacia las instituciones que establecen las reglas del juego de la economía mundial, principalmente la Organización Mundial de Comercio (omc).

Los derechos de propiedad intelectual fueron, son y serán un tema de controversia global. No existen argumentos más fuertes que «generar ingresos adicionales para reinvertir9» para defender su existencia. Los argumentos en contra se sostienen en evidencia empírica que muestra que la humanidad estaría mejor sin ellos. Sin más, desde fines de 2020, países y organizaciones sociales reclaman en la omc la extinción de las normas de propiedad intelectual para las vacunas contra el covid-19 para así poder garantizar el acceso, la fabricación y la distribución para toda la humanidad, salvando vidas a cambio de que unas pocas empresas farmacéuticas dejen de obtener ganancias extraordinarias10. La idea de que si no existieran normas de propiedad no habría innovación es falsa: esas normas tienen apenas algo más de 25 años de existencia en la omc, y siempre hubo innovación a lo largo de la historia de la humanidad. Estas normas no solo limitan el acceso a las vacunas, sino además la posibilidad de acceder a los códigos fuente de la inteligencia artificial que se programa en el mundo: amparadas por un velo de secretismo y poder, las empresas deciden sobre la vida de las personas sin que estas puedan saber cuáles fueron los criterios de selección y los datos contemplados o si fueron activamente discriminadas o no. La sistematización de desigualdades dentro de las sociedades está a la orden del día.

Viejas disputas, nuevas formas de subdesarrollo

El lema «Retirar la escalera al desarrollo» que esgrimía en la portada de uno de sus libros el economista surcoreano Ha-Joon Chang sigue vigente como nunca, pero adquiere una nueva dimensión: la cibernética11. Lo cierto es que, frente a la acumulación de datos casi inadvertida por el Sur global, Estados Unidos funciona como una aspiradora que absorbió en grandes volúmenes la materia prima para la inteligencia artificial y pudo así desarrollar sistemas que hoy son inigualables. Aun si un país se planteara hoy la posibilidad de generar un Google local, no lograría el mismo éxito debido a la escasez de datos y, en muchos lugares, de recursos humanos capacitados. Más aún, no tendría sentido hacerlo. Indudablemente, la escala llevó a la eficiencia en lo que podría considerarse una especie de monopolio natural. Sería muy oneroso para un país encauzar una estrategia de ese tipo y el resultado sería incierto. La competencia con los gigantes tecnológicos carece de sentido en una economía que ya los ha coronado como reyes y señores. El colonialismo digital es hoy una realidad inapelable12. Únicamente China, con su big data creada puertas adentro gracias a sus más de 1.300 millones de usuarios y productores de datos, pudo desarrollar una inteligencia artificial que hoy juega la batalla de igual a igual con el capitalismo estadounidense. La disputa entre ganadores y perdedores de esa batalla queda solo entre esos dos jugadores de la economía mundial. 

Lo cierto es que las ganancias gigantescas que generan estas empresas al subsumir a las empresas industriales tradicionales y ofrecerles todo tipo de servicios que optimicen sus negocios, mediante inteligencia artificial programada y diseñada por los ingenieros de Silicon Valley, muestran que los sueños de desarrollo e industrialización digital serán difíciles de alcanzar, pero no imposibles. Efectivamente, la competencia no tiene sentido, pero ¿y la complementariedad? Se pueden crear nuevos servicios a escala nacional con un proyecto de soberanía de datos que sirva para mejorar la administración pública, construir cadenas regionales de valor y trabajar desde universidades y empresas desarrollos locales de inteligencia artificial para atender las necesidades nacionales. ¿Tiene sentido para Google desarrollar sistemas que reconozcan calidades de yerba mate o de cosechas de frutas y verduras? ¿Son iguales los sistemas que detectan enfermedades a través de imágenes médicas en Europa y en América Latina? ¿Son del todo replicables los resultados, considerando nuestras características alimenticias, climáticas, étnicas, etc.? Probablemente sea deseable desarrollar inteligencia artificial local, no solo para mejorar lo que la inteligencia artificial tiene para ofrecer, sino también, y sobre todo, para lograr la industrialización digital y superar la dependencia tecnológica.

Pero, como suele suceder, el ganador quiere llevarse todo. Una vez más, lo que se cocina en la omc genera desigualdades en distintos niveles. Ya hace algunos años circula en esa organización lo que se conoce como «agenda de comercio electrónico», algo que se trata de hacer pasar por un asunto comercial de compra y venta por internet. Pero al leer sus cláusulas, rápidamente se vislumbra que poco tiene que ver con eso y que se vincula sobre todo con la desregulación de la economía digital del futuro. Las normas son muchas y los proyectos presentados provienen de diversos países13, pero podríamos resumir la agenda en algunas pocas cláusulas que son comunes a todos (o casi todos) los proyectos:
(a) Transferencia transfronteriza de datos, que garantiza que aquella institución que recolecte datos de un país a través de plataformas diversas pueda llevarlos a través de las fronteras sin ningún tipo de impedimento. Esos datos no pueden ser reclamados a futuro ni puede exigirse su repatriación. Un verdadero extractivismo digital.
(b) Prohibición de exigencias de localización y procesamiento. El verdadero negocio de los datos es almacenarlos, manteniendo la soberanía y la capacidad regulatoria sobre ellos, y procesarlos, actividad en la que radica la mayor fuente de ingresos. Efectivamente, no es la materia prima lo que da ganancias extraordinarias, sino su procesamiento e industrialización. Estas normas básicamente establecen que los Estados no pueden imponer requerimientos a las empresas para que algunas de estas dos actividades se realicen necesariamente dentro de su territorio. Así, tiran por la borda el sueño de la soberanía tecnológica y la industrialización digital.
(c) No divulgación del código fuente. Si las empresas de tecnología brindan servicios digitales en un país, queda prohibido solicitar que se divulgue el código fuente de la inteligencia artificial ligada a esos servicios. No obstante, en diversos acuerdos en el marco de la omc se vienen incluyendo más excepciones, porque los propios países desarrollados necesitan muchas veces auditar los algoritmos en cuestión, a fin de detectar fallas en los sistemas: desde un modelo de automóvil que presenta desperfectos, pasando por una máquina de casinos que nunca da un ganador, hasta un algoritmo de evaluación docente, todos casos en los que muchas veces el Estado quiere reservarse la potestad de auditoría. Con la inminente llegada del 5g y la internet de las cosas, estos casos de fallos que pueden provocar juicios y demandas por daños a los consumidores estarán a la orden del día. Las empresas lo saben, y el lobby fenomenal que han realizado para protegerse, no solo mediante normas de propiedad intelectual sino también mediante la futura agenda de economía digital, muestra que no están dispuestas a ceder espacio y que su ganancia bien puede estar cimentada en la vulneración de los derechos de las personas14.
(d) Exención de impuestos aduaneros por venta de servicios digitales. A medida que el mundo se vaya digitalizando más y más, los servicios contratados y consumidos por un país podrán provenir (de hecho ya lo hacen) de cualquier lugar del mundo. En términos técnicos, se trata de una importación de servicios. Las reglas comerciales que se encuentran en negociación quieren imponer un arancel cero para esas importaciones, lo que empeora las condiciones para los desarrolladores locales que deben competir con grandes transnacionales. Esto ya se encuentra vigente en la omc a través de una moratoria que se renueva año tras año y exime a las empresas prestadoras del pago de impuestos. En las negociaciones en curso, se busca fijar esta exención de una vez y para siempre.
(e) Obligatoriedad del principio de neutralidad de la web. Esta cláusula busca que los Estados no puedan regular los contenidos ni a las empresas que operan en sus mercados digitales. Si bien limitar el contenido puede llevar a abusos por parte de las autoridades, también es cierto que países como China se han desarrollado controlando y limitando los jugadores que operan en su economía digital. 

No son estas las únicas disposiciones que se están negociando: también hay normas respecto a la aceptabilidad de firmas digitales, autorización del envío masivo de correos no deseados, normativas liberalizadoras en materia de compras y licitaciones públicas, limitaciones a la protección de datos, desvinculación de las empresas en su responsabilidad como intermediarias de los contenidos que se publican en internet y limitaciones a la solicitud de autorización previa para operar en un mercado, entre otras. Estas normas generan un marco de «no regulación» que limita la capacidad de los Estados de impulsar una estrategia soberana de industrialización digital, que incluya la generación de inteligencia artificial. Este aparato regulatorio potencia así el extractivismo digital desmedido desde el Sur hacia el Norte global, al permitirle a este último tomar datos sin pagar por ellos, eliminar la posibilidad de que el primero los procese y cuente con ellos para el diseño de mejores políticas públicas, y limitar también la capacidad de auditar la inteligencia artificial que se genere, aun si afecta a la población en aspectos tan diversos como la seguridad, la democracia, el empleo y los derechos. En un mundo que recién empieza a comprender cómo nos impacta esta tecnología, desregularla y limitar la capacidad de accionar de los Estados no parece ser la mejor opción.

Si se habla de tirar la escalera, la agenda que se negocia en la omc busca dejar afuera del desarrollo de los sistemas automatizados del futuro a la mayoría de los países del mundo, que quedan limitados a ser meros consumidores o usuarios de los servicios, y así toda la ganancia permanece en manos de unos pocos.

Más desigualdades: el derecho epistémico escondido

Lo cierto es que las normas de propiedad intelectual prohíben conocer los criterios y formas con que está programada la inteligencia artificial que utilizamos a diario. Pero ese no es el único saber valioso en esta tecnología. El procesamiento de datos extrae conclusiones sobre nuestras conductas con el objetivo de anticiparlas. Esa anticipación es lo que Shoshana Zuboff denominó el «excedente conductual»: al anticipar conductas, las empresas de tecnología también pueden eventualmente influir en ellas15. Esto se vio en casos como el de Cambridge Analytica o, como se documenta en el mismo libro de Zuboff, el del videojuego Pokemon Go. ¿Qué saben de nosotros? ¿Qué saben de mí que yo misma no sé? La sistematización de información y el análisis de patrones conductuales llevan a un conocimiento desmesurado de algunas conductas humanas, un conocimiento que genera una desigualdad epistémica entre aquello que sabemos de nosotros mismos y aquello que saben de nosotros.

Esta desigualdad puede replicarse en el plano macroeconómico. Efectivamente, los servicios digitales conocen necesidades, movimientos, gustos, costumbres y tantas cosas más de los ciudadanos de un país. Toda esta información podría utilizarse para planificar políticas públicas y diseñar sistemas de inteligencia artificial que mejoren los servicios públicos y hagan un Estado más eficiente. En un mundo de big data, parece no haber suficientes datos para mejorar los Estados. Ya se pudo ver cómo Google compartió información sobre la movilidad de las personas durante la pandemia de covid-19, indicando el índice de actividad y circulación de los países. Información como esa puede ser sumamente valiosa para controlar la pandemia en un territorio, y está en manos de corporaciones. 

La desigualdad epistémica es cada vez mayor, y los sistemas de inteligencia artificial contribuyen a ello arrojando conclusiones sobre nuestras vidas, gustos y costumbres que llevan a pensar en la vigilancia constante y a lo que nos enfrentamos a futuro si no comenzamos una estrategia de desarrollo de inteligencia artificial nacional.

Procesos creativos y derecho a ser humano

La inteligencia artificial interviene cada vez más en nuestras actividades cotidianas: traducciones, averiguaciones, redacción de un simple mail, búsqueda de empleo, tránsito por las calles, etc. Pasa inadvertida, la hemos naturalizado. Pero lo cierto es que muchos de los sistemas que la utilizan observan nuestras conductas y, en muchos casos, buscan estandarizarlas. Por ejemplo, están bien documentadas injusticias cometidas por los sistemas de evaluación docente en eeuu, donde se establecía un puntaje esperado para los alumnos en las evaluaciones anuales estandarizadas, y si estos no llegaban a ese estándar, se le adjudicaba un puntaje bajo al docente a cargo, lo que ponía en riesgo su empleo; o en Gran Bretaña, donde un algoritmo juzgaba las «anomalías» en las trayectorias escolares de los estudiantes y limitaba en consecuencia su acceso a la educación superior16. La realidad es que la vigilancia para captar datos y su consecuente procesamiento para emitir juicios de valor sobre la ciudadanía puede tener un efecto muy nocivo en la sociedad: el miedo a equivocarse. 

Se logró instalar la idea de que existe una inteligencia artificial que piensa, es imparcial, juzga con información completa y conoce «la verdad». Una especie de ojo que todo lo ve y que atenta contra nuestro derecho a ser humanos, defectuosos, únicos y libres. Y es que la actividad de nuestra inteligencia es mucho más compleja que «procesar datos». La propia capacidad creativa del ser humano opera por prueba y error. Se trata de equivocarse y volver a empezar17. De animarse a combinar lo que no pensamos posible. De entender el contexto y por ende captar la ironía, el chiste o el código social al que nos referimos. 

El ser humano goza de la capacidad creativa y de la inventiva para superar sus errores. Eso nos ha convertido en una máquina imparable de innovación y superación. Es justamente en nuestras debilidades donde encontramos nuestras mayores fortalezas. ¿Es deseable un ser humano que no se equivoque, que actúe de manera automática y cuasi perfecta? ¿No estaríamos destruyendo nuestra propia capacidad de crear, de pensar fuera de la caja? 

Cometer errores nos hace humanos, pero también nos hace descubrir nuevas y maravillosas formas de sortear problemas. Prueba y error, le dicen. La realidad es que los trabajadores y las trabajadoras llevamos en nuestro interior un know how sobre nuestra actividad laboral que eleva la productividad de las empresas, y ese conocimiento se construye a partir de los problemas que enfrentamos y las potenciales soluciones. Sobre todo en el Sur global, resolver inconvenientes cotidianos con recursos escasos es la realidad de cientos de miles de trabajadores. La hipervigilancia genera miedo. Miedo a la invención, porque existe miedo a equivocarse y quedar expuesto. Miedo a que nuestro comportamiento sea juzgado, a no estar a la altura de lo que se espera de nosotros. 

Empezar a utilizar tecnologías más amigables es fundamental para todos, como ciudadanos y trabajadores. También lo es garantizar el derecho a la desconexión digital, limitar las ganancias extraordinarias y el poder absoluto que les hemos dado a estas megacorporaciones tecnológicas y garantizar que no haya una hipervigilancia masiva en el futuro que lleve a limitar nuestra capacidad de innovación y nuestra libertad de ser humanos libres, políticos, activistas, cultural y socialmente diversos.

Allí donde el derecho no llega

La inteligencia artificial tiene el poder de prescribir realidades y de cambiar nuestros comportamientos, al igual que lo hacen las leyes. La única diferencia es que son leyes que no están escritas en ningún lugar y que desconocemos. Le hemos otorgado a esta tecnología un poder inigualable: el poder de ordenar nuestras vidas y sociedades. El miedo a ser juzgados por un sistema que emite una valoración sobre la base de la inteligencia artificial programada por vaya uno a saber quién tiene un potencial enorme para «enfriar» nuestro comportamiento.

No solo eso, sino que la propia inteligencia artificial no puede ser juzgada, parece no estar alcanzada por las legislaciones nacionales. No puede ser auditada. Atenta contra la competencia, ya que no hay manera de saber si un algoritmo fue copiado por otra empresa más poderosa. Atenta contra los derechos laborales, ya que no podemos saber si estos se tuvieron en cuenta al diseñar los sistemas de asignación de tareas y otros procesos automatizados en ámbitos de trabajo, y de hecho los efectos que producen en algunos casos son realmente dañinos. Atenta contra el derecho a la información, ya que ordena la que consumimos a partir de criterios de lucro, agrupándonos en burbujas informativas que llevan a sociedades más encerradas. 

No participamos. Nadie llamó a la sociedad civil a la mesa del desarrollo y diseño de una tecnología que regula de facto nuestras sociedades. Pero tampoco, y sobre todo, no nos llamaron a participar en la formulación de las normas que regulan esta tecnología. El producto es, como era de esperarse, una tecnología autoritaria y monopólica que envía órdenes desde países lejanos y a la que obedecemos de manera complaciente.

Manos a la obra

Pero no todo es sombrío. Existe una manera de recuperar aquello que entregamos, y la solución es fundamentalmente poner manos a la obra. América Latina supo ser cuna de tecnologías diseñadas con otros propósitos y objetivos. Basta mirar las tecnologías agrícolas andinas y cómo ponían el eje en la sustentabilidad de la vida18: se cultivaban granos con sistemas de terrazas y otras técnicas que promovían que los suelos se fertilizaran, lo que permitía que hubiera comida todo el año para alimentar a la población. Con la llegada de los conquistadores, esos sistemas cayeron en desuso y la prioridad se puso en generar saldos exportables; así comenzó el proceso de desertificación del suelo que seguimos sufriendo hasta el día de hoy. Esto nos enseña que se pueden desarrollar tecnologías con otras lógicas y objetivos. Que un mismo problema puede ser resuelto de diversas maneras. Es necesario, entonces, recuperar los objetivos de inclusión, sustentabilidad y desarrollo. La inteligencia artificial que se desarrolle para favorecer servicios públicos y hacerlos más eficientes no puede tener únicamente una lógica de lucro, sino que hace falta ver la diversidad de objetivos posibles y adecuar las tecnologías a aquellos fines que fijemos como sociedad. Solo hace falta soñarlo, planificarlo y facilitarlo.

Como principio general, ninguna inteligencia artificial debería decidir sobre las vidas humanas, su libertad, su futuro, trayectorias laborales y derechos. Pero más aún, debemos comenzar a mirar las externalidades que se generan a partir de la inteligencia artificial, fijándonos el objetivo de desarrollo e industrialización digital con empleo decente para todos. América Latina posee un big data propio, valioso y único. Necesita detener el extractivismo digital para mantener la materia prima, y ponerse manos a la obra en su procesamiento, a fin de desarrollar una inteligencia artificial que refleje los códigos, costumbres, cultura y contexto de la región. 

No firmar los acuerdos de economía digital en los tratados de libre comercio y en la omc es un buen primer paso a fin de dejar margen de maniobra a los Estados. Pero no es suficiente. Hay que comenzar a transitar un camino en el que probablemente sea el «Estado emprendedor» quien pueda propiciar una nueva ingeniería digital, junto con centros universitarios y empresas locales19. También regular. Allí donde se discuten los derechos laborales, civiles, ciudadanos y democráticos, debe existir una intervención más fuerte del Estado, a fin de eliminar el estado de excepción que rige en el diseño e implementación de inteligencia artificial. Dejar esto regulado por meros «códigos de ética»20 que presuponen la buena fe empresaria puede resultar muy costoso para las futuras generaciones.

Es posible. Raúl Prebisch nos quiso mostrar cómo el debilitamiento de los términos de intercambio nos llevaba al subdesarrollo. Probablemente, aprovechar las nuevas ventajas comparativas que se generan a diario en sectores que apenas están comenzando a nacer sea el camino posible para un sueño de industrialización digital latinoamericano y soberano. Se trata también de soberanía tecnológica y cultural. Necesitamos el desarrollo, y para eso necesitamos, como punto de partida, la información: saber de nosotros mismos más de lo que ellos saben de nosotros.

  • 1.

    A. Turing: «Computing Machinery and Intelligence» en Mind vol. LIX No 236, 10/1950.

  • 2.

    Kai Beckmann: «Will Computers Eventually be Smarter than Humans? The Future Transformation» en Merck, 24/5/2020.

  • 3.

    Machine learning o aprendizaje automático refiere a sistemas que aprenden solos sobre la base de la información que reciben.

  • 4.

    Safiya Noble: Algorithms of Oppression: How Search Engines Reinforce Racism, NYU Press, Nueva York, 2018.

  • 5.

    V. el sitio web de Algoritmic Justice League [Liga de Justicia Algorítmica], www.ajl.org/.

  • 6.

    «Apple’s ‘Sexist’ Credit Card Investigated by us Regulator» en BBC News, 11/11/2019.

  • 7.

    Jeffrey Dastin: «Amazon Scraps Secret ai Recruiting Tool that Showed Bias against Women» en Reuters, 10/10/2018.

  • 8.

    El sitio Data usa señala que casi 92% de quienes programan en EEUU son hombres. V. estadísticas en https://datausa.io/profile/soc/computer-control-programmers-operators#demographics.

  • 9.

    «5 Reasons Why Investors Love Intellectual Property» en EU StartUps, 8/1/2018.

  • 10.

    «Oxfam Response to WTO TRIPS Waiver for covid-19 Vaccines Being Blocked again by Rich Countries - a massive missed opportunity to speed up and scale up the production of lifesaving vaccines worldwide» en Relief Web, 11/3/2021, https://reliefweb.int/report/world/oxfam-response-wto-trips-waiver-covid-19-vaccines-being-blocked-again-rich-countries.

  • 11.

    Ha-Joon Chang: Retirar la escalera. La estrategia del desarrollo en perspectiva histórica, Libros de la Catarata, Madrid, 2004.

  • 12.

    Ulises Mejías y Nick Couldry: «Colonialismo de datos: repensando la relación de los datos masivos con el sujeto contemporáneo» en Virtualis. Revista de Cultura Digital vol. 10 No 18, 2019.

  • 13.

    V. por ejemplo, la propuesta europea: «Joint Statement on Electronic Commerce: EU Proposal for WTO Disciplines and Commitments Relating to Electronic Commerce», www.europeansources.info/record/joint-statement-on-electronic-commerce-eu-proposal-for-wto-disciplines-and-commitments-relating-to-electronic-commerce/.

  • 14.

    Para más información sobre este tema, v. Sanya Reid Smith: «Some Preliminary Implications of wto Source Code Proposal», Third World Network, trabajo presentado en la 11a Conferencia Ministerial de la OMC, Buenos Aires, 10 a 13 de diciembre de 2017.

  • 15.

    S. Zuboff: La era del capitalismo de la vigilancia, Paidós, Buenos Aires, 2020.

  • 16.

    «Houston Teachers File Federal Lawsuit Over Evaluation System» en Houston Public Media, 1/5/2014. Sobre el caso de Gran Bretaña, v. «A-Levels: ‘Dreams Ruined by an Algorithm’» en BBC News, 13/8/2020.

  • 17.

    La inteligencia artificial, a través del machine learning, logra aprender de sus errores, y es difícil saber hasta dónde puede llegar su capacidad de innovación y aprendizaje. Un ejemplo de esto es la tecnología gpt-3, recientemente superada por una tecnología similar en China. Esta tecnología logra imitar la lógica y la escritura humanas casi a la perfección, dado que puede procesar 1.750 millones de parámetros. Para más información, v. Cristian Rus: «China desvela el modelo de aprendizaje profundo más grande de la historia: 10 veces mayor que gpt-3 de Open AI» en Xakata, 3/6/2021. Aun así, la inteligencia artificial sigue encontrando dificultades para «pensar fuera de la caja». Abundan ejemplos divertidos de esta situación: por ejemplo, el caso de un automóvil de Tesla que detectaba múltiples semáforos en la calle porque circulaba detrás de un camión que transportaba, precisamente, semáforos. Puede verse el video en https://twitter.com/fsd_in_6m/status/1400207129479352323.

  • 18.

    John Murra: Formaciones económicas y políticas del mundo andino, IEP, Lima, 1975.

  • 19.

    V. Mariana Mazzucato: El Estado emprendedor. Mitos del sector público frente al privado, RBA, Barcelona, 2019. Mazzucato explica cómo el Estado ha sido y sigue siendo el motor de la innovación global y cómo las empresas se sirven de los grandes riesgos que toma el Estado para luego privatizar las ganancias y estatizar las pérdidas, lo que a su vez lleva a que este sea visto como ineficiente y débil.

  • 20.

    Un buen ejemplo son los lineamientos de la Comisión Europea; pero si bien estas guías son útiles, no son suficientes. Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial: «Directrices éticas para una ia fiable», Comisión Europea, Bruselas, 2019, disponible en https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.

Este artículo es copia fiel del publicado en la revista Nueva Sociedad 294, Julio - Agosto 2021, ISSN: 0251-3552

Newsletter

Suscribase al newsletter