Problemas (filosóficos y...)

¿Alguien dijo “problemas”?

Como nos demuestra un breve recorrido por su historia y su presente, la inteligencia artificial es campo muy complejo que involucra dimensiones técnicas, sociales, políticas, económicas y culturales. Esto se da incluso cuando consideramos a la IA como un campo de investigación académica o como un esfuerzo ingeneril con miras a la generación de productos tecnológicos que entren (o creen) mercados novedosos.

En cierto sentido, es correcto decir que la IA no es ni artificial ni inteligente, sino que es el resultado de un conjunto de prácticas, infraestructuras, instituciones, historias, clasificaciones y muchas, muchas decisiones, muchas. Todo esto deja ver un trasfondo humano, casi demasiado humano, detrás y delante de la IA.

Como campo de investigación, la IA busca hacer algo que es, en principio, posible, aunque extremadamente difícil: imitar artefactualmente las capacidades agenciales humanas. ‘Inteligencia’ no es sino otro de estos nombres que hemos puesto a un concepto extremadamente difuso y que en los intentos de hacerlo menos difuso hemos creído en su reducibilidad a una descripción abstraída de toda conexión con los mundos naturales y culturales en los que habitamos como seres humanos, mundos plagados de sensaciones y motivaciones muchas veces muy poco claras. Es en ese marco que cualquier IA debe (y pretende) entrar y ser pensada. Al mismo tiempo, la IA, incluso considerada como un campo de mera investigación (lo cual es una idealización útil en algunos casos, peligrosa en la mayoría), no es un dominio puramente técnico, sino como un conjunto de prácticas técnicas y sociales, instituciones, infraestructuras, política y cultura. Los sistemas de IA actuales refuerzan intereses dominantes, dado el capital necesario para construirlos y las formas de ver que optimizan. Siguiendo lo que plantea Kate Crawford (2021/2022), la IA es un «certificado de poder». Esto es una consecuencia de otra característica de las formas actuales en las que una tecnología digital se inserta en la sociedad contemporánea. Quien controla un servicio digital o una aplicación que se vuelve popular, masivamente o en comunidades específicas, de pronto, habiéndolo deseado o no, tiene una gran capacidad de control sobre la manera de actuar, pensar y vivir de aquellos usuarios del servicio, e incluso de aquellos que no son usuarios directos, pero que deben adaptarse a las nuevas condiciones de habitabilidad del espacio social tecnológicamente configurado.

La automatización ha sido uno de los mayores avances tecnológicos en los últimos tiempos. Sin embargo, el imaginario tecnológico a menudo se desconecta de los asuntos terrenales y no se considera la repercusión de estas tecnologías en el mundo físico. Por ejemplo, cuando realizamos una búsqueda de imágenes sobre inteligencia artificial, tendemos a encontrar imágenes de cerebros brillantes y códigos binarios flotando en el espacio, en lugar de considerar las implicaciones materiales de estas tecnologías. Pero es preciso comenzar por la tierra, por la extracción de recursos y por las historias del poder industrial, para luego analizar cómo estos patrones se repiten en los sistemas de mano de obra y datos.

A finales de los años sesenta, Lewis Mumford, historiador y filósofo de la tecno-ciencia, acuñó el concepto de “megamáquina” para describir cómo todos los sistemas, sin importar su tamaño, dependen del trabajo humano. Mumford consideraba al Proyecto Manhattan, con sus complejidades ocultas tanto al público como a los miles de trabajadores que participaron en él en lugares remotos y seguros de Estados Unidos, como la megamáquina moderna por excelencia. Este proyecto consistió en el desarrollo de un arma nuclear que, según estimaciones conservadoras, causó la muerte de 237,000 personas al alcanzar Hiroshima y Nagasaki en 1945. La bomba atómica dependió de una compleja y secreta cadena de suministros, logística y mano de obra.

Así como el Proyecto Manhattan, la inteligencia artificial también puede considerarse una megamáquina. Esta tecnología se basa en infraestructuras industriales, cadenas de suministros y mano de obra global, aunque a menudo permanece en un segundo plano. La inteligencia artificial trasciende las bases de datos y los algoritmos, los modelos de aprendizaje profundo y el álgebra lineal. Se trata, pues, de un entramado tecnológico, de un sistema que logra su funcionalidad aprovechando una serie de recursos y fuerzas que son dispuestos a un fin por una interconexión organizada que puede resolver un problema. Curiosamente una de las propiedades del progreso tecnológico es la confluencia de muchas soluciones a problemas, todas ellas alguna forma propia de tecnología, que se entrelazan en una nueva solución tecnológica. Ahora bien, toda solución a un problema conlleva la creación de nuevos problemas, lo que significa que la IA acarrea tanto soluciones como problemas de aquellas tecnologías que incorpora. Al mismo tiempo, se trata de una metatecnología, porque es una tecnología que en última instancia tiene una capacidad de crear nuevas formas tecnológicas, de servir de plataforma para la concreción de muchas formas técnicas que sobre y gracias a ella se pueden montar.

Aunque las tecnologías tienden a presentarse como simples (y a encantarnos por ello), siempre ante toda solución tecnológica debemos preguntarnos por qué está detrás y qué recursos o materias primas está empleando para sus operaciones. Por eso, un aspecto importante a considerar en relación con la inteligencia artificial es su consumo energético. Al ejecutar un solo modelo de procesamiento de lenguaje natural, se generan toneladas de emisiones de dióxido de carbono. Cualquier medida que estimemos muy probablemente se quede corta si consideramos que dependen de la Internet como fuente de datos, Internet que ayudan a expandir.

Además del consumo energético, la ubicación de los centros de datos también plantea desafíos. Estos suelen estar alejados de las áreas urbanas y se encuentran en regiones más aisladas, como desiertos o zonas o polos industriales. Todo esto complica la logística de recursos como agua y electricidad. El consumo de agua es uno de los aspectos que genera preocupación, ya que la refrigeración de los servidores requiere grandes cantidades de agua que podrían estar siendo utilizadas por comunidades y ecosistemas. En este sentido, la geopolítica del agua se mezcla con las políticas y los mecanismos de los centros de datos y la computación. Esto también ocurre con las fábricas de micro-chips, una tecnología que está en la actualidad permeada por una guerra comercial-tecnológica, principalmente entre China y Estados Unidos.

Por último, pero claramente no menos importante, están las múltiples facetas de trabajo humano, demasiado humano que están detrás de buena parte del procesamiento de datos, ya sea para corregir respuestas de miles y miles de conversaciones con chats impulsados por IA (para lo que suelen contratarse seres humanos con retribuciones muy pequeñas en países periféricos) o la misma creación de datos, como las fotos y videos compartidos en plataformas sociales, trazos de GPSs al navegar con una aplicación, y así con casi cualquier cosa que pueda registrarse y luego interpretarse como significativo según los fines que persigan quienes queden en posesión de dichos datos.

Muchos aspectos de la Inteligencia Artificial moderna como servicio es una fachada que oculta su funcionamiento interno e incluye ambigüedad si las respuestas provienen del sistema o de operadores humanos. Esta incertidumbre refleja una paradoja al interactuar con sistemas tecnológicos, donde las personas debemos probar o demostrar nuestra condición humana a través, por ejemplo, de un recaptcha. Curiosamente, esta acción también forma parte del entrenamiento gratuito de algoritmos de reconocimiento de imágenes, ya que nuestra solución puede etiquetarse y luego pasar a formar parte del acervo de datos que se emplea para entrenar mejores modelos de IA. En ciertas ocasiones, algunas empresas llegan incluso a pedir a los trabajadores que finjan ser sistemas de IA, quizás con el objetivo de mostrar que dispone de una tecnología que en realidad no tienen, muy probablemente para atraer usuarios y posibles inversores interesados.

Gran parte de la IA contemporánea no es artificial ni inteligente. En cambio, se trata de una combinación de trabajo físico, trabajo repetitivo en fábricas, trabajo cibernético mal remunerado y el trabajo inmaterial no pagado de los usuarios diarios. Estos constituyen la cadena de suministro sobre la que la computación global depende. De momento, no debemos considerar a la IA como una fuerza que reemplaza a los humanos, sino más bien como una fuerza que cambia la forma en que se realiza el trabajo. No hay área o disciplina que no esté cerca de ser radicalmente transformada en su accionar cotidiano por una tecnología impulsada por estas técnicas de IA.

La industria de la IA ha promovido un enfoque pragmático y despiadado en la gestión de datos, priorizando la cantidad sobre la calidad, sin considerar el contexto, la precaución o el consentimiento. Ahora bien, ante toda actividad en torno a datos deben considerarse los problemas éticos, políticos y epistemológicos asociados con la recopilación y la creación masivas de datos. Esto implica especialmente tener en cuenta quiénes se benefician y quiénes sufren las consecuencias de esta práctica. Todo producto es parte de una narrativa que incluye una justificación de su propia existencia. En tanto consumidores de estas tecnologías, debemos al menos estar atentos y conscientes al tipo de esquema de negocios que puede estar operando detrás. En tanto productores o desarrolladores, debemos enfrentarnos al uso e impacto psicológico y social que pueda ocasionar la tecnología que estamos introduciendo.

Reflexión final

Ya en 1951, Norbert Wiener, el padre de la cibernética nos advertía de lo crucial que atender a los medios de comunicación entre individuos para poder comprender todo sistema de interacción socio-cultural:

la sociedad sólo puede comprenderse a través del estudio de los mensajes y de los medios de comunicación que le pertenecen; y que en el desarrollo futuro de estos mensajes y medios de comunicación, los mensajes entre el hombre y las máquinas, entre las máquinas y el hombre, y entre la máquina y la máquina, están destinados a desempeñar un papel cada vez mayor

En su obra, Wiener aborda los conceptos de la cibernética y la comunicación entre seres humanos y máquinas. Wiener advierte sobre los peligros de una mentalidad puramente utilitaria, y destaca la importancia de mantener el control y la responsabilidad humana sobre la tecnología. Nos recuerda que la tecnología debe estar al servicio del ser humano y promover su bienestar, en lugar de reemplazarlo o subyugarlo. Todo medio que empleemos para solucionar problemas es una tecnología, y debemos siempre estar atentos a los problemas que, paradójicamente, la solución genera.

En el contexto actual de la inteligencia artificial, es fundamental tener en cuenta reflexiones en la misma dirección a las planteadas por Wiener y muchos otros. Debemos cuestionar las motivaciones detrás de la búsqueda de la inteligencia artificial y asegurarnos de que se utilice de manera ética y sostenible. La relación entre humanos y máquinas debe estar basada en el diálogo, la cooperación y la preocupación por el bienestar colectivo; comunicación de máquina a máquina, entre máquinas y seres humanos, pero fundamentalmente aquella entre nosotros, seres humanos, que ya somos seres técnicos.

Para seguir pensando

Crawford, K. (2022). Atlas de IA: Poder, política y costes planetarios de la inteligencia artificial (F. Diaz Klaassen, Trad.). Fondo de Cultura Económica. (Obra original publicada en 2021)

Pasquinelli, M., & Joler, V. (2021). El Nooscopio de manifiesto: La inteligencia artificial como instrumento de extractivismo del conocimiento (J. Blanco, A. Berti, & A. A. Ilcic, Trads.). laFuga, 25. https://lafuga.cl/el-nooscopio-demanifiesto/1053 (Obra original publicada en 2020)

Smicek, N., & Giacometti, A. (2018). Capitalismo de plataformas. Caja Negra.

Wiener, N. (1988). Cibernética Y Sociedad. Sudamericana. http://archive.org/details/wiener-norbert.-cibernetica-y-sociedad-ocr-1988 (Obra original publicada en 1951)