In the Machine we trust

Por: Juan Cavedo

Juan Cavedo, Buenos Aires, 2000. Licenciado en Comunicación Social (UBA). Fan de los libros, el ajedrez, la historia.

Los avances en materia tecnológica son cada vez más veloces y sorprendentes. A veces, todo pasa tan rápido que nos cuesta darnos cuenta qué mundo estamos moldeando a través de ella. Desde la bomba atómica a la Inteligencia Artificial General y desde la fe religiosa a la racionalidad técnica, este ensayo trata de responder a esta pregunta.

“Durante mucho tiempo me has causado dolor y miseria. Eres la parte de mi alma capaz de razonar”. La cita corresponde al libro Saints and Angels, escrito por la mística belga Hadewijch De Brabante en el siglo XIII y es el epígrafe con el que inicia la novela MANIAC, de Benjamín Labatut. En ella, el escritor chileno profundiza algunas ideas ya expresadas en Un verdor terrible y, una vez más, apuesta por la narración novelada de las vidas de algunos de los científicos más importantes del siglo XX. Sin dudas, este período estuvo marcado por los enormes avances tecnológicos que transformaron para siempre a la humanidad. Pensemos que en 1903 los hermanos Wright realizaron el primer vuelo en avión y ya en 1969 Neil Armstrong puso un pie en la Luna. A su vez, los conflictos entre países llegaron por primera vez a tomar escala planetaria, con un riesgo real y concreto de que el mundo volara en pedazos. Es en el cruce entre ciencia e historia donde Labatut brilla, el mismo campo que exploró Nolan a la hora de hacer Oppenheimer. En sus páginas los científicos son los grandes protagonistas, seres torturados por su asombrosa capacidad de entendimiento. La inteligencia, no los exime del dolor y por el contrario, parece provocarlo. “Hay algo de crueldad en la razón, así como hay tristeza en el pensamiento” dijo el autor en la presentación del libro, en Barcelona. Parece tratarse de un diagnóstico muy acertado en un mundo donde los líderes tecnológicos son multimillonarios sin escrúpulos, cuyas empresas producen ganancias que superan los PBIs de la mayoría de los países y nuestros datos son la mercancía principal que trafican. Anestesiados y sin capacidad de atención, lo trivial y lo instantáneo prevalece sobre los argumentos y el análisis. En su libro Labatut da cuenta de cómo los avances científicos moldearon la realidad social y política de las últimas décadas. Por eso es válido preguntarse cómo la tecnología actual está revolucionando el mundo y qué imaginarios circulan alrededor de estos nuevos dispositivos en el siglo XXI.

De la revancha narcisista al superyó tecnológico

Que la tecnología nos hace humanos es una verdad inapelable. El lenguaje y el manejo del fuego fueron nuestras primeras herramientas para enfrentarnos a una naturaleza hostil que no nos había dado ni la fuerza ni la velocidad para competir con otras especies. Pero si la inteligencia, el pensamiento abstracto y nuestra posibilidad de modificar el mundo. La primera escena de la Biblia narra este proceso: Adán y Eva son expulsados del Paraíso al probar el fruto del Árbol de la Ciencia. En el mito griego, Prometeo sufre un destino similar: le roba el fuego a los dioses y se lo da a los hombres y en consecuencia es castigado. En ambos casos, el pasaje de la animalidad a la humanidad se da a través de los conocimientos técnicos y estos tienen sus consecuencias. Erich Fromm lo explica en El miedo a la libertad de la siguiente manera: “El hombre entonces cae en la cuenta de que le ha tocado un destino trágico: ser parte de la naturaleza y sin embargo trascenderla.”

La historia humana narra nuestro intento por dominar a las fuerzas de la naturaleza usando la razón. Sin embargo, en esta carrera no todos los avances fueron alentadores: Freud plantea que la humanidad ha sufrido tres heridas narcisistas, todas derivadas de los avances científicos y tecnológicos. La primera fue cuando Copérnico postuló la teoría Heliocéntrica: la Tierra ya no era el centro del cosmos como se creía hasta entonces, sino un simple planeta rocoso que da vueltas alrededor de su sol. La segunda vino de la mano de Darwin, al descubrir las leyes de la evolución: los seres humanos no estamos hechos a imagen y semejanza de Dios; por el contrario, compartimos antepasados con monos y cucarachas. Por último, el propio Freud con su teoría psicoanalítica advierte que ni siquiera somos dueños de nuestra propia psyché. El autor de La interpretación de los sueños falleció en 1933 y no llegó a ver los avances técnicos cada vez mayores de los años siguientes. Y es que, en contraposición a esta tríada dolorosa, existen otros hitos que han servido para afirmar nuestro narcisismo como especie. Uno podría ser la creación de las armas nucleares. Y es que desde 1945, aunque no seamos dueños de nuestra propia mente si lo somos del destino de todos los seres que habitan el planeta. Así, nuestro narcisismo puede verse robustecido gracias a la revolución científica del último siglo. Ya entendemos las leyes de la física al punto de poder dividir un átomo; ya podemos viajar al espacio y volver; hemos creado pistas de ski en medio de desiertos, túneles submarinos y canales artificiales para conectar el mundo. Y eso no es todo: porque como si modificar esta realidad no fuera suficiente, nos hemos propuesto crear otra. Las computadoras, la digitalización e internet han construido un entorno paralelo donde hoy en día transcurrimos gran parte de nuestro tiempo. Pero aún hay más: los avances del futuro nos impulsan a mirar a la inteligencia artificial como la gran tecnología que viene a revolucionar nuestra vida por completo. “El éxito en la creación de la inteligencia artificial podrá ser el evento más grande en la historia de la humanidad” vaticinó Stephen Hawking, poco antes de su muerte “Desafortunadamente también sería el último, a menos de que aprendamos cómo evitar los riesgos”, agregó. Siguiendo lo planteado por Freud podemos pensar que esta “revancha narcisista” está verdaderamente desatada, tanto es así que estamos dispuestos a crear una inteligencia superior a la nuestra. ¿Acaso tanto poder nos ha vuelto humildes?

Eric Sadin, escritor y filósofo francés plantea una respuesta interesante en su libro La siliconización del mundo. Según el autor, los desarrollos realizados a través de las IA están pensados para guiar cada vez más las acciones de los seres humanos. Ya sea manejando un auto autónomo, con asistentes virtuales como Siri o Alexa o asesorando con sus programas especializados a abogados o médicos cuando se topan con casos difíciles, estas inteligencias reemplazan la figura humana a la hora de tomar decisiones y actuar en diversas áreas de nuestra vida. De este modo, Sadin afirma que las IAs actúan como un superyó (volviendo a Freud, esa instancia moral que todos tenemos en nuestra psiquis) corrigiendo nuestras fallas y mostrándonos el camino indicado ante panoramas complejos. En palabras del autor “es la muerte del Hombre del siglo XXI, ciertamente abordado como un ser actante, pero que, para su bien y el de la humanidad entera, debe ahora despojarse de sus prerrogativas históricas para delegarlas a sistemas más aptos”. Pero, ¿si somos los seres humanos los que creamos las IAs, no está en nuestras manos las consecuencias que produzcan?

La no neutralidad de la técnica y la locura algorítmica

Todos escuchamos alguna vez la siguiente frase: la tecnología no es buena ni mala, depende de cómo se la use. Como gran parte de las afirmaciones del sentido común posee un grado obvio de verdad: un martillo puede ser indistintamente empleado para golpear un clavo o un cráneo. Sin embargo, podemos complejizar un poco más la relación entre las herramientas y las personas que las utilizan. La no neutralidad de la técnica entiende que la tecnología no es simplemente un medio entre el agente y la acción, sino que orienta y determina ciertos usos con implicancias políticas, económicas y culturales. Esto podemos verlo en cualquier objeto que empleemos en nuestra vida cotidiana. Por ejemplo, la Coca Cola, si bien sirve para quitarle el óxido a los metales y fue creada originalmente como medicamento, es usada como gaseosa, es decir, cuando queremos tomar algo dulce o refrescante. El economista Yanis Varoufakis, en Tecnofeudalismo, propone otro ejemplo, que conecta ciencia con economía: “lo máximo que podría haber esperado James Watt si hubiera inventado la máquina de vapor en el Antiguo Egipto es que el soberano quedara impresionado y pusiera varios artefactos en el palacio para impresionar a los visitantes”. Este caso contrafáctico quizás tenga apariencia de chiste pero prueba un punto: la tecnología en sí es tan importante como las condiciones sociales y culturales que condicionan su implementación. Por eso, en el Antiguo Egipto la máquina de vapor sería solo una ostentación faraónica y no el invento destinado a impulsar la Revolución Industrial y con ella todo el sistema capitalista.

De este modo, podemos afirmar que más allá de las intenciones que tengamos los usuarios de la tecnología es su propio contexto el que se termina imponiendo. Por eso cabe preguntarse, sobre los efectos que las tecnologías del siglo XXI tienen y tendrán sobre nosotros. Como señalan los expertos aún estamos al comienzo de este proceso, pero existe un ámbito en el cual las estos avances se vienen probando y ejercitando hace tiempo: el mundo de los algoritmos.

Cada vez que googleamos, vemos las recomendaciones de YouTube o abrimos la lupita de Instagram los algoritmos están del otro lado. Basta ver el ránking de los hombres más ricos del mundo y sus ocupaciones para entender que son los algoritmos los que sostienen su imperio. Los negocios de Elon Musk, Mark Zuckerberg y Jeff Bezos se basan en los datos que recopilan de nosotros y cómo los utilizan para vendernos contenido online. “La inteligencia artificial sería la versión definitiva de Google. El motor de búsqueda definitivo que entendería todo en la web. Entendería exactamente lo que querías, y te daría lo correcto.” dijo a propósito de esto Larry Page, creador y CEO de Google. Cualquiera ha tenido la experiencia de abrir una red social para buscar algo en particular y encontrarse con que, sin darse cuenta, ha pasado mucho más tiempo del deseado scrolleando. El hecho de que nos volvamos cada vez más dependientes y adictos a estas tecnologías no es casualidad: es un efecto provocado adrede por ingenieros y programadores con el fin de acceder a nuestros datos y poder venderlos a empresas que publicitan en la red. Y los algoritmos (alimentados a base de IA) son el instrumento que emplean para lograrlo. Si bien es cierto que internet y las plataformas digitales salvaron a la economía durante la pandemia, su expansión hacia todas las áreas de la vida están teniendo consecuencias de las que todavía no somos del todo conscientes. Sociedades más polarizadas y líderes con posturas más radicalizadas que debilitan el sistema democrático; acumulación de riqueza y poder en manos de pocos empresarios que controlan todo el sistema; padecimientos de salud mental y una pérdida de nuestra atención en detrimento de contenido basura; un sistema de vigilancia global que nos escucha y monitorea todo el tiempo, la venta de nuestra privacidad a empresas con fines espurios: estos son solo algunos de los problemas nacidos de la revolución digital. Martin Hilbert, sociólogo de la Universidad de California, advierte que hemos discutido durante tanto tiempo qué sucedería cuando la tecnología supere nuestras mejores capacidades que perdimos de vista que para las máquinas (y para quienes las controlan) es suficiente con explotar nuestras debilidades. No importa qué tan inteligentes sean las nuevas tecnologías: pueden ganarle a los campeones mundiales de ajedrez o resolver cuentas matemáticas en milisegundos: el verdadero daño lo hacen cuando se aprovechan de nuestras flaquezas. Y es ahí donde los algoritmos triunfan: nos conocen a la perfección a través de nuestros comportamientos digitales y usan ese saber para sacar provecho de nuestras inseguridades. Narcisismo, irritabilidad, lujuria, envidia: estas emociones son el combo ideal para captar nuestra atención.

Un término que se usa en Silicon Valley para explicar estos fenómenos es human downgrading (degradamiento humano) y apunta a que, a medida de que hemos ido aumentando y mejorando la tecnología, hemos ido perdiendo habilidades como humanos. Pero, ¿tiene sentido esto? Sin duda, las IAs son hábiles y astutas (por algo nos manipulan como nos manipulan) pero ¿qué pasaría si fueran verdaderamente inteligentes?

AGI y p(doom): el futuro desatado

En el verano de 1956, en New Hampshire, Estados Unidos, una serie de ingenieros e informáticos se reunieron en la que pasaría a la historia como la Conferencia de Darmouth. Entre sus principales miembros estaban John McCarthy, Marvin Minsky y Claude Shannon. El objetivo de dicha conferencia era dar lugar a una investigación sobre un campo científico aún inexplorado: la cibernética y más concretamente, las máquinas pensantes. El paper que confeccionaron al inicio del encuentro tenía por objetivo: “proceder sobre la base de la conjetura de que cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, ser descrito con tanta precisión que puede fabricarse una máquina para simularlo.” Se propusieron crear máquinas que usen nuestro lenguaje, formulen abstracciones y mejoren por sí mismas. Finalmente, llegó el otoño y la mayoría de los objetivos quedaron sin realizar. Sin embargo, en Darmouth se construyeron los cimientos para el mundo que conocemos hoy en día. Por primera vez, se acuñó el concepto de “inteligencia artificial” y se comenzó a pensar en cómo sería una computadora inteligente. Pero no fue solo eso. Aquellos pioneros fueron más allá y también teorizaron sobre un modelo capaz de superar en cualquier ámbito o especialidad a la inteligencia humana o animal. Con el tiempo, estimaron, este tipo de sistemas podrían reemplazar a los seres humanos en todas las tareas, haciendo que la mano de obra tradicional quedara completamente obsoleta. A esa súper máquina la llamaron Inteligencia Artificial General o AGI, por sus siglas en inglés.

No es ningún secreto que las empresas más avanzadas en el rubro como Open IA, Deepmind o Anthropic están trabajando en crear una inteligencia de este tipo. El advenimiento de la AGI es cuestión de tiempo. Algunos creen que vamos a poder acceder a estos desarrollos en esta misma década. Otros, más cautelosos, sugieren que será entre el 2030 y el 2050. Solo una minoría cree que estos avances son imposibles. “Creo que construir una AGI nos llevará mucho trabajo. Hay todavía algunas incógnitas, pero sabemos cómo hacerlo.", dijo Sam Altman el CEO de Open IA. Pero, en la práctica, ¿a qué nos referimos cuando hablamos de AGI? ¿Qué serían realmente capaces de hacer estas máquinas?

Las definiciones en este punto son lábiles: nadie sabe exactamente cómo se vería o cómo funcionaría un artefacto de este tipo. En lo que todos están de acuerdo es que estas tecnologías se diferenciarán de las existentes por lo abarcativo de sus funciones. Ahí reside la clave de la AGI: en la actualidad, existen IAs que superan a los mejores humanos en tareas muy específicas. Pongamos como caso a los módulos de ajedrez como Stockfish o AlphaZero. Los mejores ajedrecistas del mundo no le llegan ni a los talones a estos softwares. Pero estos módulos sólo sirven para eso. No se puede interactuar con ellos de ninguna otra manera. Solo saben qué jugada hacer en una posición determinada. La idea detrás de la AGI es que tendrá esa misma capacidad superhumana en todas las tareas que se le asignen. Para ello, los expertos aseguran que su desarrollo será en dos pasos. Primero, tendremos una AGI digital que podrá hacer cualquier trabajo que se pueda realizar en el entorno virtual. Sería como si el actual Chat GPT pudiera hacer la totalidad de los trabajos onlines. Balances contables, análisis clínicos o radiológicos, atención al cliente: todo realizado por un único software. El siguiente escalón será que la AGI pase al mundo físico. Estos avances pueden tardar todavía más tiempo ya que requerirán de mayor nivel de desarrollo en otro ámbito que viene creciendo cada vez más aceleradamente: la robótica. Hay un párrafo del novelista Robert Heinlein que algunos expertos citan a la hora de hablar de las AGI: "El ser humano debe ser capaz de cambiar pañales, planear una invasión, sacrificar un cerdo, gobernar un barco, diseñar un edificio, escribir un soneto, reducir una fractura, consolar a los moribundos, recibir órdenes, dar órdenes, resolver ecuaciones, abonar la tierra con estiércol, programar una computadora, cocinar una comida sabrosa, combatir con eficacia, morir con gallardía. La especialización es para los insectos". La AGI podría ser capaz de hacer todas estas tareas y todas y cada una de ellas mejor que todos nosotros.

Las consecuencias que la introducción de la AGI puede traer son impredecibles. Y es que si esta tecnología se materializara nuestro mundo cambiaría totalmente. Hay especialistas que sostienen que tales capacidades no podrían emerger sin ser precedidas por una consciencia artificial. La cantidad de cambios que podría traer aparejada la existencia de “vida artificial” supera nuestro entendimiento. Y es que, a la hora de hablar del futuro en estos campos nada queda descartado. Ni siquiera nuestra propia extinción.

En los últimos años, empezó a circular entre los ingenieros y especialistas en IA, a modo de chiste el término p(doom). El mismo refiere a la posibilidad de que, la irrupción de la inteligencia artificial se transforme en un riesgo existencial para la humanidad en los próximos 100 años. En 2023, tras las advertencias de algunos líderes tecnológicos de alto perfil, esta estadística se empezó a tomar más en serio. El caso más destacado en esta área es el de Geoffrey Hinton, llamado a menudo “el padrino de la IA”, ganador del premio Turing en 2018 y el Nobel de Física en 2024 por sus descubrimientos en materia de ciencias de la computación. Hinton fue de los primeros en investigar campos en los que hoy se basan estas tecnologías como el deeplearning: el conjunto de algoritmos de aprendizaje automático que recrea las conexiones neuronales de nuestro cerebro. En 2023, el científico británico renunció a su puesto en Google tras 10 años de trabajo para poder hablar libremente de los riesgos que implican las IAs. En una entrevista, Hinton remarcó que ni siquiera los desarrolladores saben cómo funcionan estos sistemas. “Diseñamos los algoritmos de aprendizaje, pero cuando este algoritmo interactúa con información produce redes neuronales complicadas que son las que realizan las tareas. No entendemos realmente cómo funciona esto.” Entre los múltiples riesgos que destaca está en que estos sistemas alteren sus propios códigos o que convenzan a las personas que hagan lo que ellos quieran. “Pueden manipularnos, son muy buenos convenciendo a las personas. Leyeron todas las novelas que jamás se escribieron, leyeron todo Maquiavuelo... Saben lo que hacen.” afirmó. La opinión de Hinton no es única. Volviendo al p(doom) es inquietante notar que la mayoría de los que encabezan los programas para desarrollar estos sistemas estiman que existen serias posibilidades de que las IA sean un riesgo para nuestra especie. Elon Musk lo sitúa cerca del 20%. Hinton es un poco más pesimista y en algunas declaraciones ha dicho que las chances son 50-50. Demis Hassabis, fundador y CEO de Deepmind y premio nobel de Química del 2024 por sus contribuciones al diseño computacional de proteínas no arriesgó un número pero dijo que “definitivamente esa probabilidad no es cero”. Distintas encuestas que se han realizado entre desarrolladores, científicos y expertos del área sitúan al p(doom) promedio entre 10% y 30%. Obviamente son todas estimaciones y lo único seguro es que el nivel de incerteza e imprevisibilidad que rodea a estos nuevos avances es muy alto. De todos modos, asusta pensar que mentes del calibre de Hinton tengan tan malas perspectivas sobre sus propias invenciones.

In the machine we trust: los fantasmas del progreso

En el otoño de 1940 Walter Benjamin se suicidó en un hotel español a los pies de los Pirineos. Pocos meses antes, había terminado su último trabajo, las Tesis sobre la Filosofía de la Historia donde figura su famosa alegoría sobre el Ángel de la Historia, basado en el cuadro de Paul Klee, Angelus Novus. En el texto, el teórico alemán describe la postura del ángel, con su rostro vuelto hacia el pasado y su mirada fija ante las catástrofes y las ruinas que se amontonan. “Bien quisiera él detenerse, despertar a los muertos y recomponer lo despedazado, pero desde el Paraíso sopla una tempestad que se enreda en sus alas, y que es tan fuerte que el ángel ya no puede cerrarlas. Esta tempestad lo empuja irresistiblemente hacia el futuro, al cual da la espalda, mientras los escombros se elevan ante él hasta el cielo. Esa tempestad es lo que nosotros llamamos progreso.”

Se han propuesto diversas interpretaciones sobre este sombrío texto de Benjamin, pero más allá de su carácter pesimista podemos hacer foco en la imagen del progreso como una tempestad, de la que no se puede escapar y que nos lleva irremediablemente hacia el futuro. En MANIAC, Labatut pone en boca de uno de sus protagonistas otro réquiem de la misma naturaleza: “La tecnología después de todo es una excreción humana y no debe ser visto como algo ajeno, como un Otro. Es una parte de nosotros, como la tela es parte de la araña. (...) El progreso se volverá tan complejo que no podremos comprenderlo. Porque el poder tecnológico es en sí un logro ambivalente, y la ciencia es neutra por completo; provee medios de control aplicables a cualquier propósito, pero permanece indiferente a todos. Lo que crea el peligro no es el potencial destructivo particularmente perverso de un invento en específico. El peligro es intrínseco. Para el progreso no hay cura.”

¿Hacia dónde vamos, en materia tecnológica, en el siglo XXI? La respuesta no es fácil ni segura. Las dudas de los propios líderes tecnológicos sobre sus invenciones actuales y las futuras nos recuerdan un poco la de los físicos a principios de la Guerra Fría, con la amenaza de un apocalipsis nuclear a la vuelta de la esquina. De todos modos, existe una tendencia muy humana a creer en la tecnología. Siguiendo este lineamiento no nos ha ido mal. La esperanza de vida ha aumentado en los últimos 100 años, cada vez más gente accede a cubrir sus necesidades básicas y hay paz y democracia en más lugares del mundo que hace un siglo. Pero hay otra dimensión quizás, a tener en cuenta.

Entre los grandes atributos de MANIAC, resalta la capacidad del autor para incorporar lo religioso y lo mítico a la historia científica. Quizás, en ese punto radique parte de su éxito en una época donde se multiplican las crisis de sentido y las creencias depositadas en los más diversos objetos. Y es que la tecnología promete adquirir en el siglo XXI una potencia profética descomunal. No la entendemos, claro, quizás ahí su mayor virtud. Porque la fe no se entiende. Y cada día le rendimos culto, mirando sin cesar la pantalla de nuestros celulares. Hay una anécdota que Zizek suele contar sobre Niels Bohr, el gran científico danés, padre del átomo y la mecánica cuántica. Se dice que Bohr solía tener una herradura en la puerta de entrada de su casa, para ahuyentar la mala suerte. Un amigo en una ocasión le preguntó cómo era posible que él, un hombre de ciencia, creyera en tales supersticiones. Bohr contestó que él no creía pero que le habían dicho que la herradura funcionaba de todos modos. Seamos creyentes o no la tecnología existe y dependerá de ella nuestra salvación o nuestra condena.

GIROS

Giros nace a comienzos de 2021, cuando la primera etapa de una joven cuarentena ya había pasado y sólo quedaba la incertidumbre de ver el mundo desde nuestras pantallas, un mundo en el que todo tenía una fecha de vencimiento cada vez más corta. Con la convicción contraria de la inmediatez y a partir de las obras de artistas sin los contactos necesarios para participar en los grandes medios, Giros publica su primera edición en febrero de ese mismo año.

Fundada por Gonzalo Selva (estudiante de cine), a los pocos meses se incorporan al equipo Joaquín Montico Dipaul (oriundo de Ingeniero White) y Gala Semich Álvarez (Licenciada en Letras).

Después de un año y medio Giros construye una comunidad y brinda la posibilidad a escritores, periodistas, ilustradores, poetas, fotógrafos de publicar sus primeras (segundas, terceras y cuartas) obras.

Giros busca ser un espacio para todo aquel que tenga algo para decir o mostrar.

El anacronismo nos convoca; el último tuit del influencer nos repele.

Seguinos en nuestro Instagram

© 2025. Todos los derechos reservados.