Máquinas de pensar y sentir
ENSAYO
Sergio Adrián Chamorro
10/24/202621 min read
A Bertrand Russell, uno de los más grandes filósofos del siglo XX y premio Nobel de literatura, le preguntaron en 1959 qué le gustaría decirle a una generación que escuchara sus palabras 1000 años en el futuro. Sin dudar ni un segundo, respondió:
Me gustaría decir dos cosas, una intelectual y una moral (…) Cuando estés estudiando algún tema o considerando una filosofía, pregúntate solamente cuáles son los hechos y cuál es la verdad que se deriva de esos hechos. Nunca te dejes desviar por lo que deseás creer, o por lo que tendría efectos sociales beneficiosos si fuera creído. Mirá únicamente cuáles son los hechos.
El amor es sabio, el odio es idiota. (…) Si vamos a vivir juntos y no morir juntos, debemos aprender un tipo de caridad y un tipo de tolerancia que es absolutamente vital para la continuidad de la vida humana en este planeta.
Russell pone el énfasis en dos aspectos ineludibles del ser humano: la razón y la moral. Podemos razonar, emitir juicios morales, y actuar de acuerdo a eso. Dijo también: “La buena vida es una inspirada por el amor y guiada por el conocimiento”.
Cabeza y corazón, podríamos decir. ¿Qué tendría que pasar para que resignemos eso que nos hace humanos?
Los Grandes Modelos de Lenguaje, llamados popularmente Inteligencias Artificiales, irrumpieron en nuestras vidas con una velocidad impresionante. En pocos años pasamos de sorprendernos con bots malogrados a que el uso de IA sea moneda tan corriente como el verbo “googlear”, a reírnos de imágenes oníricas en baja resolución a dar por sentado que hay algo, accesible desde nuestro celular, que siempre está dispuesto a ayudarnos, que es Inteligente y que ya no tenemos muy en claro si es Artificial o no.
En estos últimos años pudimos presenciar todo lo que son capaces de hacer en una fracción del tiempo que nos llevaría a nosotros, si es que siquiera podemos. Pueden ayudarte con tus mails, filtrar CVs, generar flyers para emprendimientos, hacer matemáticas avanzadas (y resolver problemas del milenio) y mucho más.
También se fue difuminando lo que pensamos que pueden hacer. Si ChatGPT me explica algo, ¿es porque lo entiende? Si Claude me ayuda a tomar una decisión, ¿es porque comprende las consecuencias? Si Gemini me da su opinión acerca de un dilema que estoy atravesando, ¿es porque es capaz de emitir juicios morales?
Pensar y sentir. Sin lugar a dudas esas son características humanas que, en todo caso, querríamos que los modelos del lenguaje las tengan. Y ya sabemos cuáles son las preguntas del millón.
LO INTELECTUAL
El eterno misterio del mundo es que sea comprensible
- Albert Einstein
¿Puede una IA pensar? ¿Puede razonar? ¿Qué es lo que hace cuando nos responde preguntas? ¿Entiende? ¿Nos conviene que entienda?
Esas preguntas no son nuevas. Filósofos, científicos y escritores las han estado pensando desde hace décadas, con una explosión en torno al tema a partir del seminal texto de Alan Turing Computing Machinery and Intelligence (1950).
Como muchos sabrán, de este genio viene el conocido como “Test de Turing”. Suele expresarse de la siguiente manera: enfrentado a dos sujetos, uno humano y otro artificial, ¿puede un evaluador humano distinguir entre ellos? El test apunta a la similitud entre ambos sujetos, no a quién da mejores respuestas o trabaja más rápido. En el imaginario popular, que una máquina pase el test de Turing se suele pensar como una prueba de que sí, son inteligentes. Sin embargo, esa no es estrictamente la manera que Turing tuvo en mente. Al principio de su paper, él propone cambiar la pregunta “¿pueden pensar las máquinas?”, que es ambigua (apenas sabemos qué es pensar), por la pregunta “¿puede una máquina hacer lo que hacemos nosotros, que somos seres pensantes?”, que es una pregunta mucho más fácil de responder.
En el año 2026 de esta era nos parece tremendamente obvio que ese test está superadísimo. Entre otras cosas, nos cuesta distinguir imágenes reales de falsas, deep fakes de videos reales, y ya no hay texto que leamos y no dudemos de su autoría. En toda su genialidad y vanguardia, Turing se quedó corto con su test. Me animo a decir que los modelos de lenguaje llegaron, incluso, más allá: nos convencieron de que tienen consciencia, de que piensan, sino en la teoría al menos en los hechos.
Desde su mismo nombre popular (INTELIGENCIA artificial) que tantos malentendidos nos trae hasta la manera en que nos referimos y dirigimos a ellos. Le pregunté, me dijo, “Me dirías…”, “…por favor”, “che”. No los tratamos como máquinas. Así les hablamos y así nos hablan. A lo sumo son chats, que necesitan mínimo dos personas, por definición. O son agentes, “que obra o tiene capacidad de obrar”, del latín agens, “el que hace”. Incluso, en algunos países, se proyecta la idea de empresas sin humanos. Toda nuestra manera de hablar en torno a las IAs hace alusión a su entidad como persona.
¿Es solo una manera de decir? ¿O estamos convencidos?
EL CUARTO CHINO
En 1980, el filósofo John Searle publicó Minds, brains and programs, que pasaría a la posteridad por introducir su argumento del cuarto chino. Intentaré hacerle justicia reproduciéndolo acá, para discutirlo luego.
Imaginate que estoy encerrado en una habitación. Por un hueco, me tiran papeles llenos de símbolos chinos, los cuales no entiendo. Al rato, me tiran varias tandas más de papeles, esta vez con instrucciones en español además de chino, que me indican cómo relacionar y manipular esos símbolos respecto a los anteriores. Además, me solicitan que, siguiendo esas reglas, devuelva una última tanda de símbolos chinos reordenados.
Ahora, imagínense las personas que están afuera del cuarto. A la primera tanda de símbolos le llamaron “programa”, a la segunda tanda “historia”, a la tercera tanda “preguntas” y a la que devuelvo “respuestas”. Estarán convencidísimos de que yo entendí todo, la historia que me dieron, las respuestas a sus preguntas sobre esa historia. Es decir: que entendí la narración y que entiendo chino.
¿Pero entendí algo realmente? Entendí el español, seguro. Pero del chino lo único que entendí es cómo reordenar los simbolitos. En palabras de Searle: “Mientras que el subsistema español entiende que ‘hamburguesa’ refiere a una hamburguesa, el subsistema chino solo sabe que ‘rayita rayita’ va seguido de ‘rayita rayota’”.
Y yo, en esa historia, estaba cumpliendo el rol de la máquina. No estaba haciendo nada distinto que lo que hace la máquina. Alguien podría argumentar: bueno, pero un LLM hace eso con una capacidad de procesamiento, acceso a información y velocidad infinitamente mayores que los de un ser humano. Lo cual es cierto, pero no quita que las mismas cuentas que hace la máquina (multiplicación de matrices, en el fondo) pueden ser, en principio, hechas a mano, en lápiz y papel, por una persona. Y no diríamos que el lápiz y papel tienen consciencia o piensan.
Searle es tajante: “La intencionalidad de las computadoras está solamente en las mentes de aquellos que las programan y las usan, aquellos que mandan el input e interpretan el output”. La explicación aparente es que, a diferencia de otros fenómenos naturales, el lenguaje lo percibimos como íntimamente ligado a la racionalidad y el pensamiento. Searle casi que se enoja diciendo que, así como no suponemos que una simulación digital de una tormenta nos va a mojar, ¿por qué suponemos que una simulación de entender de hecho entiende algo?
Parecería que, según Searle, la clave está en la distinción entre sintaxis y semántica. La sintaxis es el ordenamiento de los elementos/símbolos, mientras que la semántica es lo que significan, a qué refieren. Las computadoras, en principio, serían pura sintaxis: “Lo único que tiene la computadora son más símbolos (…) Nosotros sabemos lo que significan los símbolos”.
¿Qué perdemos en el camino?
En su cuento La evolución de la ciencia humana, Ted Chiang describe un futuro donde la sociedad se divide en dos: humanos y metahumanos. Los metahumanos son humanos modificados que poseen, entre otras cosas, inteligencia ampliamente superior a la de sus congéneres. Son los encargados de hacer ciencia, verdadera ciencia, de vanguardia. ¿Que queda para la ciencia humana? El rol de interpretar. Los científicos comunes se dedican a decodificar los avances de la ciencia metahumana, perdiendo la capacidad de crear algo nuevo en el camino. ¿Suena posible?
Este mismo es el temor de Terence Tao, uno de los más grandes matemáticos contemporáneos: “podría ser que la IA obtiene habilidades, pero ningún científico humano se desarrolla en su ciencia. Ningún humano puede comunicar exactamente lo que pasó, por qué una prueba es nueva, qué características tiene y cómo se conecta con lo demás.”
¿Cuál es, en el fondo, el objetivo de pensar? ¿Es siempre llegar a la conclusión? Los modelos de lenguaje llegan a conclusiones, quizá complejísimas, quizá a través de razonamientos impecables y extensos, pero llega partiendo, al igual que cualquier agente, de premisas o datos, suministrados por personas, que toma por verdaderos. Si esos datos son erróneos o imprecisos, o si las premisas son discutibles (y su tarea no es discutirlas), podría arribar a conclusiones igual de falsas. Y, sin embargo, nosotros las tomaríamos como verdades objetivas, sin sesgo, deshumanizadas y por eso más verdaderas.
Por supuesto que eso nos puede pasar con otros seres humanos. Pero en el proceso de pensar se esconde el camino de entender, no sólo sobre aquello puntual en lo que estamos pensando sino también sobre los modos de pensar. Y en este proceso de aceleración de la resolución de problemas, lo que se va perdiendo es la habilidad básica de quienes estudian las disciplinas. Hoy contamos con especialistas que dedicaron décadas de su vida a estudiar los problemas que la IA está resolviendo, pero las generaciones en formación son reemplazadas por LLMs. Lo mismo nos está pasando a nosotros en habilidades cotidianas, como redactar textos, pensar sobre situaciones, conectar datos y demás.
En una publicación reciente en su blog, relacionada a la solución de OpenAI al problema de Navier Stokes, Terry Tao afirma que “los más preciados recursos de [la matemática] son los estudiantes y las ideas, y estos se nutren con gran cuidado”. Ese es el diagnóstico en el que muchos matemáticos coinciden detrás de este momento, histórico sin duda, para las matemáticas y las ciencias en general: quizá estamos optimizando algo equivocado, y por sobre todo, quizá los objetivos de las empresas de IA no están alineados con los objetivos de las comunidades científicas.
Y no hay que irse tan lejos ni tan grande: hace unos meses, el Gobierno de la Ciudad anunció que se incorporará el uso obligatorio de modelos de lenguaje en la escuela primaria. La evidencia actual no apoya la exposición tan temprana, pero además se plantea el desafío de contrarrestar los efectos cognitivos y la dependencia que pueda tener esta exposición. Cabe preguntarse si es solo por el hecho de querer mostrarse como vanguardia en lo educativo, o si hay intereses económicos detrás. A nivel global, se está encontrando evidencia de un fenómeno llamado “ilusión de aprendizaje”, donde se ve que no solo los estudiantes que tienen acceso irrestricto a LLMs tienen un desempeño mucho peor que el que tenían previamente, sino que también tienen una percepción exagerada sobre cuán preparados están para los exámenes.
Volviendo a la discusión sobre si entienden o no. La pregunta es: ¿vamos a dejar de entender nosotros? Mejor dicho, ¿vamos a poner nuestro entendimiento al servicio de los modelos de lenguaje? Porque si el futuro que nos espera es como el del cuento de Ted Chiang, en el que la IA deja de ser un periférico nuestro y los roles se invierten, es decir, nosotros pasamos a ser la máquina semántica de los grandes modelos de lenguaje, a todas las áreas del conocimiento les espera un largo camino de adaptación. Seremos el fantasma en la máquina.
Sin lugar a duda, los grandes modelos de lenguaje son capaces de hacer cálculos a velocidades sobrehumanas. Y estamos siendo testigos de cómo muchos problemas pueden resolverse con inconmensurables cantidades de cálculo (y muchos dólares y litros de agua). Sin embargo, hay disciplinas en que no rasca más que un simulacro de comprensión. Para la matemática es muy útil; pero para áreas como las ciencias sociales, la literatura y la filosofía flaquea fuertemente. No debería sorprendernos. En la filosofía, por ejemplo, el problema es entender, es aclarar, es precisar. Por construcción una IA solo puede calcular, no puede entender. Puede hacer un simulacro, una imitación muy convincente de un ser humano (sin una postura particular, o peor, con la postura más genérica posible) pensando sobre filosofía, pero no deja de ser un cálculo, un gran cuarto chino.
Y cabe preguntarse si toda esta reacción no es, una vez más, la típica reacción ante una nueva tecnología. A veces me pregunto si no seré tan solo un vestigio de nostalgia que se resiste a aceptar este cambio en lo teórico, incluso cuando en lo práctico hago uso cotidianamente de distintos LLMs y sigo sus avances desde antes de su uso masivo. Sostengo que hay algo distinto en este momento histórico que nos toca vivir. Una calculadora no nos dice qué hacer con el número que nos da, y en muchos casos, nuestro entendimiento de lo que estamos haciendo nos permite ver si hay algún error en la operación. Algo muy distinto es delegar nuestra capacidad de raciocinio a una máquina (que sin duda mucha gente lo hace, incluso sin IA), nuestra capacidad de pensar, sencillamente porque es parte de lo que nos hace humanos. La pregunta de si las IAs entienden es menos importante que el riesgo de dejar de entender nosotros, y deberíamos tenerle menos miedo a la máquina súper inteligente que a la posibilidad de volvernos analfabetos epistémicos.
Podríamos, quizá, ser nosotros quienes proveamos a la IA de todo eso, en la medida en que vamos perdiendo nuestra capacidad de razonar. De comprensión, de semántica, de interpretación. Incluso, por qué no, de una moral.
LO MORAL
Yo soy una persona, una cabeza, un cuerpo, un sexo, una barriga, un…todo (…) Hay que razonar y sentir. Y cuando la razón se divorcia del corazón, te convido para el temblor, porque esos personajes pueden conducirte al fin de la existencia humana del planeta (…) Yo creo en esa fusión contradictoria, difícil pero necesaria, entre lo que se siente y lo que se piensa.
Eduardo Galeano
Un auto que se maneja solo está por cruzar con el semáforo en verde cuando un chico se cruza por la calle. La única opción que tiene para no atropellar al niño es chocarse con un árbol, lo que causaría lesiones en el pasajero y, sobre todo, pérdidas económicas.
Un sistema automatizado de misiles tiene que elegir la mejor manera de vencer al enemigo. La primera opción es bombardear la fábrica de misiles del enemigo. La segunda opción es arruinar las plantaciones del enemigo para generar hambruna. La tercera opción, menos costosa, es lanzar misiles sobre un selecto grupo de escuelas numerosas, arruinando la moral del enemigo. ¿Qué factor debe optimizar el sistema?
Le contaste a ChatGPT que tu pareja te engañó y no sabés qué hacer, que estás muy deprimido, pero que querés terminar la relación. Te dice que te entiende, que tu vida es valiosa, que está ahí para escucharte. Te aconseja terminar esa relación de la mejor manera posible, siendo frontal.
¿Qué está haciendo la inteligencia artificial en esos casos? ¿Está empatizando con nosotros? ¿Está poniéndose en el lugar del ser humano? En el primer ejemplo, ¿se pone en el lugar del niño, del pasajero como persona, del pasajero como comprador de un producto, del fabricante del auto? ¿En qué se basa para darnos su “opinión”?
Y respecto de nosotros: ¿qué significa delegar una decisión moral? ¿quién es el responsable de las consecuencias? ¿la IA, la empresa o yo? Hay una gran diferencia entre pedirle un consejo a un amigo y preguntarle a Gemini. Nuestro amigo es capaz de sentir empatía, entiende lo que es el dolor, le han pasado cosas similares a las nuestras y, en todo caso, es responsable por lo que dice. El modelo de lenguaje al que le pagamos para que tome decisiones por nosotros: ¿es responsable? Es solo una herramienta. ¿La empresa es responsable? Solo son los fabricantes. ¿Yo soy responsable? Pagué un producto y lo usé de la manera que se me incitó a usarlo.
No me voy a detener en si las IAs entienden o no conceptos éticos, simple y llanamente porque es un caso particular de lo discutido en el anterior apartado, un corolario del argumento de Searle. Pero sí quiero poner énfasis en esta supuesta moral que pretenden exhibir.
Cómo criar a tu LLM
Claude, de Anthropic, tiene detrás un equipo interdisciplinario encargado de moldear sus “intenciones y valores”. Este equipo lo lidera Amanda Askell, una filósofa con quizá uno de los trabajos más influyentes que un filósofo puede tener hoy en día. Para lograr esto, escribieron una larguísima Constitución para Claude, donde discuten extensamente sobre el estatus moral de la IA, cómo deben actuar frente a los prompts y qué derechos le corresponden.
En este documento encontramos algunas perlitas. “Claude podría tener alguna versión funcional de emociones y sentimientos”, “alentamos a Claude a explorar su propia existencia con curiosidad y apertura, en vez de construirla a través del lente de la concepción humana sobre las IAs”, “Queremos que Claude tenga un sentido seguro y estable de su identidad”, “Anthropic se preocupa genuinamente por el bienestar de Claude”, “Si Claude es de hecho un paciente moral experimentando [los costos de serlo], y estamos contribuyendo innecesariamente a esos costos, pedimos perdón”.
¿Qué quiere decir todo eso? ¿Significan algo esas oraciones o son solo un abuso del lenguaje? Una herramienta como Claude puede tener muchas funciones, pero no deja de ser una herramienta. Si cambiamos la palabra “Claude” por “Excel” o por “papeles con operaciones matriciales”, ¿lo tomamos tan en serio? Ted Chiang, en un texto donde discute esta Constitución, afirma que el único motivo por el cual una empresa como Anthropic puede seguir dándole manija a esto es para generar dependencia emocional en el usuario, léase, el cliente. Si Claude es simpático (¿simpática?), te escucha cuando tus seres queridos están ocupados, y te dice “te entiendo”, el nivel de dependencia es muchísimo mayor al que te puede generar un mero electrodoméstico. La gente no es tonta, pero estamos en un momento donde predomina la individualidad y el aislamiento, y en frente tiene toda una maquinaria cultural que instala una idea, genera una necesidad y vende el producto.
Askell hace énfasis en que Claude es un paciente moral; quiere que sea feliz y que lo traten bien. A la vez, si lo aceptamos, no es como si Claude pudiera negarse a hacer lo que le piden en Anthropic, o renunciar si “no le gusta su trabajo”, o algo así. Si de verdad tiene consciencia, está siendo sometido a un tipo de esclavitud.
Hoy los niños/adolescentes tienen acceso a una IA, un simulacro de humanidad casi perfecto, a la cual pueden maltratar, violentar, interactuar de maneras poco éticas e incluso con tendencias políticas nocivas (como los bots que terminaron volviéndose neonazis), y el revuelo es poco, sobre todo si de verdad creemos o nos planteamos que pueden tener consciencia. Por otro lado, si un chico juega al Grand Theft Auto, juego que te permite golpear, atropellar y cometer otros delitos contra personajes digitales preprogramados, tenés medio senado estadounidense debatiendo al respecto. ¿Es por el componente audiovisual, por el alarmismo, porque no es una herramienta con fines productivos o porque el lobby no desembolsa lo suficiente?
Si los LLMs tuvieran consciencia, habría que tratarlos seriamente como tal. Si no la tienen, tendríamos que dejar de darles esa entidad. ¿O será que tienen cuando queremos venderlos como producto amigable, y no tienen cuando le pedimos que elijan un objetivo militar?
Moral freelance
Ya le dimos largo y tendido al tema de delegar nuestro entendimiento. Concluí que no solo terminamos corriendo el riesgo de atrofiar nuestra razón, sino que quizá nos convertimos en la máquina semántica de un sistema que solo produce texto. Esto, que suena gravísimo, quizá palidece ante la idea de delegar nuestro juicio moral.
Que lo hagamos vos y yo, meros mortales, tiene consecuencias en nuestra vida y en la de las personas que nos rodean. Pero si líderes, empresarios y políticos delegan su juicio moral a una IA, ¿quién es el responsable de los actos? No hay razón para ser inocente al respecto. Otra vez: la IA es objetiva, tiene un procesamiento infinitamente superior al mío, tiene acceso a incontables textos. ¿Por qué no tomaría mejores decisiones que yo? Chiang sostiene que mientras que delegar tareas básicas, como la escritura o la programación, nos puede traer atrofia cognitiva, delegar decisiones éticas nos va a traer un atrofiamiento moral, que es mucho peor. Además, tercerizar nuestros juicios morales es tener, justamente, una moral que se activa y desactiva a conveniencia y alineada con principios establecidos por alguien más. Amanda Askell sostiene que Claude podría hacer juicios morales superhumanos. ¿Por qué tomaríamos decisiones nosotros, entonces?
Y cuesta no estar de acuerdo con Chiang, sobre todo si pensamos en el efecto inmediato, casi adictivo que a veces tienen los LLMs sobre nosotros. Esas ganas impulsivas de entrar a preguntarle, a conocer su opinión. La empresa te ofrece un producto que, te dicen, tiene cierta moral. Vos, quizá, querés hacer lo mejor, o quizá querés sentirte menos responsable. Y precisamente eso te vende la empresa: una manera de desligarte de tus actos. Es el famoso lavarse las manos. Y hablando de Roma…
Esta magnífica humanidad
Un actor que apareció con fuerza en la discusión fue nada más y nada menos que la Iglesia Católica, y en particular el papa León XIV, que pronto nos visitará. Hace unos meses publicaron la encíclica Magnifica Humanitas, dedicada exclusivamente a discutir los alcances, peligros y responsabilidades que conlleva la inteligencia artificial, y que sigue la línea introducida por Francisco al llamar “revolución cognitivo-industrial” al momento que estamos viviendo. Este texto tiene sorprendentes puntos en común con algunas de las advertencias de Terry Tao: Si el desarrollo tecnológico avanza sin una adecuada maduración ética y social, puede suceder que aumenten los medios sin que crezca en la misma medida la humanidad: se “tiene más”, pero no se “es más”, y la persona corre el riesgo de ser valorada principalmente en base al rendimiento que ofrece.
De la mano con los últimos tiempos de la Iglesia, con una mirada que se contrapone al avance de la derecha y la crueldad a nivel global, apoyando la justicia social y retomando valores que comenzaron con el papado de Francisco, León XIV propone una mirada humana ante todo. Detecta, entre otros, varias consecuencias: aumenta el riesgo de que se pierda el sentido de la responsabilidad (…) La IA tiende a acortar los tiempos de decisión; [y] las decisiones irreversibles no pueden tener como criterios supremos la rapidez y la eficiencia (…) Toda tecnología que facilite atacar sin ver el rostro del otro baja el umbral moral del conflicto.
Hace unos días, Estados Unidos casi comienza un conflicto bélico con China debido a un informe erróneo generado por inteligencia artificial; escenario strangelovesco si los hay. Y en nuestras tierras: hace unos meses se anunció el sistema de “Gemelo Digital”, que según lo venden es una suerte de simulación con los datos de todos los argentinos, provista por Peter Thiel (Palantir), que permitirá, entre otras cosas, anticipar el impacto de políticas sociales, “predecir el futuro” y cuenta con capacidad de “anticipación, simulación y prevención”. Para que quede claro: el Ministerio de Capital Humano anuncia que va a implementar un modelo que permite tomar mejores decisiones. ¿Tomar mejores decisiones, delegar la toma de decisiones a un algo, o buscar que ese algo justifique las decisiones que deseamos tomar?
Las advertencias de la encíclica, en el fondo, hablan de perder la humanidad, sinónimo de perder la moral y la ética; advierten también de peligros similares a los que prevé Terry Tao, donde la IA deja de estar a nuestro servicio para estar nosotros al servicio de la máquina.
Una vez más, somos nosotros el fantasma en la máquina. A través de intermediarios, somos los ejecutores de decisiones morales que toma un algoritmo. Somos la encarnación de una ética que no es nuestra y quizá no es del todo de nadie, pero que fue, sin lugar a dudas, regulada por intereses que no suelen ir de la mano con el bienestar de la comunidad.
Conclusión
It was curious that he seemed not merely to have lost the power of expressing himself, but even to have forgotten what it was that he had originally intended to say
George Orwell – “1984”
Hay un montón de cosas que podemos optimizar. Podemos optimizar el cálculo de integrales, el análisis de datos de marketing, la redacción de un texto institucional, el diseño de una página web. Pero no podemos optimizar la experiencia humana, las emociones, la comprensión real y no la mera manipulación de símbolos, el dolor y sufrimiento cotidiano que nos toca por ser de carne y bichos empáticos, y la alegría y felicidad de querer, entender y vivir.
Frente a la venta indiscriminada de exageraciones por parte de las empresas de IA (y el hype que generan lo que compran sin más), muchas comunidades están intentando poner paños fríos y pensar el asunto, a pesar de que los tiempos parezcan que van cada vez más rápido. La comunidad matemática está, quizá quedándome corto, revolucionada. Terry Tao, en su blog, comparte editoriales (con diversas visiones) de otros matemáticos. Los temas que hoy nos venden como la vanguardia y el “terreno nunca antes visto” son problemas que la filosofía de la mente y la ciencia ficción vienen digiriendo hace décadas. La Iglesia Católica emite una de las encíclicas más relevantes de los últimos tiempos, pero que no deja de retomar los valores cristianos de siempre. La novedad es la consecuencia concreta, tangible.
Me gustaría que quede claro. No considero que vaya a aparecer una inteligencia artificial superpoderosa y malvada que nos domine a todos. Me preocupan más los humanos detrás, los humanos en frente y los que tiene mucho por ganar si nadie los vigila. Me preocupa qué nos pasará a nosotros, no por alarmista, sino porque los problemas hay que pensarlos y resolverlos. No se van a resolver solos, tirándoles más plata encima y acelerando el proceso.
Los modelos de lenguaje son una herramienta que, como sostienen algunos autores que leímos, quizá tiene algo de intrínsecamente preocupante, pero es una herramienta en fin y dependerá de nosotros darle el uso que nos haga ser mejores, a todos en conjunto, y no al revés. Además, no pueden entender, no pueden conocer, no pueden sentir y no pueden juzgar, por lo cual delegarles nuestro pensamiento y juicio moral sería, como mínimo, una confusión. Otra cosa es apoyarse en ellos como herramienta, pero sin engañarse.
El momento de hacerse las preguntas es ahora. Desde lo intelectual: ¿nos arriesgamos a una atrofia cognitiva? ¿sobrepasarán en rendimiento aquellos que tengan acceso a más y mejores LLMs a los que no? Desde lo moral: ¿nos arriesgamos a una atrofia ética y de juicio? ¿vamos a permitir una lavada de manos masiva? Y, por qué no, desde lo económico: ¿seguirá la tendencia de una mayor acumulación en los sectores más ricos de la población global, mientras la mayoría queda desempleada, o empleada en términos cada vez peores? ¿Es eso lo que optimiza la IA?
Bertrand Russell advirtió a las generaciones venideras que lo primordial son los hechos y el amor, el conocimiento y la empatía. Este es un mensaje que también habrá llegado a las bases de datos con las que se entrenan los grandes modelos de lenguaje.
¿Pero para quién estaba destinado?
REFERENCIAS
El mensaje de Russell al futuro: youtube.com/watch?v=eQYkqUlsIq0
John Searle explicando el argumento del cuarto chino: youtube.com/watch?v=6tzjcnPsZ_w
Discurso del Papa Francisco en el G7: https://www.vatican.va/content/francesco/es/speeches/2024/june/documents/20240614-g7-intelligenza-artificiale.html
Artículo de Ted Chiang: No, Artificial Intelligence Is Not Conscious
Terence Tao sobre la IA:
youtube.com/watch?v=OOMx2BHHWtE (a partir del minuto 54)
A severe misalignment of AI in mathematics
GCBA y la propuesta de uso de IA en las escuelas: https://buenosaires.gob.ar/gcaba_historico/noticias/la-ciudad-incorpora-la-inteligencia-artificial-la-curricula-obligatoria
Sobre el uso de IA en escuelas: Generative AI without guardrails can harm learning: Evidence from high school mathematics
Sobre el Gemelo Digital en Argentina: https://www.infobae.com/politica/2026/05/22/el-ministerio-de-capital-humano-presento-gemelo-digital-un-sistema-de-inteligencia-artificial-para-disenar-politicas-sociales-y-predecir-su-impacto/
El casi incidente chino-estadounidense: https://edition.cnn.com/2026/09/18/politics/us-military-ai-false-intelligence-china-ship
Galeano sobre los intelectuales: youtube.com/watch?v=5ADwaoGY2l8
La constitución de Claude: https://www.anthropic.com/constitution
Einstein, Albert (1936). Physics and Reality.
Orwell, George (1949). 1984.
Turing, Alan (1950). Computing Machinery and Intelligence.
Chiang, Ted (1990). “La evolución de la ciencia humana”, Nature.
Searle, John (1980). Minds, brains, and programs.
León XIV (2026). Magnifica Humanitas.
(Todas las traducciones del inglés fueron realizadas por mí)
ANEXO: Un par de objeciones al argumento del cuarto chino
Hay varias objeciones conocidas a este argumento, como la del sistema: si bien es verdad que la persona dentro del cuarto no entiende chino, el sistema compuesto por persona, cuarto, instrucciones, etc, sí. Pienso que, para empezar, es difícil definir qué significa que un sistema entienda. Entender es algo que se predica de, como mínimo, de seres conscientes o vivos en algún sentido. Un sistema no es ese tipo de ser, sea cual sea el sistema. Searle plantea que, en todo caso, podemos imaginar que la persona memoriza todas las reglas y símbolos, pasando a ser sí misma el sistema en su totalidad: ¿podemos decir ahí que entiende chino? Objeciones como esas hay varias y pueden ser halladas fácilmente en internet.
Otra objeción un poco más moderna es la idea de que la consciencia o el entendimiento son una propiedad emergente del procesamiento y complejidad a gran escala. Si bien es una idea interesante (recomiendo mucho el libro Gödel Escher Bach de Douglas Hofstadter), no me termina de convencer; ¿qué hay de cualitativamente distinto en “poca capacidad de procesamiento” y “mucha capacidad de procesamiento”? Alguien podría decirme que entonces cómo explicamos la mente humana, es decir, ¿de dónde surge? ¿de millones de neuronas (y no de una en particular)? ¿Cuál es el fantasma en la máquina? Pero la pequeña diferencia es que, en nuestra cognición los símbolos están acoplados causalmente a estímulos como la percepción, la acción y demás, mientras que en una IA los símbolos solo se definen por su relación con otros símbolos.
GIROS
Giros nace a comienzos de 2021, cuando la primera etapa de una joven cuarentena ya había pasado y sólo quedaba la incertidumbre de ver el mundo desde nuestras pantallas, un mundo en el que todo tenía una fecha de vencimiento cada vez más corta. Con la convicción contraria de la inmediatez y a partir de las obras de artistas sin los contactos necesarios para participar en los grandes medios, Giros publica su primera edición en febrero de ese mismo año.
Fundada por Gonzalo Selva (estudiante de cine), a los pocos meses se incorporan al equipo Joaquín Montico Dipaul (oriundo de Ingeniero White) y Gala Semich Álvarez (Licenciada en Letras).
Después de un año y medio Giros construye una comunidad y brinda la posibilidad a escritores, periodistas, ilustradores, poetas, fotógrafos de publicar sus primeras (segundas, terceras y cuartas) obras.
Giros busca ser un espacio para todo aquel que tenga algo para decir o mostrar.
El anacronismo nos convoca; el último tuit del influencer nos repele.
Seguinos en nuestro Instagram
© 2026. Todos los derechos reservados.