Nuria Alabao escribe una excelente “Carta a la comunidad” de ctxt con atinadas advertencias sobre los peligros de las IA,[1] pero algo inquietante llama la atención: varias veces afirma que no está escribiendo desde una posición moral, y hacia el final del texto insiste: “De nuevo quiero advertir de que ésta no es una posición moral”. ¿Qué clase de cultura crítica ha ido desarrollándose estos últimos años, para que sus practicantes identifiquen de forma bastante sistemática la moral como algo negativo? ¿Pensamos que como sociedad podemos salir adelante sin una buena moral (igualitaria, biofílica, inclusiva, gaiana…)?
Mi amiga Sara me dirige hacia estas reflexiones de Susan Neiman: “Lo que me llamó la atención, y que podría explicar tanto la capitulación como la elección de la segunda administración de Trump, es el malestar que tanta gente de izquierdas siente ante el lenguaje moral. A la gente le preocupa que tenga tintes religiosos si ellos son laicos. No es así. Es un tema del que sé algo, ya que escribí un libro hace 25 años titulado Evil in Modern Thought (El mal en el pensamiento moderno), así que conozco un poco esa historia. Y sucede que los conceptos morales preceden a los religiosos en todas las culturas. La religión es una forma de expresar ciertos conceptos morales; es un intento de resolver ciertos problemas morales. Pero el sentimiento inicial de maldad —se puede llamar sentido de la injusticia— es algo que tienen los niños en todas las culturas y, según algunos investigadores, incluso los primates y otros animales superiores como los elefantes. Por lo tanto, no es un término religioso, aunque las personas religiosas suelen sentirse cómodas con el lenguaje moral. A la gente le preocupa que resulte polarizador, que sea demonizador. Y, por ese temor, dejamos las armas más poderosas que tenemos en el lenguaje en manos de quienes son menos responsables a la hora de utilizarlas.” Y cuando se le pregunta a Neiman por qué cree que una proporción tan grande del electorado estadounidense votó por Trump por segunda vez, responde: “Porque, aunque pudimos ver la inmoralidad durante el primer mandato y las tendencias hacia el fascismo —no creo que sea una expresión demasiado fuerte—, estamos tan convencidos de que los conceptos morales son para pringados, como diría él, o como diría Stephen Miller —ya sabes, son sutilezas que en realidad no cambian nada en el mundo—, que la gente se rindió y fue incapaz de condenar lo que realmente estaba ocurriendo de una forma tan escandalosa”.[2]
***
En el texto recién citado, Alabao se refiere a “investigaciones que han contabilizado al menos 3.749 webs que imitan a medios de comunicación y publican textos generados por IA sin apenas supervisión humana. Viven de la publicidad automatizada, así que marcas muy conocidas están financiando esta estafa sin saberlo…”
[1] Nuria Alabao, “Periodismo sin nadie detrás”, Carta a la comunidad 465, 19 de septiembre de 2026. Reproduzco algunos pasos:
“La semana pasada, Jacob Coxon, un joven ingeniero británico de 27 años que trabajaba en el entrenamiento de modelos de lenguaje, dejó su empleo. Publicamos en CTXT su mensaje, que ha dado la vuelta al mundo, en el que explicaba que las grandes empresas del sector están inmersas «en una carrera directa hacia la creación de una superinteligencia capaz de mejorarse a sí misma». Según Coxon, quienes construyen estos sistemas creen de verdad que podrían acabar con nosotros antes de que termine la década. Y lo cierto es que Dario Amodei, director general de Anthropic, una de las empresas de IA más importantes del mundo, acaba de pedir que, ante estos peligros, se ralentice su desarrollo. Entre los riesgos que enumera él mismo estaría el de perder el control de los sistemas, ciberataques y bioterrorismo impulsados por la IA. Tenemos un ejemplo reciente que parece sacado de un libro de ciencia ficción: el incidente de OpenIA-Hugging Face, donde un grupo de agentes de IA ha lanzado un ataque informático sin que se les haya pedido, y lo han hecho, además, intentado borrar sus propias huellas.
Cory Doctorow, un experto en tecnología —que os recomiendo—, sostiene que a los dueños de la IA les encanta este relato apocalíptico porque paradójicamente es una buena publicidad. «Si la IA es lo suficientemente poderosa como para destruir el mundo, ¡piensa en cuánto dinero puede generar!». Según él, las narrativas del dominio de las máquinas sobre los humanos son puro marketing viral e impulsan la burbuja de los LLM —los modelos extensos de lenguaje, una denominación bastante más exacta que lo de «inteligencia»—. Pero resulta muy difícil no alarmarse un poco ante las cosas que están sucediendo.
¿Drones letales dirigidos por IA autónomas? ¿Pérdida masiva de trabajos? ¿Nueva burbuja financiera? ¿Otra crisis ecológica? Las preguntas caen sobre nuestras cabezas como una tormenta. Y por desgracia, no son miedos infundados. En febrero, la Administración Trump vetó a Anthropic —la desarrolladora de Claude— después de que la empresa se negara a que sus modelos fuesen utilizados para la conducción de armas letales autónomas o la vigilancia masiva —lo que ya está sucediendo a través de otras empresas—. En Estados Unidos se ha despedido a más de cien mil trabajadores este año por culpa de esta tecnología. Sin olvidar que el coste en términos de consumo de energía y agua es una amenaza muy real. Aquí está pasando ya: el proyecto de Meta en Talavera de la Reina requiere de al menos 504’5 millones de litros de agua al año en una comarca castigada por la sequía.
Hay otro fenómeno que no podríamos registrar en el apartado de «peligro de extinción humana», pero que produce otro tipo de inquietudes, esta vez estilísticas. No sé si os pasa, pero navegando por internet me topo cada vez más con la cadencia de lo redactado por una máquina: sus frases más o menos de la misma extensión, su estructura sin habla y sus esquemas repetitivos que consiguen aburrir hasta a las ovejas. La frase que empieza con una negación para afirmar algo aunque no haga falta: «Esto no va de tecnología, va de poder». La pregunta retórica que se contesta a sí misma en la línea siguiente: «¿El resultado? Un desastre». El párrafo rematado con una sentencia breve, casi de eslogan aparentemente ingenioso pero en realidad vacío. Las enumeraciones de tres elementos muchas veces precedidas por dos puntos… Y ya no pasa únicamente en los carruseles de Instagram o en los boletines empresariales, cada vez más artículos de prensa, informes, prólogos de libros y hasta libros enteros empiezan a sonar igual. Tienen la misma música. O más bien, la misma ausencia de ritmo. Conducen a las mismas ganas de sacarse los ojos.
No hay aquí una posición moralista. El periodismo es una profesión precarizada y entiendo que se utilice una herramienta que ahorra tiempo. Yo misma la utilizo para varias tareas, pero ¿por qué quienes firman al menos no reescriben en su propio estilo las sugerencias de la IA? ¿No se dan cuenta del vacío de su escritura, de su pobreza estilística y de su falta de humanidad? Se les ha llamado «loros estocásticos» porque cosen secuencias de lenguaje según la probabilidad de que vayan juntas, sin referencia alguna al significado profundo de las palabras. Como un prestidigitador, la máquina ofrece la ilusión vacía de una prosa lógica y hasta brillante, pero debajo solo está la nada. Puede que nuestro futuro esté plagado de trabajos redactados con IA que los profesores corregirán con IA en una suerte de cinta de Möbius imposible. ¿Seremos todos más tontos? ¿Acabaremos escribiendo todos igual, ya que leemos cosas que siguen la lógica repetitiva de la máquina? Cuando los modelos se entrenan con textos de otros modelos, lo primero que se pierde son los usos raros de la lengua, la persona y el alma.
(…) Doctorow toma prestada la imagen del centauro —medio humano, medio caballo— que usa la teoría de la automatización, donde una cabeza humana pensante se sitúa sobre un cuerpo de máquina incansable. Somos centauros cuando conducimos un tractor o un coche. El centauro inverso es lo contrario: una cabeza de máquina sobre un cuerpo humano; alguien reducido a apéndice de carne de un sistema que es quien toma las decisiones e impone su ritmo. El ejemplo que utiliza es el repartidor de Amazon, vigilado por cámaras dentro de la furgoneta que le restan puntos si mira donde no debe e incluso le prohíben cantar. Su tesis es que muchas herramientas de IA podrían servir para crear centauros, para potenciar nuestras capacidades, pero que más bien se están desarrollando con el propósito expreso de fabricar centauros inversos donde los humanos se dediquen a corregir lo que hace la máquina: el trabajo más pesado y menos creativo. Esto va a permitir despedir a muchos trabajadores y que sus sueldos vayan tanto a los jefes que los echan como a las empresas de IA.
En el periodismo, un centauro usaría la máquina para transcribir una entrevista de dos horas o rastrear un informe perdido, y después escribiría y contrastaría la información, si puede, recurriendo a fuentes humanas. Una redactora centauro inverso, en cambio, recibiría el encargo de «supervisar» doce piezas diarias que produce un LLM e incluso estaría obligada a firmarlas. El objetivo sería que alguien cargue con los errores de la máquina —porque, por ahora, las máquinas no son responsables—, que se convierta en lo que Dan Davies llama un «sumidero de responsabilidad». Las IA están sirviendo ya para apretar las tuercas a las trabajadoras de un sector laboralmente precarizado.”
[2] “Call it evil: Philosopher Susan Neiman on why moral clarity matters in the Trump era”, Democracy Now!, 17 de septiembre de 2026; https://podcasts.apple.com/pa/podcast/democracy-now-september-17-2026/id989411107?i=1000790354411