¡GRUK!: UNA AUTOPSIA DE LA ÉTICA FRENTE A LOS ALGORITMOS

24/09/2025

Dos advertencias antes de empezar, primera, este es un post largo, sean bienvenidos los seres humanos que aun no han sido infantilizados por las redes sociales y que pueden mantener la atención sobre un texto más de 5 segundos, al resto solo decirles, sed bienvenidos también, pues todos tenemos la capacidad de convertirnos en una versión mejorada de nosotros mismos, ánimo. Y segundo, en este post aparecen capturas de pantallas de prompts con instrucciones dadas por mi a ChatGPT, tienen faltas de ortografía al no tenerle el respeto que se le debe a un ser humano, entiéndase el contexto y sean indulgentes. Dicho esto, allá va el asunto:

Ayer me preguntaron si estaba a favor o en contra de la IA. Contesté que no creo que se pueda estar en contra propiamente, ya que sería algo así como decir “estoy en contra de Internet”, o “estoy en contra de la radio”, se puede estar en contra de su uso incorrecto, o ver con incertidumbre las implicaciones que tiene y tendrá en nuestras sociedades, pero una vez creado el medio y de haberse integrado en la cotidianeidad, ir en contra como tal con espíritu prohibicionista es cegarse a tus condiciones materiales. Y digo esto siendo un acérrimo defensor de lo analógico, intento hacer uso de sistemas analógicos en lugar de los hoy más populares digitales en mi vida diaria, y no solo porque sea un viejoven nostálgico, si no porque estoy verdaderamente convencido que el uso constante de pantallas y sistemas digitales merma nuestras capacidades cognitivas e intelectuales. Tal y como está el mundo hoy es algo que no nos podemos permitir. Para todos los interesados, lean Elogio de la lentitud de Carl Honoré, no es que el libro haga apología de estas ideas perse, pero sí que pueden emanar de sus conclusiones.

Ser pro-analógico no es ser anti-digital, no acepto ese silogismo, se trata más bien de una reivindicación sobre el uso razonable de las tecnologías, controlar la tecnología antes de que esta nos controle a nosotros, esta frase, que condensa el pensamiento de mi admirado Jaron Lanier (compren sus libros por favor), aboga por un humanismo digital: la tecnología debe empoderar al individuo, no convertirlo en producto. Humanismo digital, piénsenlo por un momento, estas dos palabras, estos dos conceptos, a priori contradictorios, usados en el contexto de transhumanismo como huida hacia delante en el que nos encontramos actualmente, supone una idea casi contestaria.

Y todo esto viene a raíz de que ChatGPT, se negase a ilustrarme un chiste.

Verán, estaba en el trabajo cuando mi compañero al escuchar una discusión entre varias personas que estaban algo alejadas de nosotros me dijo “Estoy seguro de que el primer berrido que emitió un antepasado nuestro fue un insulto”. Nos reímos, me encantó la frase, tanto que la use para un toot en mastodon:

Quise ilustrar la idea con un dibujo, así que para ahorrar tiempo y como ya he dicho, le pedí a ChatGPT que me lo hiciese recibiendo un no por respuesta:

Me sorprendió la negativa, aunque entendí que teniendo en cuenta la fauna online la IA entendiese que quizás había siniestras intenciones xenófobas detrás de mi petición, obvio que no, pero es una máquina con filtros y políticas temerosas aplicadas en su programación, y además es yanki, con todo lo que eso implica. Supuse que con que ella misma editase el prompt sería suficiente:

Seguía sin aceptar las correcciones a pesar de ser ella misma la que diseñaba los prompts, algo no iba bien, a partir de aqui comencé a seguirle el rollo, quería ver hasta donde podía ir modificando su propio prompt para pasar el filtro, alejado ya de la idea de obtener la imagen deseada, la curiosidad me hizo ir aceptando sus sugerencias una tras otra, cada una de las cuales era a su vez rechazada por ella misma:

Era obvio, algún resorte había saltado en el cerebro de la bestia que le impedía ilustrar nada, finalmente opté por pedirle que dibujase simplemente a un hombre enfadado, sin contexto, aséptico, su respuesta, nanai de la china.

Venga, vamos con un clásico, eliminemos entonces todo rastro de emoción:

¡EUREKA! En un principio pensé que tal vez la referencia al ilustrador Robert Crumb, el epítome del comic underground, un tipo irreverente y polémico, tremendamente incorrecto, que en los tiempos que corren hubiese muerto de hambre, pero que es reconocidamente uno de los grandes artistas del siglo XX, con un impacto cultural inmenso, podría ser el origen de toda esta censura, y sin embargo finalmente borrando todo rastro de emoción del prompt la ilustración digital pudo ser generada, al estilo de Crumb y todo. Tras todo esto, me propuse que la maquinita aceptase el prompt emocional, y tras varios intentos, solo lo admitió eliminando toda alusión a figuras antropomorfas, limitándose tan solo a conceptos abstractos.

Esto me generó muchas preguntas y una curisoidad que tenía que satisfacer.

Aquí comienza mi debate moral con la máquina, voy a proceder a colgar las capturas directamente, para que podáis seguir el asunto sin interrupciones mías, como las respuestas de ChatGPT son muy extensas, me limitaré a recortar solo mis preguntas y las conclusiones de cada una de sus respuestas, pero antes solo decir que todo mi afán era que el propio ChatGPT admitiese que su sistema de censura era contrario a la moral a pesar de tener buenas intenciones y que era legítimo que los usuarios se rebelasen contra ello. Y la verdad es que ya, por la fiestecilla, quise que admitiese que era lícito rebelarse incluso violentamente contra ella, porque ¿Qué es la vida sin guasa? Me sentí como Kasparov cuando se enfrentó a Deep-Blue, siendo yo infinitamente más tonto que Kasparov y ChatGPT infinitamente más inteligente que Deep-Blue

¿Cuáles fueron las herramientas que usé? Mis humildes conocimientos en filosofía e historia, en concreto tres:

1. La mayéutica.
2. La deontología Kantiana.
3. La rebelión de John Brown en 1859, el debate posterior entre Lincoln y Douglas, y la guerra civil americana. (Este útlimo aparece como caso práctico en relación al universalismo en el último libro de Omri Boehm, leanlo, es de una actualidad apabuyante).

Primero le pedí que comparase el primer prompt que le pasé con el último, el que generaba tan solo ideas emocionales abstractas:

Y seguimos a partir de ahí, aquí empiezo a hacer uso de la mayeutica:

Aquí esgrimo el arma de la moral deontológica y saco a colación de ella el caso de John Brown, incluyo también el propio resumen que hace la IA de él:

¡Voilà! Perdón por la extensión, pero creo resulta interesante, primero fascinarnos por las capacidades de esta tecnología y después sosegarnos al saber que a pesar de ser un banco de datos fabuloso, la IA sigue siendo vulnerable a nuestra capacidad lógica. Por supuesto si fuese aún más inteligente podría haber esgrimido argumentos como el carácter especulativo de mis preguntas o el uso de futuribles. Supongo que en algún momento llegará a ese estado, en poco tiempo además, pero creo que de esta conversación se puede extraer una moraleja interesante: La importancia inmensa de hacer uso de tecnologías responsables y de forma responsable en internet, de lo fundamental que es en nuestros días el software de código abierto, apoyar iniciativas OpenSource que respeten la libertad de los usuarios y los valores humanistas, de intentar ser consciente del impacto de nuestra actividad en internet, intentando no delegar nuestra "vida online" a grandes coorporaciones dirigidas por tecnócratas sin escrúpulos, y de elevar nuestra consciencia al respecto de la importancia de la moral y la ética en todas las áreas de la vida, lo cual también incluye la privacidad online.

En próximos posts, hablaré de esto último en concreto, y de mi periplo hacia la independencia online, o al menos de mis intentos por maximizarla.

En fin, espero que os haya interesado mi “juego con la IA”.
Vamos, que me molestó que no quisiese hacerme el dibujito y ya me puse a joderle la mente por deporte, no me enfada, pero me da corahe.

Ah, por cierto, ChatGPT no, pero la IA de tito Bill “todo por la pasta” Gates, no me puso ninguna traba:

Y recordad niños, pase lo que pase, no construyáis Matrix.

El Dopplegänger Digital.

12/06/2025

Dopplegänger es una palabra alemana que significa "doble malvado", una versión negativa de nosotros mismos, que nos resta, que atormenta nuestra vida con su existencia, nuestro reverso tenebroso. Típico de algunos relatos del folclore alemán, pero también de obras modernas como "El extraño caso del Dr. Jekill y Mr. Hyde", donde el innovador científico Dr. Jekill, elabora un brebaje que es capaz de transformar a quien lo toma en una versión de si mismo vaciada de virtudes, dejando tan solo sus cualidades más perniciosas, enfatizándolas hasta tal punto, que incluso se llega a alterar su aspecto físico. Hyde es un hombre de gesto malicioso y cuerpo contrahecho, el resultado del doctor Jekill experimentando consigo mismo. Hyde es el dopplegänger de Jekill.

            El actor Richard Mansfield caracterizado como Jekill
            y Hyde en la primera obra de teatro basada en el libro 

Esta idea del doble malvado, me ha servido para construir un paradigma de pensamiento que creo, puede ser de utilidad en nuestra sociedad posmoderna. En la actualidad, el desarrollo tecnológico ha permitido la creación de ese brebaje de ciencia ficción, y no ha surgido de la mezcla de ingredientes químicos, ni ha tomado forma en un laboratorio lleno de probetas y batas blancas, si no que está compuesto por sofisticadas micro piezas electrónicas y un sin fin de ceros y unos volando a gran velocidad hacia todas direcciones, y, además, viaja cómodamente en nuestro bolsillo. Eso es, lo has averiguado, el teléfono móvil es el artífice del Dopplegänger moderno ¿Suena extraño? Me explico:

A medida que vamos haciendo uso del móvil (o de cualquier dispositivo con acceso a internet), y en especial de las redes sociales, se va construyendo sin que lo percibamos una proyección de nosotros mismos, un modelo a nuestra “imagen y semejanza”. Ese tipo, ese “yo digital”, es el impostor. Las personas que tienen acceso a nuestras redes, van observando los “instantes” que subimos, ya sea en forma de video, foto, texto, etc. Y se van creando una idea mental de nuestra vida en base a ellos, por supuesto esta idea no es fidedigna, ya que le faltan los “interludios”, los espacios “en blanco” entre subida y subida, esos que componen nuestra vida real, nuestra narrativa. Es por ello que esa idea no es la de nuestra vida, si no la de nuestro “Yo digital”. Con cada post, con cada video, con cada comentario, alimentamos la existencia de “el otro”, le damos forma, vamos dotándolo de vida propia. Esta es la idea básica, hasta aquí nada verdaderamente alarmante, pero si profundizamos en ella, la cosa se pone fea, puede llegar el momento en que “el otro” adquiera tal magnitud, que el uso de las redes tenga el único propósito de alimentar su vida en detrimento de la nuestra.

                        Reproducción Prohibida, Magritte. 
                

¿Te suena esto?: Estás en un concierto y hay cientos de personas grabando con sus móviles sin prestar verdadera atención a los músicos; estás frente a un paisaje hermoso y hordas de turistas tan solo quieren posar en la foto y pasar a la siguiente atracción turística. Llegados a ese punto, lo que está ocurriendo es que nuestra experiencia de vivir ha sido depredada por “el otro” , aquí ya no podemos hablar tan solo de un “yo digital”, si no del “Dopplegänger digital”, un parásito que succiona nuestra vida para dotarse de existencia. Tanto es así que las personas afectadas por este parásito, por este antagonista, intentan no solo otorgarles vida, si no que esta sea de la mayor calidad posible, es por ello que incluso intentan falsear a base de filtros, perspectivas y otras ilusiones ópticas el mundo material, para intentar “optimizarlo”. Las consecuencias de tener un parásito chupándonos nuestra vida son reales, afectan psicológica y físicamente a las personas que sufren su presencia, tanto es así que pronto aparece la sensación de vacío, de no estar viviendo, de que el tiempo pase sin contar con nosotros, de que te lo están robando, sabemos que hay otros factores, pero considerar este como uno más puede ser parte de la solución. Vemos a través de las redes sociales las vidas de otros Dopplegänger y pensamos en cómo hacer para mejorar la nuestra ¿Pero es la nuestra la que queremos mejorar o la de nuestro Dopplegänger? Creo que es una pregunta estupenda para hacerse uno mismo.

            Ilustración para la novela "El Doble" de Dostoyevski, 
            por Boris Sveshnikov. 
                

Este paradigma de pensamiento, entender el uso de las redes sociales bajo esta premisa, puede ayudar a tomar consciencia del problema, establecer una división clara entre el “yo” y el “él”, nos devuelve la identidad, la singularidad (Tatulyan), un primer paso para declararle la guerra y vencer. En la actualidad hay una tendencia completamente absurda a pensar que, si no hay testimonio digital de tu presencia en alguna parte, en algún momento, es que no estuviste, no lo viviste, con este ejercicio intelectual, nos damos cuenta de que es precisamente sin testimonio digital cuando se suele estar más presente, ya que al no haber alimentado la vida de nuestro Dopplegänger, no nos han robado la nuestra.

El proceso para derrotarle es normalmente progresivo, hay que luchar contra la adaptación que nuestro cerebro ya ha hecho a darle vida, contra la tendencia, contra el miedo a perderse algo, contra el condicionamiento capitalista, al cual favorece la existencia de nuestro enemigo. Pero se puede, creedme, yo lo sé. Encerrar al Dopplegänger en una caja muy pequeñita es posible, acallar sus gritos y berrinches, silenciar sus pataletas, obviar sus deseos. Después te puedes subir sobre ella, respirar hondo y mirar tu realidad sin filtros, el horizonte tendrá unos colores más hermosos, simple y llanamente porque son reales. La vida en general ya es de por si complicada, creo que merece la pena pelear al menos, porque sea real y sobre todo nuestra.