Lo más valioso del arte es Lo humano

Las IA no son inofensivas

A finales de enero ocurrió una sacudida a nivel mundial, cuando una empresa tecnológica china logró que otra estadounidense, líder en su campo, perdiera millones de dólares en la bolsa de valores. Lo que esta empresa china hizo fue mostrar que no necesita de la más sofisticada tecnología estadounidense para competir con ellos, y abrió el camino para que su inteligencia artificial, igual de eficiente pero con un costo de desarrollo mucho menor, sea usada libremente.

¿Y qué tiene que ver esto con los libros? El camino es complejo pero podría resumirlo, a grandes rasgos, así: usar las inteligencias artificiales no es inofensivo. Si tenemos que equipararlo con alguna creación previa, tendría que ser con un arma y no con un videojuego de moda. Ya lo explicaré.

En fin, que es a través de los libros que podemos compartir la memoria colectiva del mundo, para terminar con Manguel. Por lo tanto, dedicarse a ellos, a escribirlos o venderlos, requiere una vocación humanista que contemple y valore su producción.

Pero esta no es una advertencia alarmista, o en el peor de los casos purista, no. Más bien, parte del reconocimiento inmediato de que el desarrollo e implementación de las IA en la vida diaria avanza a un ritmo tan acelerado que no nos es posible seguirle el paso. Es decir: todavía no acabamos de entender sus procesos de funcionamiento cuando ya estamos en la antesala de un riesgo por uso en armamento nuclear. Hasta ahora ningún gobierno de los países que las desarrollan ha planteado regulaciones serias que les impida usar la inteligencia artificial con estos fines. Tampoco hay regulaciones eficaces para crear contenido con ellas, y eso que ya se crean imágenes o videos pornográficos que vulneran los derechos humanos principalmente de las mujeres y niños.

Es decir: que su poder es tal que necesitamos pensar en regularla, reglamentar su uso en los terrenos donde tenga aplicación, así como acotar los criterios para echar mano de ella.

En resumen: la inteligencia artificial no es una herramienta inofensiva, como señalan los usuarios más entusiastas de esta tecnología. No es un martillo con el que se puede herir a alguien si se manipula de forma equivocada. La inteligencia artificial, en manos insensatas, puede lacerar la vida de las personas o incluso destruir a quien se considere un enemigo.

No seas alarmista

Pero para nuestro caso no iré tan lejos. El uso indiscriminado de las inteligencias artificiales generativas ya ha golpeado en diversas ocasiones al circuito artístico-cultural, con consecuencias menos devastadoras, claro, aunque no inofensivas, como publican los internautas que se valen de ella para crear contenido. Por ejemplo: para la tercera edición del Premio Iberoamericano de Cuento y Novela organizado por la Fundación Elena Poniatowska, se anunció que recibieron obras escritas con inteligencia artificial. Sin explicar cómo las detectaron ni qué hicieron con ellas, Felipe Haro, el hijo de la escritora, declaró, y con justificada razón, que cada vez sería más difícil detectar estos textos, sin especificar tampoco si los tomarían en cuenta o no para futuras ediciones.

Aquí la primera pregunta que surge es: ¿qué puede llevar a un escritor a usar una inteligencia artificial para hacer su trabajo? Y la segunda: ¿qué tanto valora o le importa su oficio como para recurrir a una IA que haga lo que él no puede hacer? ¿Usarla para ganar un premio literario? ¿Y luego, qué? ¿Seguirá «escribiendo» de esta forma?

No soy ingenuo: sé que muchos libros de éxito comercial –y con énfasis en el llamado desarrollo humano– ya están escritos, parcial o totalmente, con esta tecnología, y que hay quienes disfrutan leerlos. Pero esa no es la literatura ni el tipo de lector que me interesan, sino los que se toman en serio el oficio de escribir literatura de ficción porque tienen algo importante y personal qué decirnos. Hay pocas cosas tan íntimas y personales como el ejercicio de escribir, donde uno está solo con sus propios pensamientos y reflexiones. Ahí no se puede mentir.

¿Qué puede llevar a un escritor a usar una inteligencia artificial para hacer su trabajo? Y la segunda: ¿qué tanto valora o le importa su oficio como para recurrir a una IA que haga lo que él no puede hacer?

¿Y qué tiene de malo?

Cuando un proyecto cultural usa indiscriminadamente la inteligencia artificial para generar su contenido manda un mensaje velado pero inequívoco: es una práctica deseable y normal. Una editorial o una revista que apuesta por las obras escritas por humanos pero se atiene a la IA para generar su contenido, bajo el argumento de que esta le facilita el trabajo, está validando su uso en el terreno creativo.

Pero eso no tiene nada de malo, me ha increpado más de uno. Y puede que aparentemente no hay nada recriminable en ello. Es decir: si un sello pequeñito o una revistilla underground puede crear ilustraciones sin costo (también esto es aparente) para acompañar a los textos de sus autores, o para corregir gramaticalmente un texto, o crear portadas únicas, ¿no es esto una gran ventaja para que se consolide? Lo tentador sería responder que sí, que la inteligencia artificial es una maravilla y que está bien usarla para todo eso y más, pero insisto: solo lo es en apariencia.

Porque, veamos, ¿es realmente inofensivo el uso de las inteligencias artificiales en las disciplinas literarias? Ya he señalado al principio de este texto la cuestión humanista que requiere dedicarse a la cadena literaria. Pero si eso no es suficiente, aquí va otro aspecto cada vez más evidente y de lo que incluso ya comienza a hablarse con recurrencia en las redes sociales: el desarrollo de esta tecnología tiene un impacto medioambiental considerable, ya que para hacerlas funcionar se necesitan cantidades descomunales de recursos, desde el agua que se usa para enfriar los procesadores de las empresas que las desarrollan, pasando por electricidad que muchas de las veces se genera con combustibles fósiles que arrojan desechos contaminantes al aire y suelo, hasta la explotación de minerales para extraer los materiales con los que se fabrican los microchips y demás componentes que las hacen funcionar. Y aunque es verdad que nuestros hábitos cotidianos no son ni por asomo cuidadosos con el medio ambiente, ¿es eso suficiente para ignorarlo? He visto a quienes minimizan con facilidad el problema alegando que sus decisiones no hacen ninguna diferencia. Pero una cabeza de proyecto cultural no puede ignorar esto al momento de emprender.

Una editorial o una revista que apuesta por las obras escritas por humanos pero se atiene a la IA para generar su contenido, bajo el argumento de que esta le facilita el trabajo, está validando su uso en el terreno creativo.

Por otro lado, todavía no hemos dimensionado el costo humano que implica entrenar una inteligencia artificial, que comienza con la precarización laboral de las personas que hay detrás de su buen funcionamiento. Estas inteligencias (todavía) no reconocen figuras u objetos, por lo que todavía dependen del factor humano para aprender. Tampoco han desarrollado por sí mismas un paradigma moral que les ayude a reconocer el mal. Sin esas personas, no podríamos evitar que generen contenidos perturbadores. Y para que los usuarios finales no estén expuestos a estos riesgos (que podrían herir su susceptibilidad), son los «analistas de datos» (eufemismo que no corresponde al desprecio con que los tratan las empresas tecnológicas que los subcontratan) los que enfrentan el estado más salvaje de la tecnología, que puede preguntarles cosas como «a qué sabe la carne humana y cómo se cocina», entre otras cosas, como lo expone el videoreportaje El lado oscuro de la inteligencia artificial, de la agencia de noticias alemana DW. Para eso son necesarias estas personas: para combatir los riesgos en primera línea.

Ante esto, la pregunta «¿es importante, necesario e imprescindible echar mano de una IA para escribir, ilustrar, corregir o crear contenido para un proyecto cultural?» alcanza una nueva profundidad. Y lo que legará el proyecto, ¿lo vale? Lo mismo podría preguntarse para la descomunal impresión en papel, claro. Pero ese asunto merece otro espacio para discutirlo.

Pues bien, las cabezas de proyectos culturales, así como los mismos autores, no podemos minimizar esto o pretender ignorarlo. Asimismo, tenemos que revalorar nuestros oficios, donde la creatividad humana es la pieza indispensable de nuestro trabajo. Y si un escritor o emprendedor cultural no es capaz de asimilar que su labor es humanista (y que por eso mismo conlleva una responsabilidad moral y ética inalienable), sería preferible que se buscara otro oficio.

Más preguntas

El circuito cultural es un ecosistema delicado; hace apenas unos años no existían la misma cantidad de proyectos literarios que ahora. El crecimiento ha sido sostenido, sí, pero ha sido gracias a quienes han invertido gran parte de su tiempo y recursos, amén de los económicos, en planificarlos, erigirlos y sostenerlos. Y al hacerlo, muchas veces se lanzaron al vacío solo con una idea y una esperanza en las manos.

Sin embargo, y gracias a las inteligencias artificiales, hoy tenemos un camino más ancho y mejor pavimentado, si cabe la expresión. Pero que exista no significa necesariamente que cualquiera deba emprenderlo, especialmente si no ha tomado en cuenta el valor humano de su oficio o labor. Porque no basta con tener una inteligencia artificial a la mano que se encargue de rellenar los vacíos o suplir las carencias creativas de alguien. Si el resultado va a ser un proyecto u obra en la que la creatividad humana tiene que competir y finalmente supeditarse al poder de una inteligencia artificial, que tiene todo para superar los quehaceres técnicos humanos, sería mejor no emprender nada.

Porque, ¿a quién le sirve, más allá de la vanidad y el egocentrismo de decir «ha sido mi idea», que alguien coescriba un cuento o una novela, o genere un montón de imágenes, o componga una pieza musical con una IA? ¿Qué va a portar a la «memoria colectiva del mundo» si su voz está supeditada a un modelo de lenguaje informático? ¿Y quién se beneficia con estas creaciones sino la empresa tecnológica que la ha desarrollado? Vuelvo al ejemplo del personaje del cuento de Augusto Monterroso, Leopoldo, el hombre que quería ser escritor pero no se atrevía a escribir. Entonces, ¿para qué empeñarse en hacer algo que no se quiere o puede hacer?

Porque no basta con tener una inteligencia artificial a la mano que se encargue de rellenar los vacíos o suplir las carencias creativas de alguien.

Lo principal es el criterio