Si ChatGPT te dice "te quiero", no le creas

¿Cómo saber si este texto ha sido escrito realmente por una persona? Yo lo sé, porque lo estoy escribiendo. Pero también podría haberlo escrito una máquina. Al parecer, en estos tiempos tenemos que vivir con esa incertidumbre.

El placer de escribir

La diferencia entre ser humano y máquina ha sido un tema recurrente desde la revolución industrial, y se vuelve candente en una época en que los robots hablan de sí mismos en primera persona. ¿Es reemplazable el ser humano? En algunas áreas sí. ¿Pero qué tan lejos queremos llegar con esto?

El autor británico-australiano Alan Baxter tiene una opinión clara al respecto: "No puedo creer que, en un mundo en que los seres humanos todavía limpian retretes y trabajan en las minas, los robots creen nuestro arte y literatura. Los robots deberían hacer los trabajos desagradables, para que más personas puedan dedicarse a lo que les apasiona".

La mayoría de las y los escritores dicen que escriben porque esa es su pasión. El proceso de escribir da alegría. Se trata de hallar vocablos, de relacionarse con el mundo. La escritora y traductora literaria Claudia Hamm, por ejemplo, lo explica así a DW: "El hacer es, en sí mismo, el propósito. Si no quisiéramos escribir, podríamos vivir en forma mucho menos precaria".

"Un auto robado"

Alguien podría decir: "Bueno, que escriban entonces los que quieren escribir. Y el resto puede hacerlo la inteligencia artificial (IA)". ¿Asunto resuelto? En absoluto, afirma Claudia Hamm, quien acaba de publicar el libro "Lenguaje de máquinas", en el que aborda diversos aspectos de la generación artificial de textos.

Un tema muy discutido es el de los derechos de autor. Las computadoras que generan lenguaje (Large Language Models) solo funcionan porque han sido alimentadas -sin pago- con millones de textos ya existentes, redactados por seres humanos. Diversos autores ya han presentado demandas.

"La inteligencia artificial que genera textos es un auto robado. Uno puede subirse a él y viajar. También puede viajar a París y divertirse. Pero sigue siendo un auto robado", resume Claudia Hamm.

La intención del lenguaje humano

Para Claudia Hamm, el lenguaje generado automáticamente no es un lenguaje como tal, porque no hay un hablante y, por consiguiente, tampoco una intencionalidad. "La inteligencia artificial no tiene una intención comunicativa. Cuando los humanos usamos el lenguaje, intentamos encontrar una expresión, una expresión de un determinado mundo interior".

Las máquinas no tienen un mundo interior. Por eso, no pueden crear poesía, según Hamm. Solo están en condiciones de realizar combinaciones poco comunes de palabras.

También el tema de la verdad plantea un problema: las "alucinaciones de la inteligencia artificial". Se trata de informaciones prácticamente inventadas por máquinas generadoras de textos. El problema radica, según Claudia Hamm, en que éstas fueron construidas para que no se pueda distinguir entre máquina y ser humano. Se quiere proporcionar al usuario la sensación de hablar con un ser inteligente. Y esa es la gran diferencia con otras revoluciones tecnológicas de la historia. "Un vapor nunca negó su condición de objeto", dice.

Además, tampoco se ha discutido mucho sobre cuál es la realidad que refleja la inteligencia artificial. En las palabras que sirven de base a sistemas como ChatGPTestán sobrerrepresentadas las de hombres, blancos, y de buena situación económica. 

¿Cómo actúan las editoriales?

No se trata de demonizar la inteligencia artificial, porque puede ser muy útil. También en la industria editorial. Por ejemplo, en Penguin Random House, se ha vuelto común inspirarse en herramientas de IA, según cuenta a DW Beate Muschler, vicepresidenta de desarrollo digital.

"No publicamos contenidos generados con IA. Pero eso no quiere decir que seamos una zona libre de IA. La idea es analizar la cadena de producción y definir campos en los que se pueda emplear efectivamente esas herramientas; como instrumentos en un proceso, ahí donde no cause problemas de derechos de autor", dice.

Quienes trabajan en esta editorial, pueden usar herramientas de IA para generar ideas. Pero los contenidos deben ser creados siempre por personas. Eso también vale para autoras y autores. Buscar inspiración no es problema, pero el texto, al final, debe salir de la propia pluma. Muschler subraya que, en sus contratos, se exige que los autores aseguren haber creado ellos mismos las obras.

(ers/rml)