Article de Proyecto 451 (newsletter).
Era predecible. Pero tal vez no esperábamos que ocurriera en tan poco plazo y de una forma tan disruptiva. A mediados de este mes, ya había más de 200 libros electrónicos publicados en Amazon que incluían a ChatGPT como autor o coautor. Libros técnicos, ensayos, de ficción, infantiles, ilustrados, de todo. Y estamos hablando solo de los casos que se han identificado de esta manera, porque imaginamos que cientos más se han publicado sin definir a ChatGPT como autores.
Un autor, que se hace llamar Frank White, mostró en un video de YouTube cómo en menos de un día creó una novela de 119 páginas llamada “Galactic Pimp: Vol. 1” sobre facciones alienígenas en una galaxia lejana que luchan por un burdel con personal humano. En el video, White dice que cualquier persona podría crear 300 libros de este tipo al año, todos usando IA.
Otro ejemplo público fue el de Kamil Banc, quien le apostó a su esposa que podría hacer un libro desde la concepción hasta la publicación en menos de un día. Usando ChatGPT, un creador de imágenes de IA y mensajes como “escribe un cuento para dormir sobre un delfín rosado que enseñe a los niños a ser honestos”, Banc publicó un libro ilustrado de 27 páginas en diciembre. Disponible en Amazon, “Bedtime Stories: Short and Sweet, For a Good Night’s Sleep” le tomó a Banc alrededor de cuatro horas crearlo.
Recordemos que no hay supervisión en Amazon en absoluto sobre aquello que se publica, cuando se trata de Kindle Direct Publishing. Debido a este hecho, sería casi imposible tener una idea de lo que escribió un motor de IA y lo que escribió un autor, hasta que el libro es comprado.
“Esto es algo que realmente nos debe preocupar, estos libros inundarán el mercado y muchos autores se quedarán sin trabajo”, dijo Mary Rasenberger, directora ejecutiva del grupo de escritores Authors Guild. La escritura “fantasma”, por parte de humanos, tiene una larga tradición, dijo, pero la capacidad de automatizar a través de la IA podría convertir la escritura de libros de un oficio en una mercancía.
Claro, este fenómeno no solo impacta en plataformas como Amazon, sino también en los manuscritos que a diario reciben las editoriales. Neil Clarke, editor de Clarkesworld, una revisa estadounidense que desde hace más de 20 años publica literatura de ciencia ficción y fantasía, comentó en un artículo que más de una tercera parte de las historias remitidas a la revista a lo largo de 2023 fueron escritas por alguna inteligencia artificial. En cuanto a soluciones para filtrar de forma fácil y rápida esta avalancha de spam ‘made in AI’, Clarke advierte que no hay ninguna sencilla: las herramientas de detección de contenido plagiado y/o generado por IA, además de ser muy costosas, dan como resultado demasiados falsos positivos y negativos.
Este fenómeno al parecer también está teniendo sus consecuencias profundas en el mundo académico, a través de papers que han sido total o parcialmente generados utilizando ChatGPT o modelos similares. Al punto tal que COPE (Comité de ética de la Publicación), un organismo del Reino Unido que se ocupa de estos asuntos, publicó una declaración señalando que “las herramientas de IA no pueden cumplir con los requisitos de autoría, ya que no pueden asumir la responsabilidad del trabajo enviado. Los autores que utilizan herramientas de IA en la redacción de un manuscrito, la producción de imágenes o elementos gráficos del artículo, o en la recopilación y el análisis de datos, deben ser transparentes al revelar cómo se utilizó la herramienta de IA y qué herramienta se utilizó.”
Queremos finalmente compartirles este gran ensayo de The Atlantic que focaliza en las razones de por qué debemos seguir escribiendo como humanos. Les dejamos algunas ideas destacadas:
Si, en unos pocos años, la IA puede hacer un trabajo aceptable en la mayoría de las tareas de escritura para adultos: compartir información, contar historias rápidas, disculparse por la demora y expresar la esperanza de que todo esté bien, entonces ¿por qué pasar tanto tiempo en la escuela aprendiendo las complejidades enloquecedoras de la prosa?
Aprender a escribir entrena la imaginación para construir a la persona que leerá tus palabras. Escribir, entonces, es un acto ético. Te pone en relación con alguien que quizás no conozcas, alguien que, de hecho, aún no existe. Cuando aprendes a escribir, aprendes a ejercer tu responsabilidad con esa persona, a satisfacer sus necesidades en un contexto que no puedes conocer por completo.
Parece inevitable que los modelos de IA en lenguaje extenso nos permitan descargar algunas de las tareas de escritura que los estudiantes aprenden en la escuela. Pero no podemos permitirnos perder la capacidad de empatizar con extraños distantes en el momento en que somos más capaces que nunca de comunicarnos con ellos.
