Las espectaculares rupturas de grandes acuerdos a raíz de las sospechas sobre el uso de IA están obligando a replantearse la creatividad, la confianza y el futuro del sector Leer
Las espectaculares rupturas de grandes acuerdos a raíz de las sospechas sobre el uso de IA están obligando a replantearse la creatividad, la confianza y el futuro del sector Leer
Poco después de conseguir un contrato millonario para la primera obra de un autor novel, los agentes del novelista decidieron romper el acuerdo. Afirmaron que no podían seguir respaldando el proyecto porque les resultaba imposible verificar que el libro hubiera sido escrito íntegramente por su cliente. «Esto plantea muchísimas preguntas sobre la autoría y sobre lo que la inteligencia artificial representa para esta industria», comunicó la agencia Europa Content a los editores en una carta enviada en julio, tras surgir sospechas sobre el uso de inteligencia artificial en Call Me, I’ll Hide the Body, una novela negra de Jerry Falade. «Pero esas son preguntas para más adelante».. Sin embargo, con un nuevo escándalo relacionado con la IA sacudiendo la industria editorial casi cada mes, resulta cada vez más difícil posponer el debate sobre su impacto hacia un futuro lejano. El colapso estrepitoso de grandes acuerdos editoriales por sospechas sobre el uso de IA -y el temor a quién será el siguiente- está forzando una profunda reflexión sobre la naturaleza de la autoría, la relación entre escritores y editoriales y la supervivencia a largo plazo del sector, y nadie parece ponerse de acuerdo sobre quién debe asumir la responsabilidad de resolver el problema, ni siquiera sobre hasta qué punto supone un verdadero problema.. El año pasado, 70 autores, entre ellos Margaret Atwood y Jonathan Franzen, firmaron una carta abierta dirigida a las editoriales expresando su preocupación por la IA generativa y pidiéndoles «el compromiso de no publicar nunca libros creados por máquinas». Pese a ello, las cinco grandes editoriales del mercado anglosajón (The Big Five: Simon & Schuster, Penguin Random House, HarperCollins, Hachette Book Group y Macmillan) se han mostrado en gran medida reacias a hacer declaraciones tajantes sobre una tecnología que resulta potencialmente lucrativa y, al mismo tiempo, cada vez más omnipresente. (Muchas de ellas, además, están envueltas en demandas judiciales contra empresas tecnológicas por haber entrenado sus modelos con libros protegidos por derechos de autor).. En cambio, las editoriales se ven obligadas a apagar incendios a toda prisa cuando estallan escándalos por el uso de IA demasiado perjudiciales para su reputación como para ignorarlos. Falade, estudiante de posgrado en la Universidad Metodista del Sur, ha negado las acusaciones sobre su novela, que considera motivadas por el racismo. «Todo esto ha sido terrible para mí», declaró en una entrevista. «No he podido dormir bien ni he podido comer».. En marzo, Hachette Book Group canceló el lanzamiento en Estados Unidos de Shy Girl, una novela de terror de Mia Ballard sobre una mujer retenida por un hombre al que conoció en internet y forzada a vivir como su mascota, en medio de una tormenta de alegaciones de que la autora había recurrido a la IA en el proceso de escritura. Ballard, que autopublicó la novela antes de que Hachette adquiriera los derechos, ha desmentido estas afirmaciones y asegura que la IA fue empleada por un conocido que editó el libro. «Hachette mantiene su compromiso de proteger la expresión creativa original y la narrativa humana», declaró entonces la editorial.. Este verano, la revista The Atlantic publicó que Daggermouth, una novela de romance distópico autopublicada cuyos derechos fueron adquiridos rápidamente por Simon & Schuster y que ha encabezado una y otra vez las listas de superventas, presentaba rasgos característicos del uso de IA. El artículo citaba un trabajo de investigación del profesor Tuhin Chakrabarty, de la Universidad de Stony Brook, que analizó el libro mediante la herramienta de detección Pangram. El estudio aún no ha sido revisado por pares y la autora ha negado rotundamente las acusaciones, afirmando públicamente que no considera que la IA generativa tenga cabida en el proceso de escritura. «No creemos que se deban sacar conclusiones sobre el trabajo de un autor a partir de herramientas de detección de IA que han demostrado generar falsos positivos», declaró un portavoz de Simon & Schuster. «H.M. Wolfe escribió Daggermouth y la respaldamos a ella y a su obra».. Por su parte, Max Spero, director ejecutivo, cofundador y autoproclamado «limpiador de basura» de Pangram, afirmó que el alto porcentaje de precisión de la herramienta ha sido validado por múltiples estudios independientes. «¿Por qué iba Simon & Schuster a renunciar al libro? Porque, al parecer, ya estaba teniendo un éxito enorme. A la gente le estaba gustando», señaló Chakrabarty. «Aquí hay una perspectiva más amplia sobre el aspecto comercial de la narrativa generada por IA: ¿realmente les importa a las organizaciones mantener ese estándar de calidad?».. Desesperadas por encontrar nuevos éxitos en una época en la que la gente lee cada vez menos, las editoriales suelen recurrir a obras autopublicadas que ya han encontrado su propio público, una categoría en la que agentes y editores afirman que el uso de la IA está especialmente extendido. Pero los autores independientes no son los únicos que emplean estas herramientas. En mayo, el autor Steven Rosenbaum, publicado por un sello editorial de BenBella Books, se vio envuelto en una agria polémica cuando The New York Times descubrió que había incluido citas generadas por la IA en su libro The Future of Truth: How AI Reshapes Reality. En los agradecimientos del libro, Rosenbaum admitía abiertamente haber usado modelos lingüísticos como recurso de apoyo.. «Dada la velocidad a la que avanzan el mundo y la industria editorial, parece inevitable que se produzcan más casos como este», afirma Paul Bogaards, un veterano ejecutivo de marketing y publicidad editorial, y señala que las editoriales se preguntan ahora «qué medidas de protección debemos establecer para evitar que esto vuelva a suceder». Un directivo de una de las cinco grandes editoriales afirma que tomaron la decisión de no incluir cláusulas contractuales específicas sobre la IA debido a lo rápido que evoluciona el panorama, y a que los criterios varían notablemente entre sellos y editores. «La IA no es un sustituto de la creatividad humana», afirma un portavoz de Penguin Random House. «Entendemos la IA como una herramienta que puede dar soporte a ciertos flujos de trabajo editoriales, pero no como un reemplazo de los autores, ilustradores, profesionales del sector o del intelecto ni de los criterios humanos que dan forma a nuestros libros».. «Los libros que yo quiero publicar son aquellos que dicen algo original y diferente de lo que ya existe en el mundo, y no creo que a la IA se le vaya a ocurrir algo así». Cindy Spiegel, codirectora ejecutiva de la editorial Spiegel and Grau. Andy Hunter, fundador y director ejecutivo de Bookshop.org, considera que los debates sobre dónde está el límite para cada autor eclipsan un problema mucho mayor: la avalancha de libros basura en internet. «Probablemente, el 99% de estos libros están diseñados para engañar a los compradores y hacerles adquirir algo plagado de plagios, información falsa o contenidos extremadamente superficiales generados por un modelo de lenguaje», señala Hunter. El estudio de Chakrabarty reveló, además, que el 20% de los libros electrónicos de Amazon incluidos en su base de datos contaban con una asistencia «sustancial» de IA. La tienda online respondió que aplica medidas para retirar cualquier contenido que incumpla sus directrices.. A James Daunt, director ejecutivo de Barnes & Noble, le llovieron las críticas el pasado mayo tras afirmar en el programa Today que si los clientes quieren comprar libros generados por IA, «nosotros los tendremos en stock». En una entrevista posterior aclaró sus palabras: «Lo que dije es que en este momento no lo hacemos», precisó. «Hacemos todo lo posible por no venderlos». Barnes & Noble retira los títulos de su catálogo en cuanto se descubre que han sido generados por IA. «Los libros que yo quiero publicar son aquellos que dicen algo original y diferente de lo que ya existe en el mundo, y no creo que a la IA se le vaya a ocurrir algo así», declara Cindy Spiegel, codirectora ejecutiva de la editorial independiente Spiegel and Grau. Aun así, matiza: «Si aparece algo realmente fenomenal y profundo de lo que pueda extraer algo valioso, creo que merece la pena tenerlo en nuestro repertorio» (aunque, aclara, estas obras siempre deberían incluir una advertencia transparente).. En la actualidad, la opinión pública sigue estando, en gran medida, en contra del uso de IA para redactar textos, aunque emplearla como herramienta de investigación o para estructurar escaletas empieza a estar más aceptado. Si resulta que los lectores están dispuestos a leer libros redactados o asistidos por IA -especialmente en géneros como la fantasía o la ciencia ficción, cuyo público devora títulos a un ritmo vertiginoso-, las editoriales no querrán cerrar la puerta a una potencial vía de ingresos en un mercado en el que estos no abundan. «Actualmente no existen normas fijas al respecto», comenta Amanda Annis, agente de Trident Media Group. «Hay una amplia zona gris que aún no se ha terminado de definir».. En un intento por frenar la avalancha de contenidos de baja calidad, el gremio de autores (Authors Guild) inventó la certificación de «autoría humana» que los escritores pueden añadir a sus libros tras firmar una declaración jurada. Sin embargo, hay quien opina que cualquier medida basada en la confianza carece de la fuerza necesaria para combatir un problema de tal alcance. El sector editorial siempre ha sido una industria fundamentada en la confianza. Los editores dependen de que los autores certifiquen que sus obras son tanto veraces como originales. La ausencia de medidas institucionales de control se convierte en tema de conversación cada vez que salta un escándalo de plagio o cuando se cuestiona la veracidad de unas memorias, y a muchos les preocupa que la IA sea solo una prueba de resistencia más que ponga al descubierto las debilidades inherentes de esta industria.. «Cuando veo algo que, sinceramente, está mal escrito, hoy en día resulta hasta un soplo de aire fresco». Angeline Rodriguez, agente de WME. Los agentes, que actúan como intermediarios entre autores y editoriales, se han visto en primera línea de batalla. «Creo que a los agentes y editores se nos está pidiendo básicamente que hagamos de policías», comenta Emma Dries, agente de Triangle House Literary, y señala que su e-mail se ha visto más saturado de propuestas que nunca -algo que atribuye a autores que usan modelos lingüísticos para enviar correos masivos a agencias- y que ha recibido manuscritos que parecían claramente generados por IA. Recientemente, rechazó a un autor de no ficción cuyo trabajo le entusiasmaba después de que este admitiera utilizar IA con frecuencia; no para redactar, afirmó, sino para buscar inspiración. «Estoy segura de que esa persona encontrará un agente y terminará publicando, y no sé si esto saldrá a la luz pública», añade, y confirma que el autor ya contaba con varias ofertas de representación.. «Cuando veo algo que, sinceramente, está mal escrito, hoy en día resulta hasta un soplo de aire fresco», asegura Angeline Rodriguez, agente de WME, y subraya que algunas de las propuestas que recibe actualmente «hacen que 50 sombras de Grey parezca una obra de Tolstói». Algunos agentes prefieren directamente no preguntar y rezar para que el tema no salga a la luz. Otros adoptan una postura inflexible y advierten a sus autores de que no representarán a nadie que utilice IA, ni siquiera para labores de documentación. Y hay quienes emplean programas de detección para revisar los manuscritos, aunque la precisión de estas herramientas sigue siendo objeto de debate.. «Hay muchísima inquietud», afirma Regina Brooks, directora ejecutiva de la agencia Serendipity Literary y presidenta de la Asociación de Agentes Literarios Americanos (AALA). «A la gente le pone muy nerviosa haber trabajado en un manuscrito durante mucho tiempo para luego descubrir que quizás ha extraído algo de una investigación y entrar en pánico pensando si eso podría considerarse algo sujeto a derechos de autor».. El hecho de que el texto generado por IA no pueda registrarse bajo derechos de autor se ha convertido en una de las pocas líneas rojas claras que la industria ha podido imponer. Todo lo demás, aparte de copiar y pegar frases directamente de un modelo lingüístico al manuscrito, sigue siendo terreno difuso. «Todos estamos intentando definir pautas sobre la marcha, pero da la sensación de que las preocupaciones de este mes son completamente distintas a las del mes pasado», explica Hannah Bowman, agente en Liza Dawson Associates y presidenta del Comité Especial sobre IA de la AALA.. Agentes y editores son conscientes de que solo es cuestión de tiempo que estalle el próximo gran escándalo relacionado con la IA. «El único consuelo es que, gracias a Dios, todavía seguimos cancelando estos libros», comenta un agente reacio a la IA. «No sé si seguirá siendo así mucho tiempo».. Contenido con licencia de The Wall Street Journal. Traducido del inglés por Laura Moreno.
Literatura // elmundo
