Suenan las primeras campanadas sobre el peligro de publicar con inteligencia artificial
Si pasamos suficiente tiempo en redes sociales nos toparemos con algún tipo de contenido de emprendimiento que promete hacer dinero fácil en internet. Estas promesas suelen encontrarse en videos como “10 formas de ingreso pasivo” o “haz que Chat GPT trabaje por ti”. El acceso masivo de herramientas de inteligencia artificial con las que se puede producir textos, como lo es Chat GPT, ha traído consigo este tipo de contenido en el que algún autoproclamado experto nos enseña cómo crear publicaciones de redes sociales, planes de negocios y hasta libros para venderse de forma virtual.
Siguiendo los consejos de estos gurús del internet, muchos libros realizados con Chat GPT han llegado a las estanterías virtuales de Amazon. La mayoría de los usuarios desconoce que Amazon capta el interés particular de estos “autores” porque ofrece el proceso de autopublicación. Es decir, uno puede escribir, editar y autopublicar un libro. Amazon se encarga de imprimirlo, maquetarlo y distribuirlo si es que alguien lo llega a comprar. Cuando este proceso era nuevo se promovía como un adelanto que democratizaría la publicación de libros a nuevos creativos, nos acercaría a diferentes temas y reduciría costos, pues solo se imprimirían los libros comprados.
Desde un inicio, las bondades que ofreció la autopublicación de Amazon vino acompañada de potenciales riesgos, como la publicación de información errónea, la baja calidad de los textos y la poca valoración al trabajo de edición y publicación. A estas preocupaciones ahora se ha sumado el reto de revisar una cantidad mucho más grande de libros que han sido “escritos” con la inteligencia artificial. Al parecer, las promesas de ingresos pasivos, es decir, hacer que la computadora trabaje por nosotros y publicar un cúmulo de palabras para lectores incautos, sí fueron lo suficientemente prometedoras como para que ahora estemos discutiendo sobre los libros creados por Chat GPT.
Una de las disciplinas en las que este fenómeno se ha convertido en una gran preocupación es la de los naturalistas. En foros online ya han aparecido denuncias de usuarios que indican que en Amazon se venden libros producidos por Chat GPT que enseñan a los lectores a cocinar con los hongos que se encuentran en el campo o a identificar plantas venenosas. En algunos casos, estos libros también dan consejos erróneos para introducirse en el mundo de la identificación de las especies, tal como probarlas para ver si son tóxicas. Estas denuncias iniciales han sido replicadas por medios como The Guardian y la publicación especializada en tecnología 404 Media. Así, ambos han dado seguimiento a publicaciones sobre hongos que encontraron en Amazon y que eran de autoría fantasma, por las que han recibido poca o nula respuesta por parte de es
tos autores y de la plataforma.
Es evidente que hay un peligro si le hacemos caso a un libro fantasma que nos invita a cocinar con hongos que son tóxicos, o a probar especies para identificarlas sin mayor indicación o reparo. Pero aparte de este peligro, lo más certero es que alguno de nuestros hobbies ya haya sido cubierto por estos autores fantasmas, que ven en nuestros intereses una forma de ingreso pasivo. Así como hay libros escritos por Chat GPT sobre hongos y naturaleza, también los hay sobre viajes, cocina, dietas, medicina e historia con una información errónea que puede llevar a problemas de salud, de seguridad personal y a alimentar discursos de odio no fundamentados.
Una respuesta simplista indicaría que siempre han existido charlatanes, libros autopublicados e información falsa. Esto es cierto, pero como se denunció en los foros de los naturalistas, el reto que ahora enfrentamos es la cantidad y velocidad de esta información. Escribir un libro o un texto sin Chat GPT, por más falso que sea, requiere tiempo. En este caso, la tecnología nos libera del recurso del tiempo para producir estos textos, pero lo traspasa a los lectores. Tanto quienes compran los libros, como quienes los revisan para determinar si son verdaderos o no. Como denunciaban los medios de comunicación que han cubierto estos casos, los mecanismos que usaba Amazon no habían detectado muchos de estos casos, y de la misma forma, se necesita tiempo para hacer las denuncias y esperar que se retiren los libros con información incorrecta.
Con autores fantasma y sin procesos de edición y publicación, los lectores estamos ahora más desprotegidos. No solo con los libros que compramos, sino ante todo lo que leemos. Pero como el mismo caso de los naturalistas demuestra, una de las soluciones está en las comunidades que comparten información. Es imposible saberlo todo y tener todas herramientas críticas para verificar todo lo que leemos. En estos casos, será cada vez más importante el rol de expertos, con nombre propio y anónimos, que dentro de comunidades que comparten intereses guíen sobre qué información es certera o no. Además, existe la crítica colectiva que busca regular el rol de estos expertos.
Personalmente, creo que conocer estos casos no nos deben llevar a satanizar la inteligencia artificial, sino a ser críticos con qué información se vuelve más accesible. Aterrizando este problema a nuestra realidad nacional, imagino que algún libro autopublicado y no revisado llegará a colarse en algún currículo escolar o promocionarse como verdadero si se alinea a los mensajes políticos del momento. Las promesas de nuevos textos, más baratos o más rápidos hechos con Chat GPT y otras herramientas, empezarán a generar una brecha entre el contenido editado y revisado versus el que no lo está. En un mundo en el que cualquier texto se puede hacer en minutos, serán los que tarden horas lo que costarán más, tal vez no solo creando diferencias en los precios, sino también segmentando a los lectores según sus prioridades. Mientras Chat GPT no pueda pensar por nosotros, nos tocará seguir pensando sobre Chat GPT.
Pensar, escribir, editar, diseñar, coordinar, publicar y promover este y todos nuestros artículos (y sus pódcast) cuesta y nosotros los entregamos sin cobrar. Haz click en el botón de abajo para contribuir y, de paso, espía como suscriptor nuestras reuniones editoriales.
