Imaginate que entrás a una biblioteca, pero antes de poder buscar un libro tenés que sacar un palo y defenderte a los golpes de un montón de catálogos de promociones y panfletos neofascistas que se te quieren pegar en la cara.

Eso es internet hoy, según el especialista en inteligencia artificial Marcelo Rinesi. Será aún peor con ChatGPT y otros servicios que generan contenido.

La primera razón es la cantidad. Se volvió más rápido, fácil y barato que nunca producir textos e imágenes. Cada uno de los más de 100 millones de usuarios de ChatGPT es una piñata lista para explotarnos encima, con su contenido en forma de papel picado.

La cantidad está garantizada, pero la calidad no. La IA generativa produce textos promedio, del montón. Es así por diseño. Su habilidad principal es poner la palabra más probable detrás de la anterior, en base a todo el contenido de internet. Su fuente principal incluye las mejores ideas de la humanidad, pero no son las más representadas.

La IA generativa tiene el potencial de crear contenido más carismático para los algoritmos y para nuestros instintos primarios. Puede multiplicar los problemas de las redes sociales como las conocemos hoy, o reemplazarlas por algo peor

El tercer problema todavía no lo vimos del todo, pero se avecina: la IA generativa tiene el potencial de crear contenido más carismático para los algoritmos y para nuestros instintos primarios. Puede multiplicar los problemas de las redes sociales como las conocemos hoy, o reemplazarlas por algo peor.

En su último reporte, el analista de tecnología Benedict Evans sugirió que las marcas de fast fashion podrían ofrecer prendas en base a cada búsqueda. ¿Preguntaste si había un vestido rojo? Una app de generación de imágenes te lo puede mostrar inmediatamente, y la fábrica confeccionarlo y venderlo en pocas horas. De igual modo podríamos obtener un reporte macroeconómico o una novela romántica al instante. Insípidos, mal diseñados o poco innovadores, pero dirigidos a nuestro interés. ¿Qué haremos para defendernos?

Tal vez nos salve la misma tecnología que nos hunde. Porque los algoritmos pueden, ahora más que nunca, ser buenos filtros. Podrían –por ejemplo– ofrecernos ideas en base a un mapeo riguroso de lo que nos interesa, cruzado con fuentes valiosas aunque impopulares, y en cualquier idioma. Podrían colarnos ocurrencias contraintuitivas o que contradigan nuestros preconceptos. Y podrían, también, bloquear la desinformación, los disparadores que empeoran nuestro bienestar, o el propio contenido generado por IA.

Tal vez nos salve la misma tecnología que nos hunde. Porque los algoritmos pueden, ahora más que nunca, ser buenos filtros. Podrían –por ejemplo– ofrecernos ideas en base a un mapeo riguroso de lo que nos interesa, cruzado con fuentes valiosas aunque impopulares, y en cualquier idioma

La condición es que estemos dispuestos a pagar. Si estos servicios no existen ya, es porque los modelos de negocio que funcionaron, tanto en las redes sociales como en los buscadores, premian el contenido pago o el más visto y compartido, pero no el más interesante. ¿Aparecerán nuevos modelos?

Los buscadores basados en IA generativa que muestran sus fuentes, como Perplexity, podrían ir en esa dirección, si no se estropean antes en busca de rendimiento. Algo similar pasa con Elicit, un servicio para navegar entre papers de investigación. También aparecen pequeñas pruebas de concepto. Francesco Saverio, un especialista suizo, creó LinkedinGPT, un código que busca artículos en un journal, los filtra según algunos criterios, y los convierte en posteos en Linkedin. Promete convertirte en un gurú del tema que elijas. Según sus usuarios, estos posteos no tienen el humor de Francesco, pero están a medio camino entre el contenido promedio y algo más selecto. Aplicaciones como AgentGPT, que permiten encargar cualquier objetivo a la IA y dejarla encontrar los mejores caminos para cumplirlo también podrían ayudarnos con la tarea.

Rinesi cuenta que construye sus filtros a mano, buscando pacientemente a los autores que mejor responden a sus preguntas, y siguiéndolos. Por ahora podemos hacer eso mismo, o avanzar palo en mano luchando contra los panfletos. O quedarnos tirados en el sillón, dejando que se nos peguen en la cara.