La Relación entre la Inteligencia Artificial y Wikipedia
La inteligencia artificial se ha convertido en una herramienta cotidiana para millones de personas, siendo utilizada para redactar correos, resumir documentos o traducir textos en cuestión de segundos. Sin embargo, esa velocidad viene acompañada de riesgos, ya que los sistemas generativos pueden equivocarse, inventar datos o alterar fuentes sin ser detectados por el usuario. Esta problemática adquiere una dimensión preocupante cuando afecta a Wikipedia, una de las enciclopedias más grandes del mundo.
Un Problema que Comienza en Wikipedia
El incidente comenzó dentro de la propia comunidad de Wikipedia. Un grupo de editores notó anomalías en traducciones recientes; algunos textos contenían frases que no estaban presentes en las fuentes citadas, y algunas referencias no se alineaban con el contenido del artículo. Estas traducciones se realizaron como parte de un proyecto que trataba de expandir el contenido de Wikipedia en varios idiomas utilizando modelos de lenguaje para agilizar el proceso.
Inexactitudes en las Traducciones
Con una revisión más minuciosa, los problemas se hicieron evidentes. Un ejemplo es el artículo sobre la familia real francesa La Bourdonnaye. En el texto traducido, se hacía referencia a un libro y a una página específica para explicar su origen. Sin embargo, al verificar la fuente, el editor conocido como Chaotic Enby descubrió que la página citada no era correcta. Otros problemas detectados incluyeron referencias intercambiadas y frases sin fuentes, así como párrafos basados en información irrelevante.
¿Publicación Completa o en Borrador?
Una pregunta clave es si estos errores llegaron a publicarse o si se identificaron durante la fase de revisión. Al menos un ejemplo problemático fue encontrado en un borrador, permitiendo su revisión antes de ser publicado. Sin embargo, no se puede determinar cuántas traducciones con errores se publicaron y cuántas no pasaron de la revisión.
Open Knowledge Association y su Rol
Detrás de estas traducciones está la Open Knowledge Association (OKA), una organización sin ánimo de lucro que busca mejorar Wikipedia y otras plataformas abiertas. OKA utiliza modelos de lenguaje para automatizar trabajos de traducción. Según sus propias declaraciones, ofrecen estipendios a traductores y colaboradores que trabajan a tiempo completo en estos proyectos.
La Respuesta de la Comunidad de Wikipedia
Frente a los problemas evidentes, la comunidad de Wikipedia tomó medidas. Se establecieron nuevas normas para los traductores afiliados a OKA. Aquellos que reciban cuatro advertencias por contenido no verificable en seis meses estarán sujetos a un posible bloqueo sin advertencia si reinciden. Además, el contenido que estos traductores introduzcan puede ser eliminado a menos que otro editor reconocido decida revisarlo.
La Explicación de OKA
En respuesta a la controversia, Jonathan Zimmermann, presidente de OKA, defendió que a pesar de que «los errores ocurren», tienen un sistema de verificación humana y revisión de fuentes. Citó que están introduciendo una segunda revisión con otro modelo de IA para prevenir errores antes de la publicación y están considerando implementar revisiones por pares si es necesario.