El bot de IA de Meta, Galactica, fue creado para condensar información científica, pero en su lugar desató una ola de desinformación.
Meta puso en pausa su bot de Inteligencia Artificial (IA) la semana pasada, sólo dos días después de que se pusiera a disposición del público.
El bot, llamado Galactica, fue entrenado «con 106.000 millones de tokens de textos y datos científicos de libre acceso».
Esto incluye artículos, libros de texto, sitios web científicos, enciclopedias, material de referencia, bases de conocimiento y más», dijo la compañía a The Daily Beast.
Se suponía que iba a ayudar a los académicos e investigadores a encontrar documentos y estudios de forma rápida y sucinta, pero en su lugar se vio abrumado por grandes cantidades de información errónea que citaba incorrectamente a científicos de renombre.
Carl Bergstrom, profesor de biología de la Universidad de Washington, dijo a CNET que el problema de Galactica es que se promocionaba como una forma de obtener datos e información. Pero en lugar de eso, dijo que actuaba como «una versión elegante del juego en el que empiezas con media frase y luego dejas que el autocompletado rellene el resto de la historia».
A las pocas horas de la puesta en marcha de Galactica, los usuarios empezaron a denunciar artículos racistas e inexactos, y una persona publicó una imagen de la respuesta a una solicitud sobre prejuicios lingüísticos.
La respuesta del bot afirmaba falsamente que los negros «no tienen una lengua propia» y que los inmigrantes «no hablan una lengua diferente a la del país al que inmigran».
Otra información generada incluía un estudio falso sobre los beneficios de comer vidrio triturado e información falsificada sobre investigadores de la Universidad de Stanford que creaban un software «gaydar» para encontrar personas homosexuales en Facebook.
Un portavoz de Meta AI dijo a CNET: «Galáctica no es una fuente de verdad, es un experimento de investigación que utiliza sistemas [de aprendizaje automático] para aprender y resumir información.» Añadió, Galactica «es una investigación exploratoria que es de naturaleza a corto plazo sin planes de producto.»
El jefe científico de Meta AI, Yann LeCun, dijo al medio que el bot fue retirado porque el equipo estaba «muy perturbado por el vitriolo en Twitter».
Dos días después del lanzamiento de Galactica, el equipo de Meta AI puso en pausa el bot y el jefe científico de Meta AI, Yann LeCun, tuiteó: «La demo de Galactica está desconectada por ahora. Ya no es posible divertirse haciendo un mal uso casual de ella. ¿Contento?»
Meta AI (antes llamada Investigación de Inteligencia Artificial de Facebook) desarrolló Galactica como una forma de «organizar la ciencia» y condensar la abrumadora cantidad de información científica que se encuentra en Internet. La idea era que la IA hiciera cosas como resolver problemas matemáticos, escribir código científico y elaborar resúmenes de investigaciones.
Meta señala en el sitio web de Galactica que el modelo de IA tiene limitaciones que pueden hacer que «alucine». El sitio aconseja a los usuarios que verifiquen cualquier información que aparezca y continúa diciendo que «no hay garantías de que los resultados de los modelos lingüísticos sean veraces o fiables, ni siquiera los de gran tamaño con datos de alta calidad como los de Galactica», y añade que el texto generado puede parecer «muy auténtico y de gran confianza», pero aún así podría estar equivocado.
«Me imagino que, incluso con sus muchos defectos predecibles, hay usos deseables de un sistema así», dijo Vincent Conitzer, profesor de informática de la Universidad Carnegie Mellon de Pittsburgh, a The Daily Beast.
«Mi impresión es que Meta habría hecho mejor en poner más esfuerzo en este lanzamiento público, haciendo primero estudios de usuarios más serios, llamando la atención sobre los usos deseables del sistema, y siendo honesto y comunicativo sobre los usos indeseables».
