Hoy es el Día Internacional de los Trabajadores, así que quiero hablar de una noticia reciente en el mundo de la IA.

Es un hecho conocido que la moderación humana es un elemento crucial para desarrollar una IA generativa respetuosa, especialmente cuando el modelo se entrena con información de internet. Sin embargo, lo que a menudo no se sabe son las condiciones de los trabajadores implicados en ese proceso.

En enero, Time publicó su investigación exclusiva, en la que mostraba que OpenAI había subcontratado ese trabajo a Sama, una empresa de “IA ética” con trabajadores keniatas encargados de revisar y etiquetar contenido por menos de 2$ la hora.

Esta información es controvertida, y se vuelve aún más inquietante cuando lees el artículo y descubres que OpenAI pagaba a Sama 12,5$ la hora por ese trabajo. Al mismo tiempo, sus trabajadores keniatas reportaron sufrir traumas psicológicos por estar expuestos a contenido perturbador, y las sesiones con “consejeros de bienestar” resultaron ineficaces.

La intervención humana es crucial para desarrollar IA, pero la IA debe ser ética. Crear un sistema que incluye condiciones laborales precarias pierde su objetivo moral.

Esto no es exclusivo de OpenAI o Sama. Emplear a trabajadores indios para tareas como revisar información es algo que también pudimos ver en la Just Walk Out de Amazon:

Al final, la cadena de suministro de la IA es real, y la IA es el futuro. Pero eso no significa que todo valga a la hora de crearla. El Día Internacional de los Trabajadores se conmemora en todas partes del mundo, y también debemos asegurarnos de trabajar en las condiciones adecuadas en todas partes del mundo.

Quiero IAs verdaderamente éticas en mi futuro.

Publicación original en LinkedIn (En inglés) aquí

Imagen de @ana_valdi en Twitter aquí