Acusan a OpenAI de explotación laboral para mejorar ChatGPT

La empresa OpenAI es acusada de realizar prácticas de explotación laboral en Kenia, con el objetivo de ahorrarse dinero en el proceso de lograr que ChatGPT sea menos tóxico, según una investigación del diario Time, reseñada por Hipertextual.

La herramienta ChatGPT  ha sido criticada por tener sesgos y cierto nivel de toxicidad, debido a que basa su aprendizaje en millones de textos realizados por humanos y disponibles en internet, heredando lo bueno y lo malo. Frente a este problema, la empresa detectó que sería muy complicado resolverlo dada la complejidad que resulta identificar fragmentos inapropiados en un texto y eliminarlos de la fuente de aprendizaje.

Pese a lo anterior, en OpenAI se asignaron la tarea de desarrollar un sistema de seguridad basado en inteligencia artificial. Su misión, básicamente, es detectar lenguaje tóxico de una manera mucho más eficiente que los humanos. De haber creado un software de filtración gestionado por personas, habrían tardado décadas en terminar.

La nueva inteligencia artificial de OpenAI, entonces, debía nutrirse de cualquier comentario o palabra inadecuada. Time señala que la herramienta aprendía de textos etiquetados como discurso de odio, violencia y abuso sexual. Posteriormente, el software fue integrado a la fuente de aprendizaje para filtrar el contenido antes de llegar a ChatGPT.

En este punto es donde surge la vergonzosa práctica de OpenAI. Para etiquetar un texto como inapropiado, obligatoriamente debe ser analizado por humanos. La compañía, desde noviembre de 2021, ha estado subcontratando a empleados de Kenia para que etiqueten «decenas de miles de fragmentos de texto».

Para facilitar el proceso, OpenAI se apoyó en Sama, una empresa especializada en inteligencia artificial con sede en San Francisco (California). Entre sus diferentes servicios, ofrece el de encontrar trabajadores de Kenia, India y Uganda para las compañías de Silicon Valley que requieran mejorar —o potenciar— alguna herramienta de IA, como ChatGPT. Curiosamente, esos tres países comparten algo en común: los salarios en el sector de IT, en comparación con lo que se paga en Estados Unidos, son ridículamente bajos.

Deja una respuesta

Su dirección de correo electrónico no será publicada.

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.