Cultura

Twitter para estudiar sus algoritmos en busca de daños no intencionales

Twitter Inc. anunció hoy que estudiará sus algoritmos de aprendizaje automático en un esfuerzo por determinar si causan daños no intencionales.

La compañía dijo que durante los próximos meses, como parte de su «Iniciativa de aprendizaje automático responsable», intentará comprender si existe un sesgo racial o de género.

El año pasado, la compañía fue criticada por prejuicios raciales después de que su algoritmo de recorte de imágenes parecía elegir caras blancas sobre caras negras. Twitter dijo que primero se había probado para detectar sesgos y que parecía estar bien, pero admitió que era necesario realizar más pruebas.

La razón de tal algoritmo es que las partes más importantes de una imagen se pueden recortar, eliminando elementos innecesarios y liberando más espacio en la plataforma. Los experimentos de los usuarios con el algoritmo más tarde parecieron mostrar más ausencias de personas de piel más oscura.

“A partir de estos ejemplos, queda claro que tenemos más análisis por hacer”, dijo la compañía en respuesta. El algoritmo de Twitter también ha sido acusado en el pasado de favorecer las publicaciones de hombres sobre las de mujeres.

«El uso responsable de la tecnología incluye estudiar los efectos que puede tener con el tiempo», dijo Twitter en un entrada en el blog hoy. “Cuando Twitter usa ML, puede afectar a cientos de millones de Tweets por día y, a veces, la forma en que se diseñó un sistema para ayudar podría comenzar a comportarse de manera diferente a la prevista. Estos cambios sutiles pueden comenzar a afectar a las personas que usan Twitter y queremos asegurarnos de que estamos estudiando esos cambios y usándolos para crear un mejor producto «.

Para garantizar la equidad, dijo Twitter, analizará los algoritmos internamente, empleando ingenieros, investigadores y científicos de datos en toda la empresa dedicados al aprendizaje automático y la «ética, transparencia y responsabilidad». Esas personas estudiarán tres áreas principales:

  • Un análisis de sesgo racial y de género de nuestro algoritmo de recorte de imágenes (prominencia).
  • Una evaluación justa de las recomendaciones de la línea de tiempo de inicio de Twitter en todos los subgrupos raciales.
  • Un análisis de recomendaciones de contenido para diferentes ideologías políticas en siete países.
LEER  ¿CÓMO LANZAR UN PRODUCTO? | MASTER MUÑOZ

Twitter dijo que una vez finalizados los análisis, si se encuentra sesgo, los algoritmos podrían eliminarse. Otra cosa que podría suceder es lo que Twitter llamó “elección algorítmica”, lo que significa que las personas tendrían la oportunidad de dar forma a lo que ven en la plataforma. «Actualmente estamos en las primeras etapas de exploración de esto y pronto compartiremos más», dijo la compañía.

La medida se produce en un momento en que las empresas de redes sociales se han visto sometidas a una intensa presión por utilizar algoritmos que generan el mayor compromiso, pero que también pueden crear divisiones en la sociedad. En respuesta a esta crítica, Facebook Inc. reveló el mes pasado que también le daría a las personas más control sobre lo que ven en sus noticias.

Foto: Esther Vargas / Flickr

Ya que estás aquí …

Muestre su apoyo a nuestra misión con nuestra suscripción de un clic a nuestro canal de YouTube (abajo). Cuantos más suscriptores tengamos, más YouTube le sugerirá contenido empresarial relevante y de tecnología emergente. ¡Gracias!

Apoya nuestra misión: >>>>>> SUSCRÍBETE AHORA >>>>>> a nuestro canal de YouTube.

… También nos gustaría contarte sobre nuestra misión y cómo puedes ayudarnos a cumplirla. El modelo comercial de SiliconANGLE Media Inc. se basa en el valor intrínseco del contenido, no en la publicidad. A diferencia de muchas publicaciones en línea, no tenemos un muro de pago ni ejecutamos anuncios publicitarios, porque queremos mantener nuestro periodismo abierto, sin influencia ni la necesidad de perseguir el tráfico.El periodismo, los informes y los comentarios sobre SiliconANGLE, junto con el video en vivo sin guión de nuestro estudio de Silicon Valley y los equipos de video trotamundos en el cubo – requiere mucho trabajo, tiempo y dinero. Mantener la calidad alta requiere el apoyo de patrocinadores que estén alineados con nuestra visión de contenido periodístico sin publicidad.

Si le gustan los informes, las entrevistas en video y otro contenido sin publicidad aquí, tómese un momento para ver una muestra del contenido de video respaldado por nuestros patrocinadores, tuitea tu apoyoy sigo volviendo a SiliconaANGLE.

Author

Moisés Cabrera

Encantado de emprender, el Internet es como pez en el rio para mi y quiero aportar valor a este mundo digital. Si crees que es de interés estos artículos no dudes en comentar.

¿Te gusta nuestro contenido?Recibe noticias y estrategias digitales a tu correo.

No pierda la oportunidad de recibir también descuentos de nuestros servicios.