Qué son los "magic avatars" que inundan Instagram y cuáles son los riesgos de usar las aplicaciones que los crean
Las aplicaciones que ofrecen el servicio de crear un avatar con inteligencia artificial han ganado una creciente popularidad en los últimos años, especialmente entre los más jóvenes. Y entre ellas, las que sirven para crear “magic avatars” han registrado un importante auge.
La popularidad ha aumentado más en los últimos meses, la aplicación Lensa AI, por ejemplo, se lanzó en 2018 pero no fue hasta que incluyó la modalidad de crear “ magic avatars” que logró escalar al primer sitio de descargas en la IOS App Store de Apple en la categoría foto y video en noviembre y ocupa el tercer sitio de todas las aplicaciones.
Por $3.99, los s de Lensa –que deben ser mayores de 13 años– pueden subir de 10 a 20 imágenes de ellos mismos y luego recibir 50 selfies generados por la inteligencia artificial de la aplicación en una variedad de estilos artísticos. De acuerdo con su página web, al usar las fotos y videos producidos por Lensa, el acepta que sus imágenes sean usadas para “enseñar” a su algoritmo a crear nuevos avatares.
La empresa reconoce, no obstante, que aunque “hacen su mejor esfuerzo”, los s pueden encontrarse con contenidos “no apropiados”, y se comprometen a que, si se le hace saber a la compañía, esta “tomará los pasos necesarios” para mejorar su algoritmo.
Estos “ magic avatars” han inundado, a su vez, redes como Instagram y Tiktok y se han convertido en una sensación de la noche a la mañana. Los rostros creados por inteligencia artificial se vuelven la “carta de presentación” en las redes de muchas personas e incluso un sitio para “quedar” para muchos adolescentes, comentan expertos.
“Un adolescente puede socializar con otras personas por internet y hacer cosas muy tóxicas sin que el adulto que tiene al lado se dé cuenta”, comenta Carlos Hidalgo, periodista español de Forbes, especializado en seguridad digital.
Pero ese es solo uno de los factores peligrosos.
Un "promotor de robo de identidad"
Los datos de un rostro de una persona que pasen por Inteligencia Artificial pueden acarrear aún mayores riesgos.
Israel Reyes, experto en seguridad cibernética, dijo a Univision Noticias que muchas aplicaciones “pueden obtener tus datos biométricos, tu frecuencia de voz y más datos que pueden representar un riesgo”, explicó Reyes, que añadió que el uso frecuente de este tipo de herramientas es un “promotor de robo de identidad de las personas”.
El peligro, añadió, no solo es para los s sino incluso para la seguridad nacional, pues estos datos pueden acabar en el extranjero.
Un artículo firmado por Daron Acemoglu, profesor del Instituto de Tecnología de Massachusetts y coautor de Por qué fracasan las naciones: los orígenes del poder, la prosperidad y la pobreza, señala que nuevas tecnologías de monitoreo son utilizadas por corporaciones y gobiernos.
¿Cómo funcionan los algoritmos?
Cuando alimentamos nuestros conjuntos de datos de algoritmos que contienen datos sesgados, el sistema lógicamente confirmará nuestros sesgos, es decir, nuestros rasgos.
“Actualmente hay muchos ejemplos de sistemas que perjudican en mayor medida a las minorías étnicas en mayor medida que en el caso de la población blanca”, comenta Jarno Duursna, autor del libro The Digital Butler, que analiza las oportunidades y amenazas de la inteligencia artificial.
De acuerdo con el analista, los grupos más vulnerables se ven perjudicados por estos sistemas incluso más de lo habitual con lo que la desigualdad aumentará.
" En el peor de los casos, los algoritmos elegirán a los ganadores y a los perdedores. Es similar al sombrero seleccionador parlante de Harry Potter: nadie sabe exactamente lo que sucede dentro, pero tendrás que aceptar la verdad”, advierte en un artículo publicado en su página web.
Hidalgo explicó que los riesgos de la inteligencia artificial son “muchos” puesto que “las máquinas son capaces de generar información falsa en una escala masiva debido a errores de diseño recurrentes basados en los sesgos de sus creadores, muchas veces involuntarios”.
“Los algoritmos son herramientas creadas por seres humanos. Pensar que todos son infalibles es como pensar que todas las páginas de un periódico no tienen una sola falta de ortografía”, afirmó.
