La Inteligencia Artificial (IA) está provocando en muchos casos más disgustos que satisfacciones. Human Rights Watch (HRW) acaba de revelar que se están utilizando fotos de niños, publicadas en distintos medios hace ya algunos años, para entrenar diferentes modelos de Inteligencia Artificial (IA) con el fin de crear generadores de imágenes.
Aunque varias de las plataformas que contienen estas fotos están amparadas por sistemas en los que se controla la privacidad, no importa, las aplicaciones de IA empleadas no respetan estos parámetros. Así, por ejemplo, se han encontrado 170 fotos de niños brasileños en LAION-SB, un conocido servicio de IA creado a partir de instantáneas de Common Crawl de la web pública.
En un nuevo informe publicado también en HRW se indica que en Australia ha ocurrido algo similar. Se han utilizado fotos de 190 niños, incluidos grupos indígenas altamente vulnerables. Está claro que el sistema de entrenamiento de IA, utilizado también en otros terrenos, vulnera las normas de privacidad.
Sobre el entrenamiento de la IA
Está claro, no hay dudas al respecto, de que la Inteligencia Artificial (IA) utiliza datos creados por seres humanos con el fin de conseguir información relevante. Ello entraña grandes riesgos en muchos apartados. Por ello es necesario, mejor obligatorio, respetar unas determinadas normas, algo que no están haciendo varias organizaciones.
Aunque sólo se haya utilizado un pequeño número de fotos de niños australianos ello no significa que se pueda hacer. Sabemos que muchos de estos datos de entrenamiento son eliminados después del entrenamiento, pero ello no significa que sea permisible. Nunca se pueden utilizar de forma ilegal.
La responsable de la investigación realizada por HRW, Hye Jung Han, ha dicho lo siguiente: «Los niños en Australia esperan con gran expectación si el gobierno adoptará medidas de protección para ellos. Los niños no deberían tener que vivir con el temor de que sus fotos puedan ser robadas y utilizadas como arma en su contra«.
Necesidad de reformas en el uso de la IA
Si no hay entrenamiento no hay IA, ya que la información mostrada debe ser extraída, como ya hemos apuntado, de diferentes plataformas creadas por seres humanos, en las que se muestran elementos con algunos de ellos como protagonistas.
Los avances en todos los ordenes de la vida son muy importantes, incluida la Inteligencia Artificial, pero hay que ser comedidos y respetar todas las normas existentes y las que surjan. Lo que sí se debe indicar, por parte de todos los servicios que se dedican a recabar esta información, es que muestren como lo hacen.
Los legisladores deben crear más métodos de protección con el fin de evitar actuaciones como las que han ocurrido en Brasil y en Australia, y seguro que también en otros lugares. Y no sólo eso, el proceso continúa entrañando grandes riesgos, sobre todo si no se respetan las normas.
