Apple retira de la App Store las aplicaciones que utilizan IA para desnudar a las chicas
Tras los informes sobre el uso problemático de la inteligencia artificial para crear imágenes inapropiadas en teléfonos Huawei, Apple tomó medidas similares para eliminar aplicaciones de la App Store que utilizaban IA generativa para crear imágenes falsas de desnudos.
Estos programas se anunciaban como “generadores de arte” capaces de desnudar gratis a cualquier jovencita. La retirada de los respectivos programas se produjo después de que el equipo editorial de 404 Media encontrara y compartiera enlaces a dichas aplicaciones y a su publicidad.
Cabe destacar que estas aplicaciones están disponibles en la AppStore desde 2022. Los desarrolladores anunciaron sus “ocurrencias” en sitios web para adultos. Más tarde, se permitió a los “creadores” permanecer en la tienda de aplicaciones, siempre que se eliminaran los anuncios de dichos sitios, pero al menos uno de estos programas continuó mostrando contenido inapropiado hasta principios de este año (la aplicación fue eliminada de la PlayStore de Google hace poco).
Este incidente plantea la cuestión de la moderación reactiva y la posibilidad de que los desarrolladores exploten todo tipo de lagunas. El tema ha surgido en el momento más inoportuno para Apple, mientras se prepara para la WWDC 2024, donde se esperan importantes anuncios sobre inteligencia artificial para iOS 18 y Siri.
El incidente también afecta a los esfuerzos de Apple por forjarse una reputación de empresa responsable en el campo del desarrollo de la inteligencia artificial, incluida la concesión ética de licencias de datos de entrenamiento. El retraso en la eliminación de las solicitudes de NCI puede tener un impacto negativo en esta imagen.
