Apple fait un pas en avant : des applications générant des images inappropriées sont désormais hors du circuit

Le coup de balai d’Apple sur l’App Store

Dans un effort pour lutter contre l’exploitation abusive de la technologie d’intelligence artificielle, Apple a récemment retiré un certain nombre d’applications de son App Store. Cette action a été déclenchée par la découverte que ces applications pouvaient être utilisées pour générer des images pornographiques non consenties.

Cette découverte a été faite par 404 Media, qui a mené une enquête sur la façon dont des développeurs d’applications exploitaient des publicités sur Instagram. Ils promouvaient leurs produits en vantant leur capacité à « déshabiller n’importe quelle fille » à l’aide d’images générées par l’IA.

Les applications déguisées en outils inoffensifs

Le rapport de 404 Media a révélé que certaines de ces publicités sur Instagram menaient directement à des applications sur l’App Store d’Apple. Ces applications se présentaient sous des noms inoffensifs tels que « générateur d’art », masquant ainsi leur véritable objectif : permettre la production non consensuelle de fausse pornographie à l’aide de l’IA.

Bien qu’Apple n’ait pas réagi immédiatement aux demandes de commentaires de 404 Media, la société a rapidement agi après avoir reçu des liens directs vers les applications concernées et leurs campagnes publicitaires associées.

La suppression tardive des applications problématiques

En fin de compte, Apple a supprimé trois applications de son App Store suite à l’alerte. Cependant, le rapport indique qu’il s’agit probablement d’un jeu du chat et de la souris, Apple n’étant apparemment pas en mesure d’identifier indépendamment les applications qui enfreignent ses politiques sans aide extérieure.

Il est regrettable que Apple, tout comme Google, ait pris du temps pour réagir. Des rapports datant de 2022 avaient déjà alerté sur les capacités de ces applications. Les deux géants technologiques avaient été avertis il y a plusieurs années, mais avaient refusé à l’époque de supprimer ces applications.

• Spotify rencontre des difficultés pour mettre à jour son application sur iPhone en raison de l’opposition d’Apple.
• Des rumeurs circulent sur les nouvelles fonctionnalités d’IA qui seront introduites dans iOS 18 pour les iPhones.
• Apple envisage de permettre aux utilisateurs d’effectuer des paiements sans contact sans passer par Apple Pay.
• Apple est critiqué pour la destruction de ses iPhones en état de marche au lieu de les recycler.
• Les utilisateurs d’iPhone ont désormais accès à un émulateur majeur de Nintendo.

La nécessité d’une action plus rapide

Malgré l’injonction, l’une des applications a persisté à commercialiser ses fonctionnalités jusqu’en 2024, date à laquelle elle a été retirée du Google Play Store. Il aura fallu attendre plusieurs mois avant qu’Apple ne retire enfin ces applications de son magasin.

Alors que les deepfakes pornographiques créés par l’IA font de plus en plus de victimes, les entreprises du secteur doivent réagir plus rapidement à l’avenir.