La promesse d’Apple en matière d’IA : « Vos données ne seront jamais stockées ni accessibles à Apple »

La plupart des grands modèles linguistiques s’exécutant sur des fermes de serveurs cloud distants, certains utilisateurs sont réticents à partager des données personnelles identifiables et/ou privées avec des sociétés d’IA. Dans son discours d’ouverture à la WWDC aujourd’hui, Apple a confirmé que le nouveau système « Apple Intelligence » qu’il intègre dans ses produits utilisera le nouveau « Private Cloud Compute » pour garantir que toutes les données traitées sur ses serveurs cloud sont protégées de manière transparente et vérifiable.

« Vous ne devriez pas confier tous les détails de votre vie pour les stocker et les analyser dans le cloud d’IA de quelqu’un », a déclaré Craig Federighi, vice-président senior de l’ingénierie logicielle d’Apple.

Faites confiance mais vérifiez

Une partie de ce qu’Apple appelle « une nouvelle norme en matière de confidentialité et d’IA » est réalisée grâce au traitement sur l’appareil. Federighi a déclaré que « de nombreux » modèles d’IA générative d’Apple peuvent fonctionner entièrement sur un appareil alimenté par des puces A17+ ou de la série M, éliminant ainsi le risque que vos données personnelles soient envoyées à un serveur distant.

Lorsqu’un modèle plus large basé sur le cloud est nécessaire pour répondre à la demande en IA, Federighi a souligné qu’il « fonctionnera sur des serveurs que nous avons spécialement construits avec du silicium Apple », permettant l’utilisation d’outils de sécurité intégrés au langage de programmation Swift. Apple Intelligence « envoie uniquement les données pertinentes pour accomplir votre tâche » à ces serveurs, plutôt que de donner un accès global à toutes les informations contextuelles auxquelles un appareil a accès, a déclaré Federighi.

Apple affirme que les microdonnées ne seront pas non plus enregistrées pour un accès futur au serveur ni utilisées pour perfectionner les modèles basés sur serveur d’Apple. « Vos données ne sont jamais stockées ni rendues accessibles à Apple », a déclaré Federighi. « Il est utilisé exclusivement pour exécuter votre commande. »

Mais il ne faut pas seulement faire confiance à Apple sur ce point, a affirmé Federighi. En effet, le code du serveur utilisé par Private Cloud Compute sera accessible au public, ce qui signifie que « des experts indépendants pourront examiner le code exécuté sur ces serveurs pour vérifier cette promesse de confidentialité ». L’ensemble du système est configuré de manière cryptée afin que les appareils Apple « refusent de parler au serveur à moins que son logiciel ne soit publiquement enregistré pour inspection ».

Bien que le discours d’ouverture ait été peu détaillé pour l’instant, l’accent mis sur la confidentialité lors de la présentation montre qu’Apple donne au moins la priorité aux problèmes de sécurité dans sa messagerie alors qu’il s’aventure pour la première fois dans l’IA générative. Nous verrons ce que les experts en sécurité auront à dire lorsque ces serveurs et leurs codes seront bientôt accessibles au public.