MàJ : Pour Reporters Sans Frontières, l'erreur est une démonstration de « l'incapacité des systèmes d'IA à systématiquement publier des informations de qualité, même quand elles sont basées sur des sources journalistiques. »
« Les IA sont des machines à probabilités, or la véracité d'une information ne se joue pas sur un coup de dés. » RSF demande à Apple de « prendre ses responsabilités » et de retirer la fonctionnalité d'Apple Intelligence pour la génération de résumés avec les notifications.
-----
Actualité publiée le 16 décembre 2024
« BBC News est le média le plus fiable au monde. Il est essentiel pour nous que notre public puisse avoir confiance dans chaque information ou article publié en notre nom, et cela inclut les notifications. »
La BBC exprime son vif mécontentement à la suite d'un titre d'actualité trompeur généré par Apple Intelligence et concernant une affaire de meurtre très médiatisée aux États-Unis. Il laissait faussement croire que le suspect Luigi Mangione s'était suicidé.
Luigi Mangione a été arrêté le 9 décembre en Pennsylvanie. Toujours en vie, il est accusé d'avoir assassiné Brian Thompson qui était le patron du géant américain de l'assurance UnitedHealthcare depuis 2021. Le 4 décembre à Manhattan, Brian Thompson a été tué par balles devant l'hôtel New York Hilton.
La BBC se plaint à Apple
« Luigi Mangione se tire une balle ; une mère syrienne espère qu'Assad paiera le prix ; la police de Corée du Sud perquisitionne le bureau de Yoon Suk Yeol », pouvait-on lire dans le résumé des notifications d'Apple Intelligence avec une attribution à BBC News. Seule la première information était fausse.
Sur iPhone compatible et avec les outils d'écriture, la possibilité de résumer des notifications est l'une des capacités d'Apple Intelligence dans les pays où ce système d'IA générative adapté au contexte personnel est disponible, en plus des notifications groupées.
La BBC indique avoir contacté Apple pour exprimer son inquiétude au sujet de ce type d'erreur et pour corriger le problème.
Une mise en garde d'Apple
Un problème similaire avait affecté un résumé de notifications du New York Times, mentionnant l'arrestation du Premier ministre d'Israël alors qu'il s'agissait en réalité d'un mandat d'arrêt émis à son encontre par la Cour pénale internationale.
Les utilisateurs peuvent signaler des problèmes rencontrés avec les résumés de notifications. Il reste difficile d'obtenir des informations sur le nombre de signalements à Apple imputables à de fausses informations provoquées par Apple Intelligence.
Hormis les résumés de notifications, d'autres fonctionnalités proches d'Apple Intelligence sont les résumés dans Mail et Messages. « Apple Intelligence fait appel à des modèles génératifs et les résultats peuvent varier. Vérifiez la précision des informations importantes », prévient Apple.