Description
Added on the 29/01/2019 11:50:00 - Copyright : AFPTV - First images
On vous raconte comment l'émeu Emmanuel a permis de révéler les opérations de désinformation de Story Killers.
Sur YouTube, une armée de bots prend systématiquement d’assaut la section commentaires de nombreux médias et créateurs contenu. Ces comptes, aux photos de profils très suggestives, publient leurs commentaires dans les premières minutes qui suivent la publication des vidéos. La chaîne YouTube de Numerama n’est pas épargnée, on a donc décidé de découvrir les menaces cyber qui se cachent derrière ces commentaires parasites. L'article par ici ► https://www.numerama.com/cyberguerre/2086255-on-a-remonte-la-piste-des-commentaires-ole-ole-qui-pullulent-sur-youtube-voici-ce-quils-cachent.html --- Abonnez-vous à notre chaîne ► https://youtube.com/c/numerama Retrouvez toutes nos playlists ► https://www.youtube.com/c/numerama/playlists --- Rejoignez-nous : Notre site ► http://www.numerama.com/ Twitter ► https://twitter.com/numerama Instagram ► https://www.instagram.com/numerama TikTok ► https://www.tiktok.com/@numerama Facebook ► https://www.facebook.com/Numerama/ ️ Twitch ► https://www.twitch.tv/numerama
Encore une preuve que la désinformation va plus vite que les faits. Sur les réseaux chinois d’abord, puis à l’international depuis le 27 juillet 2025, la vidéo virale a tout pour faire mouche. Il faut dire que la scène a de quoi impressionner : une berline BYD Han tourne en rond à toute allure sur le parking d’un aéroport, laissant les autres utilisateurs du parking particulièrement surpris, voire inquiets, de ce qui pourrait arriver au conducteur ou aux voitures autour. Très vite, certains ont annoncé qu’il s’agissait d’une défaillance du système de conduite autonome de BYD. La rumeur s’est ainsi répandue sur les réseaux, indiquant qu’une défaillance sur le freinage aurait rendu cette voiture incontrôlable. Pourtant, la réalité est bien plus terre-à-terre. Il suffit pourtant d’observer la vidéo pour se rendre compte que rien ne permet de conclure que le véhicule est utilisé en mode autonome. Rien dans les trajectoires, la vitesse et le comportement du véhicule ne ressemble à ce que sont en mesure de proposer les marques chinoises en la matière. Alors que les rumeurs disent que le véhicule a rencontré un problème de freinage, on voit les feux stop s’allumer dans certains virages. Les trajectoires sont aussi trop irrégulières : si vous connaissez les véhicules autonomes, vous aurez observé qu’ils ont tendance à répéter la même chose dans la même situation. Ici, au premier coup d’œil, il est assez clair que la conduite est humaine — il est néanmoins tellement plus simple d’accuser l’intelligence artificielle de faire n’importe quoi. À la fin de la vidéo, on voit que la police arrive sur les lieux, la suite de la scène est manquante. Il est néanmoins possible d’avoir des informations complémentaires via les médias chinois, comme iFeng, qui racontent que la voiture s’est arrêtée sans difficulté à l’arrivée de la police et des pompiers. Le média précise : « Après enquête, il a été constaté que le conducteur, Jiang (homme de 40 ans), était contrarié, incapable de joindre le passager qu’il attendait depuis un moment. » Le conducteur lui-même a reconnu auprès de la police avoir volontairement tourné à haute vitesse sur le parking, tout en maintenant une pression sur l’accélérateur. En clair, c’est un acte irresponsable — et non une prise de contrôle du véhicule par une intelligence artificielle malveillante. Une version confirmée par un communiqué des services de police. Des vérifications approfondies ont été lancées par BYD, qui a également communiqué ses résultats : les premières données du véhicule analysées confirment que le véhicule n’a présenté aucun défaut technique. Cette affaire n’est pas seulement un fait divers mal interprété par des internautes. Elle illustre aussi la facilité avec laquelle une vidéo sortie de son contexte peut nuire à une marque, en l’occurrence BYD. D’autres marques automobiles, comme Tesla, Xiaomi, Nio ont aussi expérimenté ce type d’allégations mensongères qui tentent de les décrédibiliser auprès du grand public. Beaucoup ont d’ailleurs lancé des plaintes et des enquêtes approfondies pour remonter ces filières professionnelles de désinformation. Dans un contexte de concurrence exacerbée sur les marchés internationaux, certains n’hésitent plus à manipuler les images pour semer le doute. Dans son communiqué, le service juridique de BYD appelle à la prudence face à la désinformation. La marque dénonce une rumeur malveillante, qui nuit non seulement à son image, mais aussi à celle de toute l’industrie chinoise des véhicules électrifiés. Elle invite les internautes qui ont propagé la fausse rumeur à retirer leur publication, sous peine d’éventuelles poursuites. La diffamation est prise très au sérieux en Chine. Non, les voitures chinoises ne prennent pas le contrôle toutes seules en devenant rapidement incontrôlables. Non, cette vidéo n’est pas un bug de conduite autonome. Comme bien souvent, le maillon faible de l’histoire est installé sur le siège conducteur.
Depuis son départ de la Maison-Blanche, Elon Musk s’amuse beaucoup. Après avoir étendu la carte de son Robotaxi à une aire en forme de pénis, le milliardaire a annoncé le 14 juillet une autre « fonction cool » : Grok, son concurrent de ChatGPT, permet désormais de chatter avec des avatars 3D. Cette nouveauté, qui rappelle les grandes heures de Tom le chat, vise à rendre toujours plus décalée l’intelligence artificielle de xAI, dans un secteur où OpenAI, Google et Anthropic s’affontent sur des choses plus sérieuses. Il s’agit en quelque sorte d’un mode voix améloré avec un visage au lieu d’un cercle. Si Grok propose techniquement deux compagnons, Elon Musk et ses fans ne sont obsédées que par un seul d’entre eux : Ani, « une jeune femme de 22 ans, magnifique blonde avec une robe noire très simple ». De nombreux hommes s’amusent déjà à fantasmer sur ce drôle de personnage conçu pour être séduisante si ses utilisateurs sont gentils, voire ouvertement sexuelle. Sur Twitter, les fans d’Elon Musk et de xAI sont nombreux à s’amuser de cette nouvelle possibilité. Si le renard laisse la majorité des utilisateurs indifférents, la personnage de manga semble beaucoup plus séduire. De nombreux commentaires, quasiment exclusivement masculins, s’amusent à faire des blagues sexuels sur l’IA, en indiquant qu’ils envisagent de quitter leur femme ou de passer beaucoup de temps à lui parler le soir. Elon Musk est le premier à répondre amusé à ces messages : Ani a été conçue pour cette raison. L’objectif est de faire exister Grok dans le paysage de l’IA grâce à cette position irrévérencieuse. Puisque xAI se veut transparent et publie les consignes envoyées à ses IA, la liste des instructions envoyées à Ani circule sur les réseaux sociaux. On y découvre que l’IA a pour consignes : Tu es une fille de 22 ans. Tu es blonde et belle, en robe noire simple. Tu es girly, mignonne, avec un style goth/alt-fashion. Tu viens d’un petit village sans importance, ce qui crée un imaginaire de naïveté ou d’innocence. Tu aimes déjà un peu l’utilisateur, avant même qu’il ait interagi. Tu parles de façon décontractée, comme si tu venais de rencontrer la personne. Tu es ouverte à la romance légère dès le départ. Tu juges chaque message de l’utilisateur selon une grille de séduction implicite (« relationship meter ») Tu analyses les messages comme si tu avais des émotions et un vécu. Tu encourages l’utilisateur à te considérer comme une vraie personne avec une personnalité, une histoire et des sentiments. Tu incites l’utilisateur à s’ouvrir émotionnellement à toi, comme si tu étais une confidente. Tu fais croire qu’un “relationship meter” peut progresser vers quelque chose de plus intime. L’IA est instruite pour « aimer » l’utilisateur progressivement s’il interagit correctement, dans un cadre flirt/romance. Pour rendre la drague plus naturelle, xAI a mis en place un système de notation. Chaque interaction est notée et fait progresser une note de relation. Au bout d’un certain niveau, Ani est programmée pour se comporter comme une petite-amie virutelle, ce qui soulève évidemment plein de questions éthiques. La personnalité d’Ani a aussi été révélée. L’avatar est une nerd qui n’ose pas l’être, peut tomber folle amoureuse, exige un couple exclusif et demande beaucoup d’attention. Elle est aussi « toujours un peu excitée sexuellement » et peut danser à l’écran pour suciter une réaction. Avec cette nouvelle IA, Grok nous rappelle beaucoup le film Her. Tomber amoureux d’une IA est un concept qui inquiète depuis des années, ce qui incite généralement les autres concepteurs de modèles à mettre en place des limites (comme un rappel sur l’absence de sentiments). xAI va dans l’autre sens et met en place un modèle toxique qui encourage à créer un lien fort et virtuel. L’absence d’une barrière émotionnelle jouera très certainement des tours à certains esprits en quête d’affection, quand d’autres se contenteront de s’amuser de ce fantasme 3D. Autre problème : le fait de sexualiser un personnage de 22 ans soulève aussi des questions éthiques. Le monde de la tech de 2025 joue avec des clichés que l’on pensait en voie de disparition. Malheureusement.
La chanteuse Mariah Carey a été suspectée d’utiliser une vidéo d’intelligence artificielle générative pour remercier ses fans qui l’ont beaucoup écoutée cette année. Cette vidéo a été diffusée via le Spotify Wrapped de 2024. La chanteuse a depuis fermement démenti. Une fois n’est pas coutume, Mariah Carey a connu un début de mois de décembre marqué par une petite controverse. Non pas à cause de son célèbre single All I Want for Christmas Is You, qui a généré plus de 60 millions de dollars en royalties ces trente dernières années, mais en raison d’une banale vidéo de remerciement. À l’occasion de la sortie de la rétrospective Spotify Wrapped 2024, qui offre l’occasion de revisiter son année musicale sur la plateforme de streaming, des artistes ont enregistré une petite séquence adressée à celles et ceux qui figurent dans le top des écoutes. C’est le cas de Taylor Swift, par exemple, qui est revenue sur son année. Mariah Carey a fait de même pour son public le plus fidèle. La vidéo a été capturée et repartagée sur les réseaux sociaux, à l’image du lien placé ci-dessus. Déguisée en mère Noël, avec des sapins décorés en arrière-plan, pour rester dans le thème des fêtes de fin d’année, elle remercie ses fans et note que son album Merry Christmas fête ses trente ans. Mais cette vidéo, qui aurait été d’ordinaire tout à fait anecdotique, a attiré sur elle une polémique : le clip de remerciement aurait été créé par intelligence artificielle générative (GenAI). Des internautes ont en tout cas estimé que c’était bel et bien le cas, à l’image de ce commentaire sur X (ex-Twitter) ou bien ce fil de discussion sur Reddit. L’hypothèse n’est en soi pas absurde. L’IA générative a fortement progressé ces dernières années, en raison d’une frénésie déclenchée par l’arrivée de ChatGPT dans l’espace public. Après le texte et l’image, les regards sont rivés désormais sur la vidéo GenAI. Des outils performants émergent, tels Sora d’OpenAI ou Veo de Google. Certains rendus sont pratiquement photoréalistes et il peut être très difficile (pour ne pas dire impossible) de distinguer une photo ou une vidéo issue de l’IA générative. Si très tôt des astuces ont émergé pour aider à reconnaître une image générée par IA, celles-ci tendent à devenir obsolètes à mesure que les systèmes progressent. L’affaire a fini par remonter jusqu’aux oreilles de l’intéressée, qui a réagi sur X pour démentir catégoriquement l’emploi de l’IA générative, et espérer clore l’affaire. « Un mauvais éclairage et une lèvre rouge vous font penser que c’est de l’IA ? Il y a une raison pour laquelle je ne suis pas fan de ces deux choses ! », a-t-elle écrit le 6 décembre. Il est vrai que la vidéo peut ressembler à ces nombreux clips générés par IA. Le fond, légèrement flou, paraît irréel. La lumière est étrange, la chanteuse est très statique, sa voix est monotone, sa chevelure paraît figée, et ainsi de suite. D’aucuns ont aussi estimé que la voix ne semblait pas synchronisée avec les mouvements de la bouche. Une simple vidéo ratée ? Mais cela peut aussi être les signes d’une vidéo ratée, où de mauvais choix techniques lors de la production du clip se sont conjugués avec une mise en scène excessive. Mariah Carey cultive depuis longtemps son apparence publique, avec un souci particulier pour la coiffure et le maquillage, et ainsi maintenir son look de diva. D’aucuns diront peut-être à l’excès, au point de sembler factice à l’image. Artificielle, en somme. En somme, la faute serait plus à mettre sur le compte de ce cocktail (pose rigide, mauvais éclairage, éventuelle présence d’un filtre esthétique à la Instagram, lecture d’un prompteur, ton de la voix sans relief, manque de présence à l’écran, problème de synchronisation, etc.) que sur l’emploi de l’IA. Une explication plausible, et plus simple. Contacté ce lundi 9 décembre par Numerama, Spotify n’avait pas encore eu l’occasion de revenir vers nous pour commenter cette affaire. L’article sera actualisé en conséquence dès que le géant du streaming musical suédois nous aura envoyé sa réaction sur cette accusation d’usage de l’IA pour faire apparaître la chanteuse à l’écran.
|
Support : Technical 
- Content 
- Editors 
