Riccardo Simonetti parle d'un faux généré par l'IA et lance un podcast avec Palina Rojinski

Simonetti a expliqué qu'il avait été transformé en figure publicitaire sans son accord. « Es sah wirklich so aus, dass ganz viele Menschen das geglaubt haben », a-t-il dit en évoquant les réactions sur internet. L'incident soulève des questions sur la gestion des contenus générés par l'IA et sur la protection des droits de la personnalité.

Avec Palina Rojinski, Simonetti lance vendredi 17 juillet le podcast « Saus & Applaus », qui sera diffusé sur Spotify. Dans ce format, les deux animateurs entendent aborder régulièrement des sujets d'actualité. Simonetti travaille comme animateur et auteur ; Rojinski est également connue comme animatrice.

Critique des algorithmes

Lors de l'entretien avec la dpa, Rojinski s'est montrée critique envers le rôle des algorithmes dans les réseaux sociaux. « Ich finde auch, dass Algorithmen einfach auch sehr gefährlich sind », a-t-elle déclaré. Elle a également mis en garde contre le fait de « wirklich nicht gut recherchierte Videos als bare Münze zu nehmen ». Elle s'est par ailleurs prononcée en faveur d'une régulation des algorithmes : « Ihrer Ansicht nach bräuchte es Regulierungen. »

Rojinski a souligné que les algorithmes pouvaient restreindre le champ de vision des utilisateurs : « Sie könnten dazu beitragen, dass sich Sichtweisen verengen. » Selon elle, après avoir regardé seulement quelques vidéos sur un sujet, les plateformes affichent ensuite principalement des contenus correspondant à la perspective de l'utilisateur.

Simonetti a également critiqué sévèrement le fonctionnement des réseaux sociaux. « Algorithmen sehen dich nur, wenn du das machst, was alle machen. Jeder versucht nur noch 'ne Kopie von jemand anderem zu sein », a-t-il déclaré. Ses vidéos ne seraient diffusées que s'il utilise « dieselbe Musik benutzt, dieselben Reels machst wie jeder andere ». Les plateformes créeraient ainsi une tendance dominante uniforme.

Le nouveau podcast « Saus & Applaus »

À titre de comparaison, Simonetti a évoqué l'ancienne plateforme Myspace, sur laquelle les utilisateurs pouvaient encore personnaliser individuellement leur profil. Aujourd'hui, ces libertés ont disparu en raison du pilotage algorithmique des contenus, a-t-il dit. Le reportage de la dpa souligne que Simonetti a accordé son entretien un jeudi.

Avec le podcast « Saus & Applaus », Simonetti et Rojinski entendent, selon leurs propres termes, proposer un format en contre-pied de ces contenus uniformisés. Le premier épisode sera diffusé vendredi 17 juillet, en exclusivité sur Spotify. Aucun détail n'a encore été communiqué concernant d'autres invités ou la fréquence du format.

Ce cas montre de manière exemplaire à quel point des faux générés par l'IA d'apparence réaliste peuvent provoquer des confusions sur les réseaux sociaux. Le récit de Simonetti illustre que même des personnalités connues peuvent être victimes de contenus manipulés par l'IA. Rojinski appelle donc à une régulation des algorithmes sous-jacents afin de mieux protéger les utilisateurs.

À la veille des débuts du podcast, les deux animateurs ont souligné qu'ils souhaitaient poser volontairement leurs propres accents. Le format se veut à la fois divertissant et offrant un espace pour des sujets sérieux comme l'éducation aux médias, ont-ils indiqué.

L'information a été diffusée via le canal d'information de la dpa. Simonetti et Rojinski ont annoncé qu'ils poursuivraient la discussion sur les algorithmes et les faux générés par l'IA également dans leur podcast.