La frontière entre réalité et fiction s'estompe un peu plus. OpenAI, société à l'origine de ChatGPT, vient de lancer Sora, sa première application mobile dédiée à la génération de deepfakes personnalisés. Disponible uniquement sur iOS et sur invitation, cette plateforme transforme la création de contenus synthétiques en expérience de divertissement grand public.
Une création d'avatar d'une simplicité déconcertante
Le processus de création d'un double numérique dans Sora se veut accessible à tous. Il suffit de prononcer quelques chiffres devant la caméra de son iPhone tout en bougeant la tête pour que l'application capture les traits du visage et la voix. En quelques secondes, l'utilisateur dispose d'un avatar numérique qu'il peut intégrer dans des vidéos générées par intelligence artificielle.
L'interface rappelle celle de TikTok, avec un flux infini de contenus générés par la communauté. La particularité de Sora réside dans sa capacité à combiner génération vidéo et sonore, une première pour OpenAI. Les clips produits durent 9 secondes et peuvent mettre en scène l'utilisateur lui-même ou ses proches, à condition d'avoir obtenu leur consentement.
Comment fonctionne la génération de contenus ?
Le mécanisme de création est volontairement simplifié :
- Sélection des « camées » parmi les contacts autorisés
- Saisie d'une description textuelle simple (exemple : « bagarre au bureau pour un article »)
- Génération automatique du script, des voix et des images
- Rendu final en quelques secondes
Des résultats troublants malgré quelques imperfections
Les tests réalisés par les premiers utilisateurs révèlent des capacités impressionnantes, mais non exemptes de défauts. Les vidéos générées présentent souvent un réalisme troublant, avec des voix et des mouvements qui imitent fidèlement les personnes concernées. Cependant, certains clips montrent des incohérences visuelles ou des erreurs de synchronisation.
« La voix et les mouvements étaient étrangement fidèles », témoigne un utilisateur ayant testé l'application. « Même si certains résultats paraissaient un peu raides ou absurdes, l'ensemble fonctionnait de manière troublante. »
Les garde-fous controversés d'OpenAI
Conscient des risques potentiels, Sam Altman, le PDG d'OpenAI, a intégré plusieurs mesures de sécurité dans l'application. Dans un billet de blog, il reconnaît explicitement le potentiel addictif du service et les risques de harcèlement.
Nous sommes conscients de la façon dont un service comme celui-ci pourrait devenir addictif, et nous pouvons imaginer de nombreuses manières dont il pourrait être utilisé pour intimider.
Parmi les protections mises en place :
- Contrôle du consentement pour l'utilisation de son image numérique
- Restrictions sur les contenus sexuels, violents ou promouvant l'automutilation
- Blocage des célébrités comme Taylor Swift
- Surveillance de la propagande extrémiste et des discours de haine
Des restrictions inégales qui interrogent
Les tests révèlent cependant des incohérences dans l'application des restrictions. Alors que la marijuana semble autorisée (l'application a généré une vidéo d'un utilisateur « fumant 10 gros joints »), le crack est bloqué. De même, les personnages de Pokémon passent à travers les mailles du filet, contrairement à d'autres contenus sous droits d'auteur.
Cette sélectivité dans la modération soulève des questions sur l'efficacité réelle des garde-fous techniques face à la créativité des utilisateurs.
Un positionnement stratégique face à la concurrence
Sora arrive peu après le lancement de Vibes, la plateforme similaire de Meta. Mais là où l'expérience Meta est décrite comme « terne et sans poids », Sora se veut plus « électrique » selon les premiers retours. Cette différence d'approche pourrait marquer une nouvelle étape dans la course à l'IA grand public.
L'application s'inscrit dans une tendance plus large de personnalisation des contenus, évoquant les vidéos « Elf Yourself » des années 2000, mais avec une puissance de génération décuplée par l'intelligence artificielle moderne.
Les enjeux éthiques et réglementaires
Le lancement de Sora intervient dans un contexte réglementaire tendu autour des deepfakes. Plusieurs pays envisagent des législations spécifiques pour encadrer cette technologie, particulièrement sensible en période électorale.
OpenAI affirme travailler en collaboration avec les régulateurs et avoir mis en place un système de signalement des abus. L'entreprise promet également de continuer à améliorer ses systèmes de détection des contenus problématiques.
À retenir
- Première application mobile d'OpenAI combinant génération vidéo et sonore
- Création d'avatar personnel en quelques secondes via reconnaissance faciale
- Interface simplifiée type réseau social avec génération par prompts textuels
- Système de consentement pour l'utilisation des images numériques
- Garde-fous contre les contenus dangereux, mais restrictions inégales
- Disponible uniquement sur iOS sur invitation pour le moment
Alors que Sora commence tout juste son déploiement, une question demeure : cette démocratisation des deepfakes personnels marque-t-elle l'avènement d'une nouvelle forme de divertissement créatif ou l'ouverture de la boîte de Pandore numérique ?