Microsoft vient de dévoiler VALL-E 2, une intelligence artificielle d’une précision inégalée capable d’imiter la voix humaine. Cependant le GAFAM affilié au Forum économique mondial, a décidé de ne pas la rendre accessible au grand public, en raison des risques potentiels d’abus.
VALL-E 2 est la deuxième version de l’IA de synthèse vocale de Microsoft, l’entreprise dirigée par le contributeur de l’agenda 2030 du Forum économique mondial, Bill Gates. Annoncée initialement en janvier 2023, la première version de VALL-E pouvait déjà reproduire la voix humaine en seulement trois secondes d’écoute. Avec cette nouvelle itération, Microsoft affirme avoir atteint la « parité humaine », rendant les deepfakes vocaux indiscernables de vraies voix humaines. Cette avancée est possible grâce à des innovations dans le traitement des données vocales, permettant à l’IA de synthétiser des discours complexes avec un naturel surprenant.
Applications diversifiées et bénéfices Potentiels
Microsoft envisage des applications variées pour VALL-E 2 dans des domaines tels que l’éducation, le divertissement, le journalisme, l’accessibilité, les systèmes de réponse vocale interactifs, et la traduction. L’IA pourrait également être un atout précieux pour les personnes en situation de handicap, en leur fournissant des outils de communication améliorés.
Les dangers potentiels
Malgré ses avantages, VALL-E 2 présente des risques importants, selon Microsoft. L’entreprise affirme que cette technologie pourrait être utilisée de manière malveillante pour usurper l’identité vocale de proches, de célébrités ou de personnalités politiques. Une telle usurpation pourrait faciliter des escroqueries téléphoniques, des fraudes financières ou la divulgation d’informations sensibles. Les cybercriminels exploitent déjà les deepfakes pour orchestrer des cyberattaques et diffuser de la désinformation, selon le GAFAM.
Une Disponibilité Limitée par Précaution
Microsoft a donc décidé de ne pas rendre VALL-E 2 accessible au public. L’entreprise précise qu’il n’est « pas prévu d’intégrer VALL-E 2 dans un produit ou d’élargir l’accès au public » pour le moment. Cette IA sera réservée à des fins de recherche, afin de mieux comprendre et contrôler ses implications.
Cette décision intervient alors que la réglementation de l’IA était le sujet principal de Davos 2024, le grand raout du Forum économique mondial et des deux dernières réunions du groupe Bilderberg, tandis que de nombreux contributeurs de l’agenda 2030 comme Emmanuel Macron, ou le DG de l’OMS, le dr Tedros, appellent à réguler cette technologie dès le développement des applications. Récemment, un autre contributeur du FEM, Sam Altamn, Pdg d’Open AI, une autre entreprise lié au FEM, a mis en pause le développement de Sky, la fonction vocale de Chat gpt, en convoquant les risques éventuels des deep fakes.
