Le marché des technologies de détection de deepfakes est en expansion alors que les entreprises font face à une augmentation des fraudes par médias synthétiques, notamment le clonage vocal et les vidéos générées par IA utilisées dans les fraudes au président et l'usurpation d'identité. Selon des analyses sectorielles, le secteur de la détection de deepfakes devrait croître à un taux de croissance annuel composé de plus de 30 % jusqu'à la fin des années 2020, stimulé par la prise de conscience croissante des risques posés par l'IA générative.
Des incidents très médiatisés ont souligné la menace. Début 2024, une multinationale a perdu 25 millions de dollars après qu'un employé a été trompé par un appel vidéo deepfake imitant le directeur financier. Des arnaques par clonage vocal ont également ciblé des institutions financières, les fraudeurs utilisant de l'audio généré par IA pour autoriser des virements. Ces affaires ont incité les régulateurs et les forces de l'ordre du monde entier à émettre des avertissements et des recommandations.
En réponse, les fournisseurs de technologies proposent des outils de détection qui analysent l'audio et la vidéo pour repérer des artefacts de manipulation, tandis que certaines plateformes ont mis en œuvre des normes de provenance de contenu telles que C2PA. Cependant, les experts notent que la détection reste une course aux armements, à mesure que les modèles génératifs s'améliorent et deviennent plus accessibles. Il est conseillé aux entreprises d'adopter des défenses à plusieurs niveaux, incluant la formation des employés et des protocoles de vérification.
La croissance du marché reflète une tendance plus large des préoccupations de sécurité liées à l'IA, les dépenses en détection de deepfakes devant atteindre des milliards de dollars d'ici 2030. Bien qu'aucune solution unique ne soit infaillible, l'investissement croissant indique que les organisations prennent la menace au sérieux.
