YouTube vous dira quand la vidéo que vous regardez a été générée par l'IA

YouTube affirme qu'il prendra des mesures pour garantir que l'IA générative ait sa place sur la plateforme vidéo, tout en en étant également responsable. Dans un article de blog cette semaine, Jennifer Flannery O'Connor et Emily Moxley, vice-présidentes de la gestion des produits chez YouTube, ont partagé plusieurs outils de détection d'IA qui aideront la plateforme vidéo à mettre en évidence le contenu généré par l'IA.

Les deux ont déclaré que YouTube en était encore aux premiers stades de son travail, mais qu'il prévoyait de faire évoluer son approche à mesure que l'équipe en apprendrait davantage. Pour l'instant, cependant, ils ont partagé différentes façons dont la plate-forme vidéo détectera le contenu généré par l'IA et en alertera les utilisateurs afin qu'ils puissent l'utiliser de manière responsable.

La première méthode exigera la divulgation des créateurs chaque fois que quelque chose est créé à l’aide de l’IA. Cela signifie que si quelque chose dans la vidéo a été créé avec l'IA, il doit comporter une mention, ainsi que l'une des nombreuses nouvelles étiquettes de contenu, vous aidant à identifier ce qui a été créé avec l'IA et ce qui ne l'a pas été.

Ce problème spécifique sera résolu grâce à un système qui indique aux téléspectateurs quand quelque chose qu’ils regardent est « synthétique » ou généré par l’IA. Si des outils d’IA étaient utilisés dans la vidéo, ils devraient être divulgués pour aider à réduire la propagation potentielle de désinformations et d’autres problèmes graves, note YouTube.

YouTube affirme qu'il ne se limitera pas aux étiquettes et aux divulgations, mais qu'il utilisera également des outils de détection d'IA pour aider à sélectionner les vidéos montrant des éléments qui enfreignent les directives de sa communauté. De plus, les deux hommes affirment que tout ce qui est créé à l'aide des produits d'IA générative de YouTube sera clairement étiqueté comme modifié ou synthétique.

De plus, les futurs outils de détection d'IA de YouTube permettront aux utilisateurs de demander la suppression de contenus modifiés ou synthétiques qui simulent un individu identifiable, y compris son visage ou sa voix. Cela se fera via le processus de demande de confidentialité, et YouTube déclare que tout le contenu téléchargé ici ne sera pas supprimé, mais sera pris en compte en fonction de plusieurs facteurs.

Le contenu généré par l'IA est là pour rester, en particulier avec ChatGPT qui continue d'offrir tant de choses à un si grand nombre. Et même s’il est peu probable que l’IA quitte complètement le média de divertissement, au moins YouTube prend certaines mesures pour contribuer à atténuer les risques qu’elle pourrait poser à long terme. Bien sûr, le bilan de YouTube en matière de police communautaire n’a pas été le meilleur dans le passé, il sera donc intéressant de voir comment tout cela se déroulera à l’avenir.

YouTube affirme qu'il prendra des mesures pour garantir que l'IA générative ait sa place sur la plateforme vidéo, tout en en étant également responsable. Dans un article de blog cette semaine, Jennifer Flannery O'Connor et Emily Moxley, vice-présidentes de la gestion des produits chez YouTube, ont partagé plusieurs outils de détection d'IA qui aideront la plateforme vidéo à mettre en évidence le contenu généré par l'IA.

Les deux ont déclaré que YouTube en était encore aux premiers stades de son travail, mais qu'il prévoyait de faire évoluer son approche à mesure que l'équipe en apprendrait davantage. Pour l'instant, cependant, ils ont partagé différentes façons dont la plate-forme vidéo détectera le contenu généré par l'IA et en alertera les utilisateurs afin qu'ils puissent l'utiliser de manière responsable.

La première méthode exigera la divulgation des créateurs chaque fois que quelque chose est créé à l’aide de l’IA. Cela signifie que si quelque chose dans la vidéo a été créé avec l'IA, il doit comporter une mention, ainsi que l'une des nombreuses nouvelles étiquettes de contenu, vous aidant à identifier ce qui a été créé avec l'IA et ce qui ne l'a pas été.

Ce problème spécifique sera résolu grâce à un système qui indique aux téléspectateurs quand quelque chose qu’ils regardent est « synthétique » ou généré par l’IA. Si des outils d’IA étaient utilisés dans la vidéo, ils devraient être divulgués pour aider à réduire la propagation potentielle de désinformations et d’autres problèmes graves, note YouTube.

YouTube affirme qu'il ne se limitera pas aux étiquettes et aux divulgations, mais qu'il utilisera également des outils de détection d'IA pour aider à sélectionner les vidéos montrant des éléments qui enfreignent les directives de sa communauté. De plus, les deux hommes affirment que tout ce qui est créé à l'aide des produits d'IA générative de YouTube sera clairement étiqueté comme modifié ou synthétique.

De plus, les futurs outils de détection d'IA de YouTube permettront aux utilisateurs de demander la suppression de contenus modifiés ou synthétiques qui simulent un individu identifiable, y compris son visage ou sa voix. Cela se fera via le processus de demande de confidentialité, et YouTube déclare que tout le contenu téléchargé ici ne sera pas supprimé, mais sera pris en compte en fonction de plusieurs facteurs.

Le contenu généré par l'IA est là pour rester, en particulier avec ChatGPT qui continue d'offrir tant de choses à un si grand nombre. Et même s’il est peu probable que l’IA quitte complètement le média de divertissement, au moins YouTube prend certaines mesures pour contribuer à atténuer les risques qu’elle pourrait poser à long terme. Bien sûr, le bilan de YouTube en matière de police communautaire n’a pas été le meilleur dans le passé, il sera donc intéressant de voir comment tout cela se déroulera à l’avenir.