GENÈVE, SUISSE / EuroWire / – Une nouvelle coalition pour les droits de l'enfant à l'ère de l'IA a vu le jour lors du premier Dialogue mondial des Nations Unies sur la gouvernance de l'IA à Genève. L'Espagne a annoncé cette initiative alors que des représentants des gouvernements, de la société civile, des experts et de l'industrie se réunissaient pour discuter d'une réglementation mondiale de l'intelligence artificielle. Les discussions ont porté sur la sécurité, l'accès, la responsabilité et les droits humains, alors que les outils d'IA se diffusent dans les écoles, les foyers, les réseaux sociaux et les services en ligne utilisés par les enfants.
La coalition vise à définir des principes communs pour les systèmes d'IA ayant un impact sur la sécurité, la vie privée, l'apprentissage et le développement des enfants. L'Espagne a précisé que cette initiative se déroulerait dans le cadre des Nations Unies. La France, le Kenya et la Commission européenne ont apporté leur soutien à ce lancement, selon des déclarations officielles. Cette initiative intègre la question des droits de l'enfant au débat plus large sur la gouvernance de l'IA, qui s'est souvent concentré sur la sécurité, le marché du travail, la concurrence et les capacités nationales.
La réunion de Genève a mis en lumière la croissance rapide de l'utilisation de l'IA chez les enfants. L'UNICEF a indiqué que, sur plusieurs marchés étudiés, les enfants adoptent les outils d'IA plus rapidement que les adultes. L'organisation a également plaidé pour que la sécurité, l'inclusion, la transparence et la responsabilité des enfants guident les politiques en matière d'IA. Les organisations de défense des droits de l'enfant ont exprimé leurs inquiétudes quant aux contenus préjudiciables, aux deepfakes, à l'utilisation des données, au ciblage publicitaire et aux systèmes d'IA interagissant avec les enfants sans garanties claires.
La sécurité des enfants entre dans la politique en matière d'IA
Le Secrétaire général de l'ONU, António Guterres, a profité de l'ouverture du dialogue pour appeler à la mise en place de garanties spécifiques pour les enfants dans les systèmes d'IA. Il a insisté sur la nécessité de contrôles de sécurité avant que les entreprises ne rendent leurs produits d'IA accessibles aux enfants. Il a également plaidé pour des mesures fermes contre les images d'abus sexuels sur enfants générées par l'IA. Cette réunion des Nations Unies n'avait pas pour objectif l'élaboration d'un traité. Elle a permis aux gouvernements et aux parties prenantes de se réunir afin de discuter des principes, des risques et des outils de contrôle partagés.
Une déclaration distincte de la société civile, coordonnée par la Fondation 5Rights, a exhorté les gouvernements à exiger des tests de sécurité pour les systèmes d'IA utilisés par les enfants. Cette déclaration a reçu le soutien de plus de 100 organisations et experts. Ses recommandations incluent une responsabilisation accrue des entreprises, des limites aux conceptions manipulatrices et la protection des images, des voix, des données biométriques, des dossiers scolaires et des données comportementales des enfants. Ces groupes ont affirmé que les engagements existants en matière de droits de l'enfant devraient s'appliquer à la gouvernance de l'IA.
Les discussions sur la gouvernance s'intensifient à Genève
Le Dialogue mondial sur la gouvernance de l'IA fait suite aux engagements pris dans le cadre du Pacte numérique mondial. Ce pacte appelle à un avenir numérique ouvert, sûr, sécurisé et inclusif. Le dialogue offre à tous les gouvernements une plateforme d'échange sur les règles relatives à l'IA, les lacunes en matière de capacités, les droits humains et le contrôle. La session de Genève a également examiné les travaux d'un groupe d'experts scientifiques indépendants sur l'IA. Ce groupe a analysé les avantages et les risques des systèmes avancés.
La coalition place les enfants au cœur d'un volet de son programme. Son lancement témoigne d'une attention croissante portée à l'impact de l'IA sur l'éducation, la sécurité en ligne, la protection de la vie privée et le développement de l'enfant. Cette question s'inscrit désormais dans un contexte plus large, celui de l'accès à la puissance de calcul, de la fracture numérique et du contrôle humain sur les systèmes automatisés. Les discussions de Genève ont offert aux gouvernements et aux défenseurs des droits de l'enfant un espace d'échange pour exposer leurs préoccupations et définir leurs priorités politiques.
L’article « Le dialogue de Genève sur l’IA place la sécurité des enfants à l’agenda mondial » est paru initialement sur British Pioneer .