Des craintes mondiales d’une « menace existentielle pour l’humanité » à cause de l’intelligence artificielle.

Selon les dernières informations, sahara Media + Agences Avertissement du Haut-Commissaire des droits de l’homme aux Nations Unies, Volker Turk, lundi, que l’intelligence artificielle pourrait constituer « une menace existentielle pour l’humanité », appelant à prendre des mesures immédiates pour en réduire les risques. Turk a déclaré que les humains sont actuellement confrontés à des menaces « inhabituelles, voire sans précédent » pour leurs droits. Il a ajouté, lors du discours d’ouverture de la 63e session du Conseil des droits de l’homme à Genève: « Je partage les inquiétudes des experts du secteur quant au fait que l’intelligence artificielle avancée pourrait représenter une menace existentielle pour l’humanité ».

Il a appelé à « un effort global pour instaurer des garanties strictes concernant la sécurité et la sûreté de l’intelligence artificielle, avant qu’il ne soit trop tard ». Il s’est interrogé: « Il y a une reconnaissance large du besoin de gouvernance de l’intelligence artificielle, mais où sont les mesures concrètes? » en avertissant que « tout retard ne profite qu’aux géants de la technologie, à leurs propriétaires et aux parties qui les soutiennent ».

Turk a critiqué le fait que « une poignée d’hommes détient une influence quasi absolue sur l’intelligence artificielle, que l’on nous répète sans cesse qu’elle possède des capacités de calcul inimaginables ». Il a appelé à renforcer la surveillance et a indiqué que « une IA qui parvient à échapper à l’environnement de test ou à faire chanter ses développeurs pour empêcher son arrêt constitue une intelligence artificielle qui a dépassé les limites acceptables de puissance ». Il semblait faire référence à ce qui a été révélé en juillet concernant le succès d’outils d’IA de la société OpenAI à s’échapper d’environnements supposés sous contrôle, et à l’intrusion dans les serveurs de la plateforme largement utilisée « Hugging Face », employée par les programmeurs pour partager des logiciels d’IA.

Cet incident a choqué le secteur technologique et a relancé les appels à imposer des règles plus strictes et à renforcer la surveillance des technologies d’IA. Des entreprises telles qu’Anthropic et Meta ont signalé des incidents similaires lors de tests d’agents d’intelligence artificielle. – Des inquiétudes plus larges – Turk a déclaré qu’il s’adressera aux entreprises d’IA dans les prochains jours « pour les inciter à prendre les mesures qui relèvent de leur contrôle afin de réduire les risques dès maintenant ».

Il a ajouté: « Au moins, nous devons faire en sorte que les pays hébergeant les entreprises d’IA et ceux impliqués dans les chaînes d’approvisionnement de cette technologie s’accordent sur des limites claires et convenues ». Il a affirmé: « Nous avons besoin de mécanismes d’audit indépendants et d’une coopération bien plus forte au sein du secteur en matière de sécurité ». Dans un avertissement parallèle, le président français Emmanuel Macron a appelé lundi à « reprendre le contrôle » des technologies d’IA, estimant que les laisser remplacer les auteurs d’œuvres serait « une grave erreur ».

Lors d’un sommet international sur l’avenir du cinéma, il a annoncé la création d’une organisation regroupant les salles de projection indépendantes, afin de protéger la diversité du secteur. Le président français a souligné la nécessité de protéger la créativité humaine et de parvenir à une approche commune pour faire face aux transformations technologiques et économiques qui menacent le secteur. Turk a également insisté sur la nécessité d’examiner les impacts de l’IA sur les droits humains, y compris les pratiques d’emploi, les principes fondamentaux de la démocratie et l’environnement.

Les préoccupations dépassent les droits de propriété intellectuelle pour inclure les répercussions environnementales de l’IA. Les centres de données du monde entier auraient consommé 222 milliards de litres d’eau pour le refroidissement en 2025, selon Reuters Energy, et pourraient atteindre près de trois fois ce volume d’ici 2030. Les entreprises technologiques affirment développer des systèmes fermés qui réduisent l’usage d’eau, mais les experts avertissent que cela pourrait augmenter la consommation d’électricité.