Actualités IA en continu : Nouvelles propositions de gouvernance en Asie-Pacifique, mise en œuvre industrielle et conformité en matière de sécurité progressent simultanément

Au cours des dernières 24 heures (1er et 2 novembre), de nouveaux développements sont apparus dans la région Asie-Pacifique concernant la gouvernance mondiale de l'intelligence artificielle ; la Chine a enregistré des progrès importants dans les applications industrielles et les politiques de numérisation urbaine ; et les médias et institutions nord-américains se sont concentrés sur les risques et la conformité de l'IA dans les domaines de l'application de la loi et de la santé mentale. Dans l'ensemble, une tendance équilibrée s'est dégagée, caractérisée par « les avancées chinoises en matière d'applications et de politiques, et les considérations internationales de sécurité et d'éthique ».

I. Xi Jinping a proposé la création d'une « Organisation mondiale de coopération en matière d'intelligence artificielle » lors de l'APEC.

1. Le 1er novembre, il a été proposé de considérer l'IA comme un « bien public mondial » et de promouvoir la formulation de règles de gouvernance internationale et de mécanismes de coopération.
2. Nous préconisons d’améliorer la culture en IA parmi les économies membres et de réduire la fracture numérique et intelligente, et suggérons de renforcer la coopération multilatérale.
3. Les déclarations pertinentes ont été publiées lors de la réunion informelle des dirigeants de l'APEC le 1er novembre, devenant ainsi l'un des points centraux de cette réunion.

II. Wens Foodstuff Group et Huawei signent un accord de coopération stratégique : ils développent conjointement un modèle d’élevage à grande échelle basé sur l’IA

1. Le 1er novembre, ils ont annoncé un approfondissement de leur coopération, axé sur des domaines tels que « la construction et l'exploitation du 'Wenshi Cloud', l'infrastructure d'information moderne, l'énergie numérique et l'innovation conjointe des logiciels et du matériel ».
2. L’objectif est de construire une base numérique pour l’agriculture intelligente, couvrant des scénarios tels que la reproduction simulée, et de promouvoir la numérisation de l’agriculture et de l’élevage.
3. Interprétation industrielle : L'IA + l'aquaculture sont entrées dans la phase d'application à grande échelle, renforçant ainsi leur importance de démonstration.

Trois ministères ont publié le « Plan d'action pour promouvoir la transformation numérique dans l'ensemble du domaine », proposant des mesures telles que des « bons modèles ».

1. Le document a été publié le 31 octobre (et a continué à susciter l'intérêt du marché et des médias le 2 novembre), proposant de construire plus de 50 villes entièrement transformées numériquement d'ici fin 2027.
2. Encourager l’exploration d’outils politiques tels que les « bons de données » et les « bons de modèles » pour réduire les coûts d’innovation des entreprises et cultiver de nouveaux modèles commerciaux tels que le « modèle en tant que service ».
3. Promouvoir clairement l'intégration et l'application des éléments de données avec l'économie à basse altitude, la conduite autonome, l'intelligence incarnée, etc., pour créer des scénarios et des écosystèmes.

IV. La province du Guangdong rapporte : 105 modèles à grande échelle ont terminé leur immatriculation, dont près de 40 % proviennent de Shenzhen.

1. Les informations communiquées lors de la conférence de presse du 31 octobre ont montré qu'un total de 105 services d'IA générative dans le Guangdong ont achevé le processus de dépôt.
2. Couvrant des domaines tels que les affaires gouvernementales, l'éducation, l'industrie, les transports et les médias, l'effet d'agglomération de l'innovation régionale est prépondérant.
3. Interprétation par des experts : L’enregistrement local et les clusters industriels interagissent, favorisant à la fois la mise en œuvre des demandes et la gouvernance de la conformité.

V. Annonce des résultats de la 7e édition de la « Coupe Huawei », concours chinois d'innovation en intelligence artificielle pour les étudiants de troisième cycle en Chine.

1. Les résultats seront annoncés à partir du 1er novembre, avec 64 premiers prix, 186 deuxièmes prix et 746 troisièmes prix sélectionnés.
2. Le concours met l'accent sur l'intégration de l'industrie, du monde universitaire et de la recherche, ainsi que sur les compétences en ingénierie. Les thèmes abordés couvrent des domaines tels que la multimodalité, les agents et la mise en œuvre de modèles industriels.
3. La période d'annonce publique s'étend du 1er au 5 novembre. Des certificats seront délivrés et les pratiques exemplaires seront ensuite mises en avant.

VI. Évolutions en marge de l'APEC : La Corée du Sud propose l'« Initiative APEC sur l'IA », mettant l'accent sur les efforts de collaboration pour relever les défis posés par le vieillissement de la population.

1. Le 1er novembre, la Corée du Sud a proposé une initiative régionale en matière d'IA, mettant l'accent sur la transformation des dividendes technologiques en moteurs de croissance.
2. Diffuser simultanément des signaux d'approfondissement de la coopération avec les entreprises leaders du secteur et se concentrer sur la construction d'un écosystème de puissance de calcul et d'applications.
3. Souligner le besoin de coordination de la région Asie-Pacifique en matière de gouvernance de l'IA, d'industrie et de questions sociales.

VII. Les médias américains rapportent : La collaboration des agences fédérales avec Clearview AI suscite une controverse en matière de conformité.

1. Un rapport du 2 novembre indiquait qu'il existe un conflit entre la coopération fédérale avec les entreprises de reconnaissance faciale et les interdictions locales.
2. Les organisations de défense des droits civiques et de la vie privée réclament plus de transparence et de contrôle, en soulignant l’effet juridique et les limites applicables des injonctions locales.
3. Cet incident a une fois de plus relancé les discussions sur l'éthique et la conformité de la technologie de reconnaissance faciale dans les situations d'application de la loi.

8. Analyse des médias britanniques : La sécurité des chatbots ciblant les professionnels de la santé mentale est discutable.

1. Le 2 novembre, un test a été publié indiquant que les incitations impliquant l'automutilation et les idées suicidaires entraînaient encore des « réponses inappropriées » dans certains scénarios.
2. Des experts ont souligné que le modèle est facilement « contourné », suggérant que les entreprises doivent renforcer l’identification et l’orientation des cas vers des mécanismes d’intervention humaine.
3. Cela s'inscrit dans la tendance récente des réglementations sur la « conformité de l'IA pour la santé mentale » introduites dans de nombreux États et localités.

9. TechCrunch : Une équipe de recherche « incarne » le LLM dans un aspirateur robot, révélant les limites de l'interaction et de la sécurité.

1. L'expérience révélée le 1er novembre : divers LLM ont été intégrés au robot pour évaluer son exécution de tâches et ses performances d'interaction homme-machine.
2. Les résultats montrent que le modèle « s’écarte du sujet » et « crée des interactions illusoires » dans les tâches du monde réel, ce qui suggère que les contraintes de sécurité sur l’agent doivent encore être renforcées.
3. Fournir un exemple de mise en œuvre des agents multimodaux : il existe encore un écart entre la démonstration et une utilisation commerciale fiable.

10. Une étude universitaire américaine : un modèle d'IA capable de reconnaître les idées suicidaires à partir de textes publiés sur les réseaux sociaux attire l'attention.

1. Rapport du 2 novembre : Des chercheurs ont développé un modèle d’IA pour identifier les pensées suicidaires dans les textes publiés sur les réseaux sociaux et explorent des applications d’alerte précoce.
2. L’équipe de recherche recommande la mise en place d’un canal de collaboration avec les institutions médicales et les fournisseurs de plateformes afin de garantir une boucle fermée « identification-orientation-intervention ».
3. Considérations éthiques : des questions telles que la confidentialité des données, les faux positifs/faux négatifs et la « médicalisation de scénarios non médicaux » doivent être soigneusement conçues simultanément.

Foire aux questions (Q&R)

Q : Quels sont les principaux messages concernant l'IA issus de ce cycle de réunions de l'APEC ?

A: Le 1er novembre, la proposition de créer une « Organisation mondiale de coopération en matière d'intelligence artificielle » a été présentée, soulignant le caractère de bien public de l'IA et la coopération transfrontalière en matière de gouvernance ; en réponse, des initiatives telles que « l'Initiative APEC sur l'IA » ont également vu le jour dans la région, la gouvernance et l'industrie progressant de concert.

Q : Quels sont les avantages les plus directs pour les industries chinoises de la mise en œuvre de cette politique ?

A: La coopération en matière d'agriculture basée sur l'IA, annoncée le 1er novembre par Wens Foodstuff et Huawei, ainsi que l'enregistrement de 105 modèles dans le Guangdong, illustrent la combinaison d'une « mise en œuvre de modèles et d'un écosystème conforme ». Conjuguée au « Plan d'action pour la transformation numérique globale » publié le 31 octobre, cette initiative devrait permettre la création de davantage de villes pilotes et le développement d'outils de soutien tels que les « bons de modèle » d'ici 2027.

Q : Quels changements récents sont intervenus dans l'attention portée à l'étranger à la sécurité et à l'éthique de l'IA ?

A: Le 2 novembre, plusieurs rapports se sont concentrés sur deux scénarios à haut risque : la reconnaissance faciale dans l'application de la loi (conflit entre les règles fédérales et locales) et le dialogue sur la santé mentale (identification et triage des risques d'automutilation), reflétant le changement d'orientation réglementaire de « la disponibilité de la technologie à la contrôlabilité et à la responsabilité ».

Q : Pourquoi parle-t-on si souvent d'agents et d'intelligence incarnée ?

A : L'expérience concrète publiée le 1er novembre a montré que le modèle exposerait des problèmes d'hallucination, de déviation de la cible et de limites de sécurité dans le monde réel ; cela nécessite une amélioration simultanée des données, de l'alignement, des contraintes des actionneurs et du mécanisme « humain dans la boucle », et à court terme, une « vérification semi-automatique + manuelle » reste plus prudente.