24-Stunden-KI-News: Neue Governance-Vorschläge für den asiatisch-pazifischen Raum, industrielle Umsetzung und Einhaltung der Sicherheitsbestimmungen schreiten gleichzeitig voran

In den vergangenen 24 Stunden (1.–2. November) gab es im asiatisch-pazifischen Raum neue Entwicklungen im Bereich der globalen Steuerung künstlicher Intelligenz. China verzeichnete weitreichende Fortschritte bei industriellen Anwendungen und der Digitalisierung urbaner Gebiete. Nordamerikanische Medien und Institutionen konzentrierten sich hingegen auf die Risiken und die Einhaltung von Vorschriften im Zusammenhang mit KI in der Strafverfolgung und im Bereich der psychischen Gesundheit. Insgesamt zeichnete sich ein ausgewogenes Bild ab, das durch „Fortschritte bei Anwendungen und politischen Maßnahmen in China sowie sicherheits- und ethische Überlegungen im Ausland“ gekennzeichnet war.

I. Xi Jinping schlug die Gründung einer „Weltorganisation für die Zusammenarbeit im Bereich der künstlichen Intelligenz“ im Rahmen von APEC vor.

1. Am 1. November wurde vorgeschlagen, KI als ein „globales öffentliches Gut“ zu betrachten und die Formulierung internationaler Governance-Regeln und Kooperationsmechanismen zu fördern.
2. Wir setzen uns für eine Verbesserung der KI-Kompetenz in den Mitgliedsländern und eine Verringerung der digitalen und intellektuellen Kluft ein und empfehlen eine Stärkung der multilateralen Zusammenarbeit.
3. Die entsprechenden Erklärungen wurden während des informellen Treffens der APEC-Staats- und Regierungschefs am 1. November veröffentlicht und wurden zu einem der Schwerpunkte dieses Treffens.

II. Wens Foodstuff Group und Huawei unterzeichnen strategisches Kooperationsabkommen: Gemeinsamer Aufbau eines KI-gestützten Modells für die großflächige Tierhaltung

1. Am 1. November kündigten sie eine Vertiefung der Zusammenarbeit an, die sich auf Bereiche wie den Aufbau und Betrieb der „Wenshi Cloud“, moderne Informationsinfrastruktur, digitale Energie und gemeinsame Innovationen im Bereich Software und Hardware konzentriert.
2. Ziel ist es, eine digitale Grundlage für die intelligente Landwirtschaft zu schaffen, die Szenarien wie die simulierte Zucht umfasst, und die Digitalisierung der Landwirtschaft und Tierhaltung voranzutreiben.
3. Brancheninterpretation: KI + Aquakultur hat das Stadium der großflächigen Anwendung erreicht, was ihre Demonstrationsbedeutung erhöht.

Drei, fünf Ministerien haben den „Aktionsplan zur Förderung der digitalen Transformation im gesamten Bereich“ herausgegeben und darin Maßnahmen wie „Modellgutscheine“ vorgeschlagen.

1. Das Dokument wurde am 31. Oktober veröffentlicht (und erhielt auch am 2. November noch Aufmerksamkeit von Markt und Medien) und schlägt vor, bis Ende 2027 mehr als 50 Städte vollständig digital zu transformieren.
2. Die Erforschung von politischen Instrumenten wie „Datengutscheinen“ und „Modellgutscheinen“ zur Senkung der Innovationskosten von Unternehmen und zur Entwicklung neuer Geschäftsmodelle wie „Modell als Dienstleistung“ sollte gefördert werden.
3. Die Integration und Anwendung von Datenelementen mit Niedrigflugökonomie, autonomem Fahren, verkörperter Intelligenz usw. soll gezielt gefördert werden, um Szenarien und Ökosysteme zu schaffen.

IV. Meldung aus der Provinz Guangdong: 105 Großmodelle wurden registriert, wobei fast 40 % aus Shenzhen stammen.

1. Aus den auf der Pressekonferenz am 31. Oktober veröffentlichten Informationen geht hervor, dass insgesamt 105 generative KI-Dienstleistungen in Guangdong den Anmeldeprozess abgeschlossen haben.
2. Der regionale Innovationsagglomerationseffekt ist in Bereichen wie Regierungsangelegenheiten, Bildung, Industrie, Transport und Medien deutlich erkennbar.
3. Experteninterpretation: Lokale Registrierung und Industriecluster interagieren und fördern so sowohl die Anwendungsimplementierung als auch die Einhaltung der Vorschriften.

V. Bekanntgabe der Ergebnisse des 7. „Huawei Cup“ – Chinesischer Innovationswettbewerb für Künstliche Intelligenz für Postgraduierte

1. Die Ergebnisse werden ab dem 1. November bekannt gegeben. Es werden 64 erste Preise, 186 zweite Preise und 746 dritte Preise vergeben.
2. Der Wettbewerb legt Wert auf die Integration von Industrie, Wissenschaft und Forschung sowie auf Ingenieurkompetenzen. Die Wettbewerbsthemen umfassen Bereiche wie multimodale Systeme, Agentensysteme und die Implementierung von Industriemodellen.
3. Die öffentliche Bekanntmachungsfrist läuft vom 1. November bis zum 5. November. Anschließend werden Zertifikate ausgestellt und vorbildliche Praktiken hervorgehoben.

VI. Entwicklungen am Rande des APEC-Gipfels: Südkorea schlägt die „APEC-KI-Initiative“ vor, die die Zusammenarbeit bei der Bewältigung der Herausforderungen einer alternden Bevölkerung in den Vordergrund stellt.

1. Am 1. November schlug Südkorea eine regionale KI-Initiative vor, die die Umwandlung technologischer Vorteile in Wachstumstreiber in den Vordergrund stellt.
2. Gleichzeitig Signale für eine vertiefte Zusammenarbeit mit führenden Unternehmen der Branche aussenden und sich auf den Aufbau eines Rechenleistungs- und Anwendungsökosystems konzentrieren.
3. Hervorhebung des Koordinierungsbedarfs der Asien-Pazifik-Region in Bezug auf KI-Governance, Industrie und soziale Fragen.

VII. US-Medien berichten: Zusammenarbeit von Bundesbehörden mit Clearview AI löst Kontroverse über die Einhaltung der Vorschriften aus.

1. In einem Bericht vom 2. November wurde festgestellt, dass ein Konflikt zwischen der Zusammenarbeit des Bundes mit Unternehmen für Gesichtserkennung und lokalen Verboten besteht.
2. Bürgerrechts- und Datenschutzorganisationen fordern mehr Transparenz und Kontrolle und betonen die rechtliche Wirkung und die anwendbaren Grenzen lokaler Verfügungen.
3. Der Vorfall hat erneut Diskussionen über die Ethik und die Einhaltung der Vorschriften bei der Gesichtserkennungstechnologie in polizeilichen Einsatzszenarien ausgelöst.

8. Britische Medienrezension: Die Sicherheit von Chatbots, die sich an Fachkräfte im Bereich der psychischen Gesundheit richten, ist fraglich.

1. Am 2. November wurde ein Test veröffentlicht, der ergab, dass Fragen zu Selbstverletzungen und Suizidgedanken in einigen Szenarien immer noch zu „unangemessenen Reaktionen“ führten.
2. Experten wiesen darauf hin, dass das Modell leicht "umgangen" werden könne, und schlugen vor, dass Unternehmen die Identifizierung und Weiterleitung von Fällen an menschliche Interventionsmechanismen verstärken müssten.
3. Dies steht im Einklang mit dem jüngsten Trend, dass in mehreren Bundesstaaten und Kommunen Vorschriften zur „KI-Konformität im Bereich der psychischen Gesundheit“ eingeführt werden.

9. TechCrunch: Ein Forschungsteam "verkörpert" LLM in einem Staubsaugerroboter und zeigt damit die Grenzen der Interaktion und Sicherheit auf.

1. Das am 1. November veröffentlichte Experiment: Verschiedene LLMs wurden in den Roboter integriert, um seine Aufgabenausführung und die Leistung der Mensch-Computer-Interaktion zu bewerten.
2. Die Ergebnisse zeigen, dass das Modell in realen Aufgaben "vom Thema abweicht" und "illusorische Interaktionen" erzeugt, was darauf hindeutet, dass die Sicherheitsbeschränkungen für den Agenten noch verstärkt werden müssen.
3. Ein reflektierendes Beispiel für die Implementierung multimodaler Agenten bereitstellen: Zwischen Demonstration und zuverlässigem kommerziellem Einsatz besteht noch ein weiter Weg.

10. US-Universitätsforschung: KI-Modell zur Erkennung von Suizidgedanken in Social-Media-Texten erregt Aufmerksamkeit

1. Bericht vom 2. November: Wissenschaftler haben ein KI-Modell entwickelt, um Suizidgedanken in Texten sozialer Medien zu erkennen, und erforschen Anwendungen zur Frühwarnung.
2. Das Forschungsteam empfiehlt die Einrichtung eines Kooperationskanals mit medizinischen Einrichtungen und Plattformanbietern, um einen geschlossenen Kreislauf aus „Identifizierung-Überweisung-Intervention“ zu gewährleisten.
3. Ethische Überlegungen: Themen wie Datenschutz, falsch positive/falsch negative Ergebnisse und die „Medikalisierung nicht-medizinischer Szenarien“ müssen sorgfältig gleichzeitig konzipiert werden.

Häufig gestellte Fragen (FAQ)

F: Was sind die wichtigsten Botschaften zum Thema KI aus dieser APEC-Runde?

A: Am 1. November wurde der Vorschlag zur Gründung der „Weltorganisation für die Zusammenarbeit im Bereich der künstlichen Intelligenz“ unterbreitet, wobei der Gemeinwohlcharakter der KI und die grenzüberschreitende Zusammenarbeit im Bereich der Regierungsführung betont wurden; als Reaktion darauf sind in der Region auch Initiativen wie die „APEC-KI-Initiative“ entstanden, bei denen sich Regierungsführung und Industrie parallel weiterentwickeln.

F: Was sind die direktesten Vorteile für die chinesische Industrie bei der Umsetzung dieser Politik?

A: Die von Wens Foodstuff und Huawei am 1. November angekündigte Kooperation im Bereich KI-gestützte Landwirtschaft, verbunden mit der Registrierung von 105 Modellen in Guangdong, demonstriert die Kombination aus „Modellimplementierung und einem konformen Ökosystem“. In Verbindung mit dem am 31. Oktober veröffentlichten „Aktionsplan zur umfassenden digitalen Transformation“ wird erwartet, dass bis 2027 weitere Pilotstädte und Instrumente zur Förderung von Modellgutscheinen entstehen werden.

F: Welche neuen Veränderungen haben sich im Fokus der internationalen Aufmerksamkeit für KI-Sicherheit und -Ethik ergeben?

A: Am 2. November konzentrierten sich mehrere Berichte auf zwei Hochrisikoszenarien: Gesichtserkennung bei der Strafverfolgung (Konflikt zwischen Bundes- und Landesvorschriften) und Dialog über psychische Gesundheit (Identifizierung und Triage des Selbstverletzungsrisikos), was die Verlagerung des regulatorischen Fokus von der „Verfügbarkeit von Technologie hin zu Kontrollierbarkeit und Verantwortlichkeit“ widerspiegelt.

F: Warum werden Agenten und verkörperte Intelligenz so häufig diskutiert?

A: Das am 1. November veröffentlichte Experiment zeigte, dass das Modell in der realen Welt Halluzinationen, Zielabweichungen und Probleme mit Sicherheitsgrenzen aufdecken würde; dies erfordert eine gleichzeitige Verbesserung der Daten, der Ausrichtung, der Aktuatorbeschränkungen und des "Human-in-the-Loop"-Mechanismus, und kurzfristig ist eine "halbautomatische + manuelle Überprüfung" immer noch die vernünftigere Vorgehensweise.