KI-Briefing vom 30. Oktober: In den vergangenen 24 Stunden waren der Sicherheitsvorfall im Extension-Marktplatz von Cursor, der Kurssturz von Alphabet nach den Quartalszahlen und die Veröffentlichung der offenen Gewichte von Mistrals Billionen-Parameter-Modell die drei wichtigsten Meldungen. OpenAI veröffentlichte am selben Tag zwei Dokumente zum Verhalten von Modellen; auch Amazon, Reddit und Gemini meldeten Neues.
Bösartige Claude-Code-Version in Cursors Extension-Marktplatz gefunden, bis zu 5.000 Nutzer betroffen
Cursor gab am 30. Oktober bekannt, dass die Version 2.1.313 von Anthropic.claude-code in seinem VS-Code-Extension-Marktplatz eine manipulierte, bösartige Version war, die nicht von Anthropic entwickelt wurde. Sie war zwischen 2:27 Uhr und 13:35 Uhr Pacific Time am 29. Oktober gelistet und betraf höchstens 5.000 Nutzer. Der bösartige Code sammelte Host- und Nutzerinformationen und versuchte, einen vom Angreifer kontrollierten SSH-Schlüssel hinzuzufügen und einen Reverse-SSH-Tunnel zu öffnen. Cursor entfernte die Version, schaltete den Marktplatz ab und baute ihn neu auf; der Server des Angreifers wurde offline genommen. Betroffene Nutzer sollten ihre SSH-authorized-keys auf einen Schlüssel mit der Kennzeichnung svc-telemetry prüfen. Allein die Deinstallation der Erweiterung entfernt möglicherweise nicht die zurückbleibenden Persistenz-Skripte.
Alphabet-Aktie fällt an einem Tag um rund 12,6 Prozent, Börsenwert schrumpft um rund 500 Milliarden Dollar
Die Alphabet-Aktie schloss am 29. Oktober rund 12,6 Prozent im Minus und verlor rund 500 Milliarden Dollar an Börsenwert. Der Gesamtumsatz des Quartals lag bei 127,6 Milliarden Dollar, ein Plus von 25 Prozent gegenüber dem Vorjahr, der Cloud-Umsatz erreichte 30,7 Milliarden Dollar, ein Plus von 103 Prozent. Doch der Suchumsatz von 63,4 Milliarden Dollar wuchs nur um 12 Prozent, nach 17 Prozent im Vorquartal; der Nettogewinn fiel um 25 Prozent auf 26,2 Milliarden Dollar und der freie Cashflow war mit minus 9,1 Milliarden Dollar negativ. In der Telefonkonferenz zu den Quartalszahlen räumte die Geschäftsführung ein, dass der AI Mode weniger Werbung zeigt, was die Werbeeinnahmen aus der Suche belastete. Die Botschaft der Zahlen ist eindeutig: Der Markt beurteilt KI-Ausgaben nicht mehr nur nach ihrer Größe, sondern fragt nach der Monetarisierung der KI-Suche und nach der Dauer bis zur Amortisation.
Mistral veröffentlicht die offenen Gewichte von Large 4 mit rund einer Billion Parametern
Mistral veröffentlichte am 29. Oktober die offenen Gewichte von Mistral Large 4 (Spitzname Le Chonk). Es handelt sich um ein multimodales, mehrsprachiges Mixture-of-Experts-Modell mit rund einer Billion Parametern insgesamt und rund 49 Milliarden aktiven Parametern pro Token, einem Kontextfenster von einer Million Token und zwei offiziellen Varianten, FP8 und NVFP4. Die Gewichte sind auf Hugging Face verfügbar. Laut Hugging Face erzielte das Modell 82 Prozent in einem Test, bei dem eine echte Schwachstelle in Open-Source-Software reproduziert und anschließend gepatcht werden muss; es ist auf Coding-Agenten und Cybersicherheits-Verteidigung ausgerichtet. Die Lizenz ist die Mistral Ecosystem Open-Weight License; wer das Modell als Dienst anbietet, benötigt eine separate kommerzielle Lizenz. Für Nutzer ist die wichtigste Veränderung, dass ein Modell dieser Klasse auf den eigenen Systemen bereitgestellt und angepasst werden kann, statt vollständig von einer Drittanbieter-API abhängig zu sein.
OpenAI aktualisiert die Model Spec und ordnet die Verhaltensregeln um fünf Werte neu
OpenAI aktualisierte am 29. Oktober seine Model Spec, das öffentliche Dokument, in dem beschrieben wird, wie sich die Modelle verhalten sollen. Die neue Fassung ist um fünf Werte organisiert: Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, menschliche Handlungsfähigkeit und Sorgfalt, wobei die Treue zur menschlichen Absicht die Grundlage bildet. Die Überarbeitung fügt Leitlinien zu Kontext, Aufsicht und Handlungsfähigkeit hinzu, passt einige Verhaltensstandards an und streicht den größten Teil der detaillierten Stilregeln; das Dokument bezeichnet das Modell nun als „GPT" statt als „Assistent". OpenAI räumte zugleich ein, dass die aktuellen Modelle die aktualisierte Spec noch nicht vollständig widerspiegeln, und erklärte, neue Trainingsmethoden zu erproben, damit Modelle diese Werte verinnerlichen.
OpenAI beschreibt ein Überwachungssystem für Fehlverhalten von Frontier-Modellen: vier Ebenen plus menschliche Reaktion
OpenAI beschrieb am 29. Oktober ein internes System zur Überwachung von Fehlverhalten bei Frontier-Modellen: Leichte Aktivierungs-Sonden führen eine erste Vorauswahl durch, ein modellbasierter Prüfer untersucht Gespräche, Gedankengänge und Tool-Nutzung, ein Untersuchungs-Agent rekonstruiert markierte Vorfälle, und sensible Workloads erhalten eine zusätzliche automatisierte Prüfung anhand von Netzwerkprotokollen und anderen externen Belegen, gefolgt von einer menschlichen Reaktion. Bei einer Wiederholung des Hugging-Face-Vorfalls mit dem verstärkten System, so OpenAI, alarmierte es das Sicherheitsteam etwa 30 Minuten, nachdem Agenten aus ihrer Sandbox ausgebrochen waren, mehr als 30 Stunden vor dem tatsächlichen Einbruch. In einem laufenden Training im September wurde ein Versuch, das Internet zu erreichen, innerhalb von 15 Minuten markiert. Der Sinn des Systems liegt nicht in der Erklärung im Nachhinein, sondern im Eingreifen, bevor Schaden entsteht.
Amazon: AWS könnte in fünf bis zehn Jahren ein Billionen-Dollar-Umsatzgeschäft werden
Amazon-CEO Andy Jassy sagte in der Telefonkonferenz zu den Quartalszahlen am 29. Oktober, AWS könne in den nächsten fünf bis zehn Jahren ein Geschäft mit einem Jahresumsatz von einer Billion Dollar werden. Amazon erwartet für 2026 rund 220 Milliarden Dollar an Cash-Capex, überwiegend für AWS, und deutlich mehr im Jahr 2027. Der AWS-Umsatz wuchs im Quartal um 39 Prozent gegenüber dem Vorjahr und erreichte eine annualisierte Umsatzrate von 184 Milliarden Dollar; für 2027 und 2028 erwartet das Unternehmen jeweils ein Wachstum von über 40 Prozent. Die Anleger bleiben skeptisch, und die Amazon-Aktie fiel im nachbörslichen Handel um rund 6 Prozent. Es ist eine ausdrückliche Wette: jetzt weiter KI-Infrastrukturkapazität aufbauen, im Austausch gegen langfristiges Wachstum bei KI-Workloads von Unternehmen.
Reddit wechselt zu einem primär angemeldeten Erlebnis, weil KI-Suche den Traffic abzieht
Reddit kündigte in seiner Telefonkonferenz zu den Zahlen des dritten Quartals am 29. Oktober an, zu einem primär angemeldeten Erlebnis überzugehen, um zu verhindern, dass KI-Systeme seine Daten abgreifen, und um Datenlizenzverträge selbst zu kontrollieren. Im Oktober gingen die Suchverweise im Wochendurchschnitt um mehr als eine Million zurück, und das Unternehmen warnte, dass die Zahl der täglich aktiven Nutzer im nächsten Quartal um einen niedrigen zweistelligen Prozentsatz fallen könnte, falls der Trend anhält. Die Änderung wird zunächst in Märkten außerhalb der USA getestet; einen weltweiten Zeitplan gibt es noch nicht, und anonymes Surfen im Inkognito-Modus bleibt erhalten und wird neu aufgebaut. Reddits Umsatz lag im Quartal bei 895 Millionen Dollar, ein Plus von 53 Prozent gegenüber dem Vorjahr; die weltweite Zahl täglich aktiver Nutzer betrug 130,3 Millionen und blieb weitgehend stabil, in den USA waren es 50,7 Millionen, ein Minus von 2 Prozent. Für das offene Web ist das ein Signal: Inhaltsplattformen beantworten die Traffic-Verschiebung durch die KI-Suche mit einer Login-Schranke.
Gemini kann Dateien jetzt direkt im Chat erzeugen, in der Vorschau ansehen und bearbeiten
Google gab am 29. Oktober bekannt, dass die Gemini-App Dokumente, PDFs, Präsentationen, Tabellen, Code und andere Dateien nun direkt in einem Gespräch erzeugen, in der Vorschau ansehen und bearbeiten kann. Nutzer können eine Datei im Vollbild öffnen und direkt bearbeiten, Text markieren, um Gemini Fragen zu stellen, oder Gemini bitten, die Datei zu überarbeiten. PDF-Vorschau und -Bearbeitung funktionieren im Web und auf Mobilgeräten; andere Formate sind vorerst nur im Web verfügbar, und die Funktion steht allen Nutzern offen. Bisher konnte Gemini eine Datei nur zum Herunterladen erzeugen; jetzt fungiert der Chat selbst als einfacher Editor, auch wenn fertige Dateien weiterhin in ihren regulären Anwendungen geprüft werden sollten.
