Die Rolle von Aufmerksamkeitsköpfen und Restkanälen in dünnbesetzten Schaltkreisen

Von der Black Box zum Schaltplan: OpenAI verbessert die Interpretierbarkeit neuronaler Netze mit Weight Sparse Transformern

Am 13. November 2025 veröffentlichte OpenAI eine Studie und ein Papier mit dem Titel "Understanding neural networks through sparse circuits", in dem v...