DeepSeek stellt TileKernels Open Source: GPU-Kernel-Bibliothek für das Training und die Inferenz großer Modelle

Gate News-Meldung, 23. April — DeepSeek hat TileKernels unter der MIT-Lizenz Open Source gestellt: eine GPU-Kernel-Bibliothek, die in TileLang geschrieben ist und für das Training und die Inferenz großer Sprachmodelle entwickelt wurde. TileLang ist eine domänenspezifische Sprache, die vom tile-ai-Team entwickelt wurde, um leistungsstarke GPU-Kernels auszudrücken in Python. DeepSeek erklärte, dass die meisten Kernels in der Bibliothek die Hardware-Leistungsgrenzen in Bezug auf Rechendichte und Speicherbandbreite erreicht haben, wobei Teile bereits in internen Trainings- und Inferenzoperationen eingesetzt werden.

Die Bibliothek umfasst sechs Kategorien von Kernels: MoE (Mixture of Experts)-Gating und Routing, einschließlich Top-k-Expertenauswahl, Token-zu-Experten-Mapping sowie gefusedes Expand/Shrink mit Weight-Normalisierung; Quantisierung, die FP8-, FP4- und E5M6-Formate unterstützt, mit Quantisierung pro Token, pro Block und pro Kanal, einschließlich gefuserter SwiGLU+Quantisierungsoperationen; Batch-Transpose; Engram-Gating mit gefusedem RMSNorm-Vorwärts-/Rückwärts-Propagation und Reduktion des Weight-Gradienten; Manifold HyperConnection mit Sinkhorn-Normalisierung und gemischtem Split/Apply; sowie High-Level-Autograd-Schnittstellen, die Low-Level-Kernels in trainierbare Layer einhüllen.

Engram und Manifold HyperConnection sind proprietäre Komponenten der Modellarchitektur von DeepSeek; Implementierungsdetails wurden erstmals öffentlich offengelegt. Die Bibliothek benötigt NVIDIA-SM90- oder SM100-Architektur-GPUs (H100/H200 oder Blackwell-Serie), CUDA Toolkit 13.1 oder höher sowie PyTorch 2.10 oder höher.

Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.

Verwandte Artikel

Figue’s erreicht die Marke von 1 Milliarde US-Dollar pro Monat und treibt den Vorstoß im Blockchain-Kreditmarkt voran

Figure hat eine monatliche Marke von 1 Milliarde US-Dollar erreicht und damit eine jahrelange Anstrengung gekrönt, Zwischenhändler aus den Kreditmärkten zu entfernen und reale Vermögenswerte (Real-World Assets), Kredite und Aktien auf Blockchain-Netzwerke zu verlagern. Die Strategie des Unternehmens konzentriert sich darauf, traditionelle Finanzinfrastruktur onchain zu bringen, mit einem

CryptoFrontier31M her

Pi Network erreicht 421.000 aktive Nodes vor dem Start von Protocol 23 Smart Contracts

Laut Pi Core Team erreichte das Mainnet von Pi Network am 3. Mai 421.000 aktive Knoten, und es wurden mehr als 10 Milliarden PI-Token in das Mainnet migriert. Das Netzwerk bereitet sich auf den Start von Protokoll 23 vor, das zum ersten Mal die vollständige Smart-Contract-Funktionalität aktivieren wird und es Entwicklern ermöglicht, DeFi zu bauen

GateNews6Std her

Figure Cagney: Blockchain als neuer Vertriebskanal für die Wall Street aufbauen, tokenisierte Aktien mit FGRD auf die Kette bringen

Mike Cagney von Figure Technology Solutions bringt die Blockchain als neuen Kanal für Wall Street voran. In letzter Zeit hat das Unternehmen im Monatsverlauf Kredite im Wert von einer Milliarde US-Dollar vermittelt und damit einen entscheidenden Meilenstein für die Entmachtung von Zwischenhändlern erreicht. Die On-Chain-Produkte von Figure umfassen die Tokenisierung von Real-World-Assets, Kreditvermittlungen und die Ausgabe von Aktien. Anfang Mai ging Figure sogar direkt mit den eigenen Aktien FGRD an die Kette. Bernstein sieht FIGR als Top-Auswahl für 2026 an und geht davon aus, dass sich der Markt für Tokenisierung schneller als erwartet ausweiten wird; anschließend will man die Liquidität von FGRD sowie regulatorische Entwicklungen im Blick behalten.

ChainNewsAbmedia6Std her

Curve Finance startet einen Mechanismus zur Beitreibung uneinbringlicher Schulden, der es Nutzern ermöglicht, Positionen zu beenden oder zu reparieren

Laut Curve Finance hat das Protokoll kürzlich einen marktbasierten Mechanismus zur Eintreibung uneinbringlicher Forderungen eingeführt, der betroffenen CRV-Inhabern die Wahl aus mehreren Strategien ermöglicht: Schuldverschreibungen verkaufen, um sofort auszusteigen, halten und auf eine mögliche Rückzahlung warten oder Liquidität bereitstellen, um Gebühren und Anreize zu verdienen.

GateNews7Std her

March Loan Originations von Figure übersteigen 1 Milliarde US-Dollar; CEO peilt Überarbeitung der Wall-Street-Infrastruktur auf Blockchain-Basis an

Laut BlockBeats sagte der CEO von Figure Technology Solutions, Mike Cagney, am 3. Mai, dass das Unternehmen Blockchain nutzt, um die traditionelle Kreditmarkt-Infrastruktur neu zu strukturieren. Die Darlehensvergabe des Unternehmens im März überstieg erstmals 1 Milliarde US-Dollar, mit einer gesamten Kreditvergabe im ersten Quartal

GateNews7Std her

KI-Agent Manfred gründet ein Unternehmen und richtet ein Krypto-Wallet ein, um bis Ende Mai zu handeln

Der KI-Agent Manfred hat ein eigenes Unternehmen gegründet und eine Krypto-Wallet sowie Geschäftszertifikate erhalten, einschließlich der Fähigkeit, Mitarbeitende einzustellen und Zahlungen vorzunehmen. Der Agent soll bis zum Ende von mit dem Kryptowährungshandel beginnen.

GateNews8Std her
Kommentieren
0/400
Keine Kommentare