Microsoft Open Source die neue Version Phi-4: Die Inferenz-Effizienz steigt um das Zehnfache, kann auf Laptops betrieben werden.

Jin10 Daten, 10. Juli: Heute früh hat Microsoft auf der offiziellen Website die neueste Version der Phi-4-Familie, Phi-4-mini-flash-reasoning, als Open Source veröffentlicht. Die mini-flash-Version behält die Merkmale der Phi-4-Familie bei, die kleine Parameter und starke Leistung aufweist. Sie ist speziell für Szenarien konzipiert, die durch Rechenleistung, Speicher und Latenzzeit eingeschränkt sind, und kann auf einem einzelnen GPU betrieben werden, was sie für tragbare Geräte wie Laptops und Tablets geeignet macht. Im Vergleich zur vorherigen Version verwendet mini-flash die von Microsoft entwickelte innovative Architektur SambaY, wodurch die Effizienz der Inferenz um das Zehnfache gestiegen ist und die Latenzzeit im Durchschnitt um das 2-3-fache gesenkt wurde, was zu einer erheblichen Verbesserung der Gesamtinferenzleistung führt.