Schlagwort: Inferenz

FuriosaAI: Massenproduktion des Nvidia-Killers soll jetzt losgehen

Das Chip-Startup FuriosaAI will in den kommenden Tagen seine ersten praktischen Schritte gehen, um Nvidia anzugreifen. Das Unternehmen hat neue KI-Chips entwickelt, die sich mit denen des Marktführers messen lassen sollen. (Weiter lesen)

Alibabas KI-System: Intelligentes Pooling senkt GPU-Bedarf um 82%

Der chinesische Technologiekonzern Alibaba hat ein neues System vorgestellt, das den Einsatz von Nvidia-Grafikprozessoren (GPU) für große Sprachmodelle erheblich reduzieren soll. Die Rede ist von über 80 Prozent. (Weiter lesen)