Hardware-Hersteller FuriosaAI bringt energieeffiziente Chips für KI-Inferenz auf den Markt

Das südkoreanische Startup FuriosaAI positioniert seinen neuen RNGD-Chip als kostengünstige und stromsparende Alternative zu Nvidia-Hardware für das Ausführen von KI-Modellen. Der Fokus liegt speziell auf der Inferenz-Phase, bei der bereits trainierte Modelle auf Anfragen reagieren, was den Hauptteil der Betriebskosten im laufenden Betrieb ausmacht. Unternehmen wie der Cloud-Provider Gcore planen bereits den Einsatz, um die Effizienz ihrer KI-Dienste zu steigern.

Warum es zählt

Günstigere und effizientere Inferenz-Hardware senkt langfristig die Betriebskosten für eigene KI-Anwendungen und könnte die Preise bei Cloud-KI-Services stabilisieren oder senken.