#OpenAIInferenceCostTest

About OpenAIInferenceCostTest

OpenAI deelde vroege tests van Jalapeño, zijn eerste interne inference-chip. Ze zeggen dat het 1,5x-1,9x meer doorvoer per watt levert op open modellen en de end-to-end latentie met 1,7x-3,6x vermindert. Implementatie is gepland tegen het einde van het jaar, met twee opvolgers in ontwikkeling. Ze zeggen ook dat GPT-5.6 Sol 54% minder outputtokens gebruikte dan een toonaangevende concurrent bij codeertaken. Na $6,7 miljard aan omzet in Q2 en een operationeel verlies van $12,3 miljard, kunnen deze door het bedrijf geteste verbeteringen de inference-kosten verlagen, verliezen verkleinen en de IPO-waardering ondersteunen