OpenAI kündigt Ultrafast-Modus für ChatGPT an: Bis zu 14-mal schnellere Antworten versprochen

OpenAI hat mit Ultrafast eine neue Dienstleistungsebene angekündigt, die darauf abzielt, die Antwortzeiten bei der Nutzung von ChatGPT zu verkürzen. Der Modus, den das Unternehmen für GPT-5.6 Sol entwickelt hat, soll insbesondere bei komplexen Aufgaben eine schnellere Ausgabe ermöglichen.

Der Ankündigung zufolge kann der Ultrafast-Modus im Vergleich zu Standardprozessen eine Geschwindigkeitssteigerung um das bis zu 14-fache erreichen. Mit dieser Leistung soll das Modell in der Lage sein, bis zu 750 Output-Token pro Sekunde zu generieren. Token bezeichnen dabei die grundlegenden Textbausteine, die KI-Modelle bei der Textgenerierung verwenden.

IN DER VORSCHAU-PHASE

OpenAI betont, dass die hohe Geschwindigkeit nicht nur kürzere Wartezeiten bedeutet, sondern auch eine effizientere Nutzung in Arbeitsabläufen ermöglicht, die eine Interaktion in Echtzeit erfordern. Das Unternehmen weist darauf hin, dass für ähnliche Geschwindigkeitsziele bisher meist kleinere oder auf engere Bereiche spezialisierte Modelle bevorzugt wurden, während man sich mit Ultrafast nun darauf konzentriere, auch bei leistungsstärkeren Modellen eine schnelle Antwortgenerierung zu erreichen.

Die Infrastruktur des Ultrafast-Modus basiert auf einer Zusammenarbeit mit dem Chiphersteller Cerebras. Der neue Modus befindet sich derzeit in der Vorschau-Phase und ist nur für eine begrenzte Kundengruppe zugänglich. OpenAI erklärt, dass der Zugang schrittweise erweitert werden soll, sobald die Server- und Infrastrukturkapazitäten ausgebaut sind.

Zu den vom Unternehmen angestrebten Einsatzgebieten gehören Bereiche, die schnelle Reaktionen erfordern, wie etwa Krisen- und Vorfallmanagement, Kundendienst, Support-Systeme, Finanzmarktanalysen und E-Commerce. Ein konkreter Zeitplan für die allgemeine Verfügbarkeit von Ultrafast wurde bisher nicht mitgeteilt.

Nachrichtenquelle: 12punto