AI -Codegeneratoren ben?tigen gro?e Modelle, die ein breiteres Kontextfenster verwalten k?nnen, um rund 100.000 Codezeilen zu verarbeiten. Mischung aus Expertenmodellen (MOE) für Agenten und Argumentation KI ist ebenfalls betr?chtlich. Diese massiven Modelle sind jedoch tendenziell ziemlich kostspielig, wobei die Preise zwischen 10 und 15 US -Dollar pro Million Output -Token für den aktuellen GPUs liegen. Dies ist eine ?ffnung für innovative KI -Architekturen, um die Dominanz von GPUs in Frage zu stellen.

Cerebras-Systeme starten Big AI mit QWEN3-235B

Cerebras-Systeme (ein Kunde von Cambrian-AI-Forschung) hat Unterstützung für das wesentliche QWEN3-235B-Modell eingeführt, das eine Kontextl?nge von 131 K (ca. 200–300 Seiten Text) unterstützt, die viermal so viel wie zuvor m?glich war. Auf dem Raise-Gipfel in Paris hob Cerebras Alibabas QWEN3-235B hervor, was eine hocheffiziente Architektur der Experten nutzt, um eine bemerkenswerte Recheneffizienz zu erzielen. Der wirkliche Durchbruch besteht jedoch darin, dass Cerebras dieses Modell mit nur 0,60 USD pro Million Input-Token und pro Million Output-Token betreiben k?nnen-weniger als ein Zehntel als Preis für ?hnliche Modelle mit geschlossenen Quellen. Obwohl viele die Engine im Cerebras-Wafer-Ma?stab als teuer betrachten, fordert diese Daten diesen Glauben heraus.

Eine Frage, die ich oft erhalte, lautet: Wenn Cerebras so schnell ist, warum hat es dann nicht mehr Kunden? Ein Grund dafür ist, dass es zuvor keine Unterstützung für gro?e Kontextfenster und gr??ere Modelle hatte. Entwickler, die Code erstellen m?chten, m?chten Probleme nicht in kleinere Fragmente unterteilen, um beispielsweise einen 32 -KB -Kontext zu passen. Jetzt ist diese Verkaufsbarriere verschwunden.

"Wir sehen eine erhebliche Nachfrage von Entwicklern nach modernsten Modellen mit einem erweiterten Kontext, insbesondere nach Codegenerierung", sagte Andrew Feldman, CEO und Gründer von Cerebras Systems. "Qwen3-235b auf Cerebras ist unser erstes Modell, das direkt mit führenden Modellen wie Claude 4 und Deekseek R1 konkurriert. Mit einem vollst?ndigen 131-km-Kontext k?nnen Entwickler nun Cerebras für Codierungsanwendungen auf Produktionsebene verwenden und Antworten in unter einer Sekunde anstelle von Wartezeiten auf GPUs erhalten."

Cerebras hat seine unterstützte Kontextl?nge von 32 km auf 131.000 Token erh?ht und das von QWEN3-235B unterstützte Maximum entspricht. Diese Verbesserung wirkt sich erheblich auf die F?higkeit des Modells aus, gro?e Codebasen und komplexe Dokumentation zu verarbeiten. W?hrend ein 32-km-Kontext für grundlegende Aufgaben zur Codegenerierung ausreicht, erm?glicht ein 131-km-Kontext das Modell gleichzeitig Dutzende von Dateien und Zehntausenden von Codezeilen, wodurch die Entwicklung für Produktionsgradanwendungen erm?glicht wird.

QWEN3-235B leistet in Aufgaben au?ergew?hnlich gute Leistungen, die dank seiner F?higkeit, zwischen "Denkmodus" (für Aufgaben mit hoher Komplexit?t) und "Nicht-Denken-Modus" (für einen effizienten, allgemeinen Dialog) zu wechseln, ein au?ergew?hnlich gutes Leistungsbild für tiefe logische Argumentation, fortschrittliche Mathematik und Codegenerierung durchzuführen. Die 131K -Kontextl?nge erm?chtigt das Modell, gro?e Codebasen (Zehntausende von Zeilen) aufzunehmen und zu analysieren, und unterstützt Aufgaben wie Code -Refactoring, Dokumentation und Fehlererkennung.

Cerebras zeigten auch ein weiteres Wachstum in seinem ?kosystem und erlangten Unterstützung von Amazon AWS, Datarobot, Docker, Cline und Begriff. Die Aufnahme von AWS ist besonders bedeutend;

Wohin geht das?

Big AI wurde kontinuierlich reduziert und optimiert, was erhebliche Verbesserungen der Leistung, Verringerung der Modellgr??en und die Kosten abnimmt. Dieser Trend wird sich wahrscheinlich fortsetzen, wird jedoch durch Verbesserungen in Bezug auf F?higkeiten, Genauigkeit, Intelligenz und v?llig neue Funktionen in verschiedenen Modalit?ten ausgeglichen. Wenn Sie also mit der KI des letzten Jahres zufrieden sind, sind Sie in guter Verfassung, da sie weiterhin billiger wird.

Wenn Sie jedoch die neuesten Funktionen und Funktionen suchen, ben?tigen Sie die gr??ten Modelle und die l?ngsten Eingabebeduckerl?ngen.

Es sind das Yin und Yang von AI.

Das obige ist der detaillierte Inhalt vonWer braucht gro?e KI -Modelle?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!