Les générateurs de code AI ont besoin de grands modèles qui peuvent gérer une fenêtre de contexte plus large, capable de gérer environ 100 000 lignes de code. Le mélange de modèles experts (MOE) con?us pour l'agence et le raisonnement IA est également considérable. Cependant, ces modèles massifs ont tendance à être assez co?teux, avec des prix allant de 10 $ à 15 $ par million de jetons de production sur les GPU actuels. Cela présente une ouverture pour les architectures d'IA innovantes pour défier la domination des GPU.

Cerebras Systems lance une grande IA avec QWEN3-235B

Cerebras Systems (un client de Cambrian-AI Research) a introduit le support pour le modèle QWEN3-235B substantiel, qui prend en charge une durée de contexte de 131k (environ 200 à 300 pages de texte), quatre fois ce qui était auparavant possible. Lors du sommet de l'augmentation de Paris, les Cerebras ont souligné QWEN3-235B d'Alibaba, qui exploite une architecture de mélange de réduction très efficace pour obtenir une efficacité de calcul remarquable. La véritable percée, cependant, est que les cerèvres peuvent exploiter ce modèle à seulement 0,60 $ par million de jetons d'entrée et par million de jetons de sortie, moins que le dixième du prix de modèles à source fermée similaires. Bien que beaucoup considèrent le moteur à l'échelle de la plaquette Cerebras comme co?teux, ces données remettent en question cette croyance.

Une question que je re?ois souvent est: si cerebras est si rapide, pourquoi n'a-t-il pas plus de clients? L'une des raisons est qu'il manquait auparavant de support pour les grandes fenêtres de contexte et les modèles plus grands. Les développeurs qui cherchent à créer du code ne veulent pas diviser les problèmes en fragments plus petits pour s'adapter, par exemple, un contexte de 32 Ko. Maintenant, cette barrière de vente a disparu.

?Nous constatons une demande importante de la part des développeurs pour des modèles de pointe avec un contexte étendu, en particulier pour la génération de code?, a déclaré Andrew Feldman, PDG et fondateur de Cerebras Systems. "Qwen3-235b sur cerebras est notre premier modèle qui rivalise directement avec des modèles de pointe comme Claude 4 et Deepseek R1. Et avec un contexte complet de 131k, les développeurs peuvent désormais utiliser des cerveaux pour les applications de codage au niveau de la production et récupérer des réponses dans une seconde au lieu d'attendre des minutes de GPU."

Cerebras a augmenté sa longueur de contexte supportée de 32k à 131k jetons - correspondant au maximum pris en charge par QWEN3-235B. Cette amélioration affecte considérablement la capacité du modèle à traiter les grandes bases de code et la documentation complexe. Alors qu'un contexte 32K suffit pour les taches de génération de code de base, un contexte 131k permet au modèle de gérer simultanément des dizaines de fichiers et des dizaines de milliers de lignes de code, permettant le développement des applications de qualité de production.

Qwen3-235b fonctionne exceptionnellement bien dans les taches exigeant un raisonnement logique profond, des mathématiques avancées et la génération de code, grace à sa capacité à basculer entre le "mode de réflexion" (pour les taches à haute complexité) et le "mode non pensé" (pour un dialogue efficace et à usage général). La longueur de contexte de 131k permet au modèle d'ingérer et d'analyser de grandes bases de code (dizaines de milliers de lignes), en prenant en charge des taches telles que le refactorisation de code, la documentation et la détection de bogues.

Cerebras a également révélé une croissance supplémentaire de son écosystème, gagnant le soutien d'Amazon AWS, Datarobot, Docker, Cline et Notion. L'inclusion d'AWS est particulièrement importante;

Où est cette rubrique?

La grande IA a été continuellement réduite et optimisée, réalisant des améliorations significatives des performances, des réductions de la taille des modèles et des diminutions des co?ts. Cette tendance se poursuivra probablement, mais sera contrebalancée par des améliorations des capacités, de la précision, de l'intelligence et des fonctionnalités complètement nouvelles sur différentes modalités. Par conséquent, si vous êtes satisfait de l'IA de l'année dernière, vous êtes en bonne forme car il continue de devenir moins cher.

Mais si vous recherchez les dernières fonctionnalités et fonctions, vous aurez besoin des modèles les plus importants et des longueurs de contexte d'entrée les plus longues.

C'est le yin et le yang de l'IA.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!