AI代碼生成器需要大型模型，可以管理更廣泛的上下文窗口，能夠處理約100,000行代碼。專家（MOE）模型的混合物也很可觀。但是，這些巨大的模型往往很昂貴，價(jià)格從目前的GPU中的每百萬產(chǎn)量代幣10到15美元不等。這為創(chuàng)新的AI體系結(jié)構(gòu)提供了一個(gè)開放，以挑戰(zhàn)GPU的統(tǒng)治地位。

腦系統(tǒng)與QWEN3-235B啟動(dòng)大型AI

腦系統(tǒng)（Cambrian-AI研究的客戶）已經(jīng)引入了對實(shí)質(zhì)性QWEN3-235B模型的支持，該模型支持上下文長度為131K（大約200-300頁的文本），這是以前可能的四倍。在巴黎的加薪峰會(huì)上，小腦強(qiáng)調(diào)了阿里巴巴的QWEN3-235B，該Qwen3-235b利用高效的Expert架構(gòu)來實(shí)現(xiàn)出色的計(jì)算效率。然而，真正的突破是，腦型可以以每百萬個(gè)輸入令牌和每百萬產(chǎn)量令牌為每百萬美元的投入代幣和每百萬個(gè)產(chǎn)量令牌的價(jià)格僅為0.60美元，這是相似封閉式模型的十分之一。盡管許多人認(rèn)為腦晶圓尺度發(fā)動(dòng)機(jī)是昂貴的，但該數(shù)據(jù)挑戰(zhàn)了這種信念。

我經(jīng)常收到的一個(gè)問題是：如果小腦如此之快，為什么沒有更多的客戶？原因之一是它以前缺乏對大型上下文窗口和較大型號的支持。希望創(chuàng)建代碼的開發(fā)人員不想將問題分解為較小的片段以適合32KB上下文?，F(xiàn)在，這種銷售障礙已經(jīng)消失。

Cerebras Systems首席執(zhí)行官兼創(chuàng)始人Andrew Feldman表示：“我們看到開發(fā)人員對具有擴(kuò)展背景的尖端模型的需求，尤其是對于代碼生成的模型?！?“ Cerebras上的QWEN3-235B是我們的第一個(gè)模型，它直接與Claude 4和DeepSeek R1等領(lǐng)先模型競爭。而且，在完整的131k環(huán)境下，開發(fā)人員現(xiàn)在可以利用腦級編碼應(yīng)用程序，并在第二秒鐘以下等待GPUS上恢復(fù)響應(yīng)，而不是在GPUS上等待GPUS。”

小腦的支持上下文長度從32K增加到131k代幣，匹配QWEN3-235B支持的最大值。這種增強(qiáng)嚴(yán)重影響了該模型處理大型代碼庫和復(fù)雜文檔的能力。雖然32K上下文足以用于基本代碼生成任務(wù)，但131K上下文允許該模型同時(shí)處理數(shù)十個(gè)文件和數(shù)萬行代碼，從而為生產(chǎn)級應(yīng)用程序提供了開發(fā)。

QWEN3-235B在要求深層邏輯推理，高級數(shù)學(xué)和代碼生成的任務(wù)中表現(xiàn)出色，這要?dú)w功于其在“思考模式”之間切換（用于高復(fù)雜性任務(wù)）和“非思維模式”（用于高效，通用對話）的能力。 131K上下文長度使該模型能夠攝入和分析大型代碼庫（成千上萬的行），支持代碼重構(gòu)，文檔和錯(cuò)誤檢測等任務(wù)。

小腦還揭示了其生態(tài)系統(tǒng)的進(jìn)一步增長，獲得了亞馬遜AWS，DataRobot，Docker，Cline和Insion的支持。包含AWS特別重要。

這個(gè)標(biāo)題在哪里？

Big AI不斷減少和優(yōu)化，從而取得了顯著改善，模型尺寸的減少以及成本降低。這種趨勢可能會(huì)持續(xù)下去，但會(huì)通過不同方式的能力，準(zhǔn)確性，智力和全新功能的增強(qiáng)來平衡。因此，如果您對去年的AI感到滿意，則身體狀況良好，因?yàn)樗^續(xù)變得更便宜。

但是，如果您尋求最新功能和功能，則需要最大的模型和最長的輸入上下文長度。

這是AI的陰和陽。

以上是誰需要大型AI模型？的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！