火山引擎總裁譚待

企業(yè)要做好大模型落地，面臨模型效果、推理成本、落地難度的三大關鍵挑戰(zhàn)：既要有好的基礎大模型做支撐，解決複雜難題，也要有低成本的推理服務讓大模型被廣泛應用，還要更多工具、平臺和應用幫助企業(yè)做好場景落地。

—譚待? 火山引擎總裁

#01.

?豆包款大模型首次亮相?

?大使用量打磨好模型?

模型效果是AI 落地最關鍵的挑戰(zhàn)。譚待指出，只有大的使用量，才能打磨出好模型。目前，豆包大模型日均處理1,200億 tokens 文字、生成3,000萬張圖片。

為助力企業(yè)做好大模型場景落地，位元組跳動自主研發(fā)的豆包大模型將透過火山引擎正式對外提供服務，企業(yè)可根據(jù)自身業(yè)務場景需求靈活選擇、快速落地：

• 豆包通用模型pro：字節(jié)跳動自研LLM模型專業(yè)版，支援128k 長文本，全系列可精調(diào)，具備更強的理解、生成、邏輯等綜合能力，適合問答、總結(jié)、創(chuàng)作、分類等豐富場景；
• #豆包通用模型lite：位元組跳動自研LLM模型輕量版，對比專業(yè)版提供更低token 成本、更低延遲，為企業(yè)提供靈活經(jīng)濟的模型選擇；
• ##豆包·角色扮演模型：個人化的角色創(chuàng)作能力，更強的上下文感知和劇情推動能力，滿足靈活的角色扮演需求；
• 豆包·語音合成模型：提供自然生動的語音合成能力，善於表達多種情緒，演繹多種場景；
• 豆包·聲音復刻模型：##5秒即可實現(xiàn)聲音1: 1克隆，對音色相似度和自然度進行高度還原，支持聲音的跨語種遷移；
• 豆包·語音識別模型：更高的準確率及靈敏度，更低的語音辨識延遲，支持多語種的正確辨識；
• #豆包·文生圖模型：更精準的文字理解能力，圖文匹配更準確，畫面效果更優(yōu)美，擅長對中國文化元素的創(chuàng)作；
• 豆包·Function call模型：提供更準確的功能辨識與參數(shù)抽取能力，適合複雜工具呼叫的場景；
• 豆包·向量化模型：聚焦向量檢索的使用場景，為LLM 知識庫提供核心理解能力，支持多語言。

譚待介紹，早在去年，豆包大模型（原名：雲(yún)雀）就在字節(jié)跳動內(nèi)部完成了上線，也是首批通過大模型服務安全備案的大模型之一。位元組跳動內(nèi)部50多個業(yè)務已經(jīng)大量使用豆包大模型進行 AI 創(chuàng)新，包括抖音、頭條等數(shù)億 DAU 產(chǎn)品?；抖拱竽Ｐ屯蛟斓亩拱?APP，在蘋果 APP Store 和各大安卓應用市場，豆包 APP 的下載量在 AIGC 類應用中排名第一*。

*資料來源：QuestMobile

#位元組跳動產(chǎn)品與策略副總裁朱駿位元組跳動產(chǎn)品和策略副總裁朱駿介紹了位元組跳動基於豆包大模型打造AI 原生應用的產(chǎn)品概念。他表示，科技正在快速演化，但使用者核心的需求沒有改變，例如高效獲取資訊的需求、工作效率的需求、自我表達的需求、社交娛樂的需求等。位元組跳動做了很多學習和探索，希望找到適合的大模型應用形態(tài)，以自然的互動形式服務用戶，走入更多人的生活和工作。

豆包 APP 是位元組跳動重點投入的大模型應用，據(jù)朱駿透露，豆包平臺月度活躍用戶達到2,600萬，已有超過800萬個智能體被創(chuàng)建。

豆包大模型在服務位元組內(nèi)部的同時，也與火山引擎的眾多企業(yè)客戶合作共創(chuàng)。譚待認為，企業(yè)在不同業(yè)務場景中，需要不同特點的模型，以達到最佳效果和性價比。為此，豆包大模型提供的是一個多模態(tài)模型家族，企業(yè)可根據(jù)自身業(yè)務場景需求彈性選擇，實現(xiàn)模型使用及成本控制的正循環(huán)。

02.

?人人用得起?

?才是好模式?

#譚待認為，降低成本是推動大模型快轉(zhuǎn)到「價值創(chuàng)造階段」的關鍵因素。豆包主力模型在企業(yè)市場的定價只有0.0008元/千 tokens，0.8厘就能處理1,500多個漢字，比行業(yè)便宜99.3%。

以豆包通用模型pro-32k 版為例，模型推理輸入價格僅0.0008元/千 tokens。而市面上同規(guī)格模型的定價一般為0.12元/千 tokens，是豆包模型價格的150倍。大模型價格，進入「厘時代」。

譚待表示，大模型「卷」價格，將助力企業(yè)以更低成本加速業(yè)務創(chuàng)新。 03.

?方舟2.0升級?

?推廣大型模式價值創(chuàng)造?

##去年，火山引擎發(fā)布了一站式大模型服務平臺火山方舟，希望透過模型即服務的概念，幫助企業(yè)在高效、安全的環(huán)境中應用各類模型。今年，火山引擎對方舟平臺進行了全面升級，升級後的火山方舟2.0將大幅提升模型效果、核心插件、系統(tǒng)性能以及平臺體驗，幫助企業(yè)推進大模型的價值創(chuàng)造。

在插件和工具鏈上，方舟2.0升級了

聯(lián)網(wǎng)插件

，提供頭條抖音同款搜尋能力，即時連接海量優(yōu)質(zhì)數(shù)據(jù)，同時使用文字、圖像、語音等多模態(tài)交互方式，並透過業(yè)內(nèi)領先的意圖識別能力，大幅提升模型的信息獲取能力；升級###內(nèi)容插件###，提供頭條抖音同源海量內(nèi)容，支持多模態(tài)交互，提供基於意圖的垂類內(nèi)容資訊檢索，內(nèi)容時效檢索更強，幫助大模型深入理解、檢索和生成內(nèi)容；升級###知識庫插件###，提供毫秒級百億規(guī)模的高效能檢索，秒級流式知識庫索引更新，內(nèi)嵌豆包向量化模型，提高搜尋的相關性和準確性。 ######除以上核心外掛升級之外，火山方舟2.0也全面升級了系統(tǒng)承載能力、安全防護能力和演算法服務能力。在系統(tǒng)承載力上，提供充沛的GPU 算力資源，分鐘級千卡擴縮容的超強彈性，保障業(yè)務穩(wěn)定與成本可控；在安全防護上，透過安全沙箱建構(gòu)可信的執(zhí)行環(huán)境，多維度的安全架構(gòu)，保障資料安全；此外，火山引擎提供專業(yè)的演算法團隊服務，協(xié)助客戶釋放獨特資料價值，讓企業(yè)大模型應用輕鬆落地。 ############釦子產(chǎn)品經(jīng)理潘宇揚#########除了好的模型效果、便利的插件、強勁的系統(tǒng)性能，還需要提供簡單易用開發(fā)平臺，才能讓所有人都能成為AI 應用的開發(fā)者。釦子產(chǎn)品經(jīng)理潘宇揚介紹，釦子（coze）作為字節(jié)跳動推出的新一代AI 應用開發(fā)平臺，具備低門檻、個性化、實時性、多模態(tài)等優(yōu)勢，並集合海量的AI 資源、豐富的發(fā)布渠道、一鍵自訂API 服務，幫助填補大模型到使用者場景的最後一公里。 ######火山引擎正式發(fā)布了釦子專業(yè)版。釦子專業(yè)版在釦子視覺化靈活編排智能體的能力基礎上，進一步提供企業(yè)級 SLA 和多種高級特性，使 AI 應用更易落地，讓企業(yè)更專注於透過智能體創(chuàng)新，驅(qū)動業(yè)務成長。 ######譚待表示，火山引擎致力於成為 AI 時代最開放和領先的雲(yún)端服務平臺。全新升級的火山方舟2.0將透過更強效能、更優(yōu)插件、更好服務以及安全可信方案，助力大模型應用落地。 #########04.############?廣泛落地實踐?############?多產(chǎn)業(yè)結(jié)出碩果?######################## ##豆包大模型和火山方舟2.0目前已經(jīng)在金融、汽車、智慧終端、電商零售、教育科研等多個產(chǎn)業(yè)實踐落地。招商銀行、海底撈火鍋、超級猩猩、攜程旅遊、飛常準、獵聘等企業(yè)也已經(jīng)在釦子上搭建了智能體。復旦大學、浙江大學等名校也為課程和實驗搭建了 「AI 助教」。 ###

招商銀行數(shù)位金融發(fā)展辦公室主任高旭磊

作為金融業(yè)AI 轉(zhuǎn)型的實踐者，招商銀行正在智能外呼、數(shù)位人、智慧數(shù)據(jù)助理等上百個AI 服務場景探索和投入。招商銀行數(shù)位金融發(fā)展辦公室主任高旭磊表示，大模型將為銀行全鏈條業(yè)務帶來改造與升級。攜手火山引擎，雙方將共建大模型應用場景及高效能基礎設施，改造現(xiàn)有系統(tǒng)和產(chǎn)品，催生大量以 AI 為核心的智能體應用。

蒙牛集團副總裁、首席數(shù)智官李琤潔

蒙牛集團副總裁、集團首席數(shù)智官李琤潔從生產(chǎn)工具進化、生產(chǎn)方式進化、組織方式進化的三個面向介紹了蒙牛集團的數(shù)智化歷程。蒙牛集團正與火山引擎合作夯實技術底座，並建構(gòu)了AI 營養(yǎng)專家、AI 育嬰師、AI 數(shù)據(jù)分析師、產(chǎn)品創(chuàng)新助理、熱點創(chuàng)意助理等智能體矩陣，提升前端消費者體驗，助力後端運營人員決策。

智慧終端機大模型聯(lián)盟發(fā)行

會上，火山引擎與OPPO、vivo、榮耀、小米、三星、華碩宣布成立智慧終端大模型聯(lián)盟。 OPPO 小布助手、榮耀 MagicBook 的 YOYO 助理、小米「小愛同學」、華碩筆記型電腦的豆叮 AI 助手等應用，均已接入火山引擎的大模型服務。

汽車大模型生態(tài)聯(lián)盟發(fā)布

同時，火山引擎聯(lián)合中國電動汽車百人會與吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20餘家廠商，宣布成立汽車大模型生態(tài)聯(lián)盟，致力於探索新一代人車互動新形態(tài)，提升汽車全場景AI 新體驗。

兩大聯(lián)盟企業(yè)OPPO 和捷途汽車也分別就自身的大模型實踐進行了分享：

OPPO 智慧助理部部長、小布助理首席架構(gòu)師萬玉龍

OPPO 智慧助理部部長，小布助理首席架構(gòu)師萬玉龍分享了OPPO AI 手機的大模型應用實踐，他表示，目前小布助理已經(jīng)覆蓋3.5億終端設備，每月活躍用戶數(shù)超1.5億。在火山方舟上，OPPO 透過意圖識別大模型、聯(lián)網(wǎng)總結(jié)大模型、個人化人物大模型和豆包大模型構(gòu)建了通用問答、伶俐小妹、面試官等智能體，為終端用戶帶來了全新的AI體驗。

捷途汽車數(shù)位化負責人劉航

捷途汽車數(shù)位化負責人劉航表示，捷途汽車希望透過大模型擴大自身服務能力、洞察用戶真實需求，進而提升銷售效率與能力。攜手火山引擎，雙方圍繞客服場景進行了共創(chuàng)，所打造的智慧客服 AI 小捷，在節(jié)省人力的同時，還能幫助客服人員快速獲取信息，服務客戶。未來，捷途汽車也希望透過大模型進一步實現(xiàn)座艙、決策、行銷的智慧化升級。

05.

?多款AI 應用發(fā)布?

?快速落地開箱即用?

除大模型服務平臺以外，AI 應用也是火山引擎全端AI 服務的關鍵組成。

去年，火山引擎提出了企業(yè)數(shù)智化升級新模式－資料飛輪，該模式以資料消費為核心驅(qū)動力，使企業(yè)資料流充分融入業(yè)務流，實現(xiàn)資料資產(chǎn)和業(yè)務應用的飛輪效應。為了讓企業(yè)資料消費更普惠、更便捷，火山引擎智慧資料洞察DataWind 正式發(fā)表AI 助理ChatBI，使用者可透過自然語言互動產(chǎn)生指標，用於圖表製作、資料查詢，還可進行深度資料分析，且ChatBI支援IM 交互，可多端應用，隨時隨地自助分析，這將大幅降低資料消費門檻，提升讀數(shù)、用數(shù)效率，為資料飛輪加速運轉(zhuǎn)提供動力。

面向行銷場景，火山引擎進行了智慧創(chuàng)作雲(yún)2.0的升級，成為從內(nèi)容創(chuàng)作、矩陣分發(fā)、廣告投放到資料洞察一站式的企業(yè)內(nèi)容行銷成長方案；不僅提供多模態(tài)的理解與生成能力，協(xié)助影片創(chuàng)作效率提升25倍，更上線抖音話題、POI、小程式等行銷工具，讓門市頁面曝光提升600%。目前已經(jīng)有3,000+企業(yè)在火山引擎開啟 AIGC 影片行銷成長。

面向銷售場景，火山引擎發(fā)布了銷售 AI 助理 Sales Copilot，能夠高效跟進客戶需求，隨時輔助銷售解答複雜的產(chǎn)品問題。此外，它還能透過角色扮演的方式模擬不同風格的對客演練，並提供優(yōu)秀話術學習，提升銷售溝通品質(zhì)。

火山引擎一直致力於建構(gòu)開放共享的生態(tài)理念，自2021年發(fā)布萬有計畫以來，已經(jīng)幫助100+家 SaaS 企業(yè)實現(xiàn)了業(yè)務成長，實現(xiàn)近萬單客戶簽約。豆包企服聯(lián)盟，是萬有計畫針對大模型落地的專案計畫。萬有計畫·豆包企服聯(lián)盟將提供一攬子支援規(guī)劃，協(xié)助 SaaS 企業(yè)實現(xiàn) AI 升級，為業(yè)界客戶提供更多開箱即用的 AI 應用。

06.

?AI 基礎設施再升維?

?雲(yún)端運算力可靠度保障?

大模型時代，叢集管理複雜度、網(wǎng)路效能、穩(wěn)定性是雲(yún)端基礎的關鍵挑戰(zhàn)。為因應上述挑戰(zhàn)，火山引擎基於內(nèi)外共池的資源規(guī)模優(yōu)勢和內(nèi)部實踐，圍繞大集群建設、管理、性能優(yōu)化、穩(wěn)定性保障提供了一套業(yè)界領先的解決方案。

NVIDIA 解決方案和工程副總裁賴俊傑

會上，火山引擎正式發(fā)布veOmniverse，基於NVIDIA Omniverse 為企業(yè)、開發(fā)者提供全新的雲(yún)端上開發(fā)平臺，協(xié)助企業(yè)與開發(fā)者在互聯(lián)的虛擬世界中，圍繞著工作流程展開高效的設計與協(xié)作，探索並打造智慧逼真的虛擬世界。

除為客戶提供高穩(wěn)定性和高效能的雲(yún)端基礎設施外，面對本地部署需求，火山引擎也全新發(fā)布了混合雲(yún)veStack 智算版，具有萬卡集群組網(wǎng)，3.2 T 高效能無損網(wǎng)路的超大規(guī)模優(yōu)勢；端對端工程化所支撐的極致性能，能夠?qū)崿F(xiàn)97.78%訓練加速比和分鐘級故障發(fā)現(xiàn)和自愈；擁有多元異構(gòu)能力，可適配十餘種GPU ，支持主流國產(chǎn)化GPU。

完整的 AI 應用除 GPU 負責的密集運算外，存量 CPU 負載也需要持續(xù)降本增效，保障業(yè)務輕裝上陣，加速創(chuàng)新。從運算、儲存、網(wǎng)路、維運4個層面，火山引擎全力支援客戶雲(yún)端上業(yè)務穩(wěn)定營運。

End

從技術創(chuàng)新到商業(yè)落地，大模型已經(jīng)為各行業(yè)的 AI 轉(zhuǎn)型提供了強大的動能?；鹕揭婊段辉M跳動在大模型領域的實踐沉澱，透過大使用量打磨出好模型，以技術驅(qū)動的極致性價比讓大模型人人用得起，透過各行業(yè)豐富的落地經(jīng)驗與演算法服務陪伴客戶一起成長。未來，火山引擎全端 AI 服務將持續(xù)協(xié)助企業(yè) AI 轉(zhuǎn)型落地，激發(fā)業(yè)務成長潛能。