欧美黄色录像视频,国产成人免费在线观看,爱啪啪av导航,新久小草在线,操女人逼片,亚洲乱码精品,黄色大片a级

近日，上海交通大學(xué)密西根學(xué)院副教授朱怡飛團(tuán)隊(duì)發(fā)表的題為《LLMSched：Uncertainty-Aware Workload Scheduling for Compound LLM Applications》的研究論文被2025年IEEE 國(guó)際分布式計(jì)算系統(tǒng)大會(huì)（IEEE International Conference on Distributed Computing Systems）接收。該論文為團(tuán)隊(duì)暨IEEE/ACM IWQoS 2024發(fā)表的論文《Towards Efficient Compound Large Language Model System Serving in the Wild》（最佳海報(bào)獎(jiǎng)）后，在復(fù)合大語(yǔ)言模型系統(tǒng)領(lǐng)域做出的又一重要突破。論文作者為學(xué)院22級(jí)博士研究生朱博韜，上海交通大學(xué)約翰·霍普克羅夫特計(jì)算機(jī)科學(xué)中心陳晨教授，江行智能科技有限公司樊小毅博士和密西根學(xué)院副教授朱怡飛博士。

近年來(lái)，以O(shè)penAI ChatGPT和Google Gemini為代表的大語(yǔ)言模型（LLM）在自然語(yǔ)言處理任務(wù)中展現(xiàn)出卓越性能。然而，單一模型在垂直領(lǐng)域應(yīng)用中仍存在局限性。為此，業(yè)界正轉(zhuǎn)向構(gòu)建復(fù)合型大語(yǔ)言模型系統(tǒng)，通過(guò)整合外部模型、工具、API及其他LLM，形成協(xié)同處理能力，以滿(mǎn)足專(zhuān)業(yè)化場(chǎng)景需求。因此，復(fù)合LLM應(yīng)用應(yīng)運(yùn)而生。復(fù)合型LLM應(yīng)用是指一種大語(yǔ)言模型與其他外部工具、API或其他大語(yǔ)言模型協(xié)作從而共同完成復(fù)雜智能服務(wù)的應(yīng)用。相比于單一的LLM調(diào)用，復(fù)合型LLM應(yīng)用能夠通過(guò)模塊化架構(gòu)實(shí)現(xiàn)功能增強(qiáng)，顯著提升在垂直領(lǐng)域的專(zhuān)業(yè)性和可靠性。

該論文提出 LLMSched，一個(gè)為服務(wù)復(fù)合型 LLM 應(yīng)用不確定性感知調(diào)度框架。框架的結(jié)構(gòu)如圖所示。針對(duì)復(fù)合型 LLM 應(yīng)用固有的結(jié)構(gòu)與時(shí)長(zhǎng)不確定性，論文首先設(shè)計(jì)了一種基于有向無(wú)環(huán)圖（DAG）的建模方法，用以描述具有不確定性的復(fù)合型 LLM 應(yīng)用；論文繼而采用貝葉斯網(wǎng)絡(luò)對(duì)應(yīng)用進(jìn)行全方位建模，識(shí)別能夠降低不確定性的關(guān)鍵階段，并通過(guò)基于信息熵的量化機(jī)制評(píng)估其不確定性削減效果。論文通過(guò)融合不確定性削減策略與作業(yè)完成時(shí)間（JCT）優(yōu)化方案，論文進(jìn)一步提出高效調(diào)度算法以縮短平均作業(yè)完成時(shí)間。實(shí)驗(yàn)表明，LLMSched 可將平均 JCT 降低 14%~79%，顯著優(yōu)于現(xiàn)有方案。

該工作為 LLM 服務(wù)優(yōu)化開(kāi)辟了新方向，尤其對(duì)多模塊協(xié)作的 Agent 系統(tǒng)、LLM 推理集群資源調(diào)度具有重要參考價(jià)值。其不確定性量化框架可擴(kuò)展至其他動(dòng)態(tài)任務(wù)場(chǎng)景，推動(dòng)智能調(diào)度理論與實(shí)際系統(tǒng)的深度融合。該項(xiàng)研究在國(guó)家自然科學(xué)基金項(xiàng)目資助下完成。

背景介紹：

IEEE 國(guó)際分布式計(jì)算系統(tǒng)大會(huì)（IEEE International Conference on Distributed Computing Systems）是IEEE主辦的計(jì)算機(jī)系統(tǒng)領(lǐng)域歷史最悠久的國(guó)際著名學(xué)術(shù)會(huì)議。自1979年創(chuàng)辦以來(lái)，ICDCS就一直作為分享分布式計(jì)算系統(tǒng)相關(guān)前沿工作的學(xué)術(shù)平臺(tái)，備受海內(nèi)外學(xué)者的關(guān)注，在國(guó)內(nèi)外享有較高的聲譽(yù)和廣泛的影響力?，F(xiàn)為中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦B類(lèi)會(huì)議。今年是大會(huì)舉辦的第45屆，吸引了包括ACM Fellow、IEEE Fellow等諸多業(yè)界和學(xué)術(shù)界專(zhuān)家學(xué)者參會(huì)和分享最新的進(jìn)展，大會(huì)共收到投稿529篇，總共錄用104篇。會(huì)程共4天，包括5個(gè)主題演講以及32個(gè)專(zhuān)題討論會(huì)。

學(xué)院作者簡(jiǎn)介：

朱博韜是上海交通大學(xué)2022級(jí)信息與通信工程專(zhuān)業(yè)在讀博士生。他目前的研究方向包括云計(jì)算、邊緣計(jì)算與機(jī)器學(xué)習(xí)系統(tǒng)等。

朱怡飛為上海交通大學(xué)密西根學(xué)院副教授、上海交通大學(xué)電子系雙聘助理教授、博士生導(dǎo)師。上海市高層次引進(jìn)人才（海外）。2020年獲得加拿大Simon Fraser University計(jì)算機(jī)科學(xué)博士學(xué)位，2015年獲得香港科技大學(xué)碩士學(xué)位，2012年獲得西安交通大學(xué)學(xué)士學(xué)位。朱怡飛博士研究領(lǐng)域?yàn)橛?jì)算機(jī)網(wǎng)絡(luò)與系統(tǒng)，目前專(zhuān)注于邊緣計(jì)算、多媒體網(wǎng)絡(luò)與系統(tǒng)，分布式機(jī)器學(xué)習(xí)系統(tǒng)等方向。他在 ACM SIGCOMM,IEEE INFOCOM,ACM Multimedia等多個(gè)國(guó)際一流期刊及會(huì)議發(fā)表高水平論文60余篇，其中中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦A類(lèi)論文24篇。相關(guān)研究工作獲得加拿大Telus-Juniper軟件定義網(wǎng)絡(luò)比賽一等獎(jiǎng)，2個(gè)IEEE會(huì)議最佳論文獎(jiǎng)。此外，朱怡飛博士還擔(dān)任IEEE Internet of Things Journal編輯、ACM Multimedia領(lǐng)域主席、IEEE Network客座編輯，以及多個(gè)國(guó)際會(huì)議技術(shù)程序委員會(huì)成員。中國(guó)計(jì)算機(jī)學(xué)會(huì)互聯(lián)網(wǎng)專(zhuān)委會(huì)、分布式計(jì)算專(zhuān)委會(huì)執(zhí)行委員。研究成果受科技部重點(diǎn)研發(fā)青年科學(xué)家項(xiàng)目、中國(guó)自然科學(xué)基金委、華為等政府和企業(yè)項(xiàng)目支持。