
近日,南京市鼓樓區(qū)發(fā)改委(工信局)、百度飛槳(南京)人工智能產(chǎn)業(yè)賦能中心、百度飛槳星河社區(qū)聯(lián)合舉辦的“大模型深度應用與產(chǎn)業(yè)融合”開發(fā)者圈層沙龍在南京華貿中心成功舉辦。活動匯聚了能源、建筑、醫(yī)療、通信、旅游等多行業(yè)企業(yè)代表及高校師生,共同探討大模型技術發(fā)展與應用。
作為重要的科教中心和創(chuàng)新高地,南京以建設國家人工智能創(chuàng)新應用先導區(qū)為引領,全面實施“算法+”產(chǎn)業(yè)賦能行動。百度飛槳(南京)人工智能產(chǎn)業(yè)賦能中心作為江蘇省首個飛槳賦能中心,將為江蘇地區(qū)AI技術發(fā)展提供充分技術賦能和全要素資源支持。

專題分享:創(chuàng)新與落地并重
活動中,百度AI技術生態(tài)運營總監(jiān)謝夢全面介紹了百度AI技術生態(tài)對企事業(yè)單位和開發(fā)者的支持模式、賦能資源等,也同步介紹了飛槳框架3.0、飛槳低代碼開發(fā)工具PaddleX、大語言模型開發(fā)套件PaddleNLP、多模態(tài)大模型開發(fā)套件PaddleMIX的發(fā)展情況,以及與60多家硬件廠商構建的適配方案。
飛槳開發(fā)者技術專家駱秀韜深度解析了DeepSeek R1,其通過強化學習具備強推理和“自我反思”能力。他建議企業(yè)根據(jù)需求選擇推理類模型,并利用小模型蒸餾降本增效,同時介紹了星河社區(qū)提供的DeepSeek R1 API服務及免費模型部署資源。
百度飛槳星河社區(qū)運營負責人張楠介紹飛槳星河社區(qū)有項目學習與開發(fā)、模型庫與應用中心等核心功能,為開發(fā)者提供全流程開發(fā)支持。


技術碰撞:從尖端理論到實際應用
技術交流環(huán)節(jié),開發(fā)者提出了RAG(檢索增強生成)應用中的性能挑戰(zhàn)問題,特別是多知識庫場景下的響應延遲問題。
在場的飛槳開發(fā)者技術專家分享了模型蒸餾見解:“將垂類知識蒸餾到單一模型中進行準確評估后再召回,可顯著提升速度并降低成本。關鍵是保證高質量問題輸入和嚴格效果評估?!?/p>
PFCC成員孔銳介紹了強化學習在語言模型對齊的雙重應用:“一方面用強化學習訓練語言模型,另一方面將語言模型用作判定器和決策器,能夠優(yōu)化動作空間輸出并提供決策支持?!?/p>
軌交行業(yè)開發(fā)者分享了邊緣計算探索:“計劃在邊緣側部署大語言模型,利用Intel平臺和開源工具,未來將研究與飛槳文心大模型的結合?!?/p>
來自高校的開發(fā)者代表則表示當前聚焦生物制藥領域應用,探索將自然語言模型技術遷移至酶反應預測等專業(yè)場景;以及來自南京師范大學研究團隊專注AI可信性研究,推動技術成果產(chǎn)業(yè)化應用。


跨界對話:多元需求碰撞創(chuàng)新思維
Developer Chat跨界對話環(huán)節(jié)匯集了各行業(yè)代表,圍繞AI應用需求與技術挑戰(zhàn)展開深入交流。
建筑施工領域代表發(fā)言首先談及他們當前遇到的場景難題:工程咨詢場景中復雜報表的結構化處理需求迫切。企業(yè)代表指出,現(xiàn)有系統(tǒng)難以解析非標準化表格數(shù)據(jù),亟需高效解決方案。
來自電信行業(yè)的開發(fā)者也分享了他們在合同審批流程中遇到的表格識別難題:“我們有很多客戶經(jīng)理需要把簽章的合同上傳到ERM系統(tǒng),但表格識別是個棘手問題。我們嘗試過采用圖的方式進行存儲,從拓撲結構考慮相對位置關系,這可能是一個解決思路?!?/p>
飛槳開發(fā)者技術專家駱秀韜對這些復雜表格識別問題給出了個人見解:“操作員沒有固定的標準格式來生產(chǎn)這些文檔,造成后期需要花極大人力填補坑。未來可能需要多模態(tài)模型的支持,直接解析圖像中的信息可能是一條路。目前,PaddleX表格識別模型可以應對上面提及的問題,大家也可以試試看”

除了表格識別話題,現(xiàn)場還有多個行業(yè)的技術需求展開討論并尋求合作機會:
醫(yī)療健康:某初創(chuàng)公司基于AI開發(fā)認知癥早篩設備,通過用戶交互行為分析實現(xiàn)早期預警。
新能源:龍源電力提出復雜天氣及地形條件下的功率預測需求,依托全球400+風電廠及上千光伏電廠數(shù)據(jù),推動AI模型精度突破。
文旅服務:南京華貿雅詩格公寓計劃構建游客畫像系統(tǒng),通過個性化推薦引擎提升旅游服務體驗。
……
這些來自行業(yè)的真實需求在活動現(xiàn)場展開了解決方案的分享與討論,橋接更多的合作機會。

飛槳星河社區(qū):
技術領袖鏈接產(chǎn)業(yè),共建AI未來場景
在大模型快速發(fā)展的時代,飛槳星河社區(qū)作為國內最大的AI開發(fā)者社區(qū),為開發(fā)者提供了從學習到應用的全流程支持。社區(qū)不僅提供從數(shù)據(jù)處理到模型訓練、壓縮、推理、部署的全套基礎建設,還積累了豐富的項目、比賽和認證資源。
在近期活動中,飛槳開發(fā)者社區(qū)運營負責人張楠展示了兩個共創(chuàng)案例:一個是通過OCR模型和微調構建數(shù)據(jù)層,并結合大模型能力解決學術論文學習過程中的問題;另一個是企業(yè)知識庫問答解決方案,應用混合檢索方式解決企業(yè)復雜數(shù)據(jù)問題,并探索使用DeepSeek R1等推理模型應對多步推理實際問題。
同時,社區(qū)正式宣布了“飛槳星河技術領袖鏈接”項目,將為核心開發(fā)者提供算力資源、token資源、專家支持、知識產(chǎn)權支持和官方背書,幫助他們服務垂類場景的用戶需求。通過商業(yè)回報和其他激勵計劃,該項目旨在助力開發(fā)者實現(xiàn)個人價值與社會價值的雙贏。
本次開發(fā)者圈層沙龍不僅是一場技術盛宴,更是產(chǎn)學研深度融合的典范。隨著南京人工智能產(chǎn)業(yè)賦能中心的落地,以及政府、企業(yè)、高校和開發(fā)者社區(qū)的緊密協(xié)作,南京的AI產(chǎn)業(yè)發(fā)展將迎來新的機遇。未來,大模型技術將加速與城市各行業(yè)深度融合,不斷催生新的應用場景和商業(yè)模式,引領南京邁向智能化發(fā)展的新高度,為長三角區(qū)域乃至全國的AI產(chǎn)業(yè)發(fā)展貢獻“南京智慧”。
在大模型時代,只要堅持、充滿希望、不斷探索,必將有更多機會涌現(xiàn)。南京,這座底蘊深厚的古城,正以開放包容的姿態(tài)擁抱AI技術革命,譜寫智能時代的嶄新篇章。