7月11日，華中科技大學人工智能與自動化學院赴長三角“智啟新程· AI賦能”暑期實踐隊15名師生走進上海無問芯穹科技有限公司，開展了一場沉浸式的“技術解碼”調研活動。團隊通過實時推理測試、場景化任務模擬、核心技術團隊座談等沉浸式方式，深度探究LPU芯片突破大模型推理瓶頸的創新邏輯，感受人工智能算力普惠的實踐路徑。

技術突破：讓大模型推理效率躍升、成本銳減

“自成立以來，我們始終聚焦一個目標——讓大模型推理成本降至原來的十分之一”，產品方案解決專家李長敏向實踐隊介紹核心技術時語氣堅定。

在實時推理體驗區，上海行政負責人汪嘉芮操作平臺發起Llama2-70B模型推理任務。屏幕上實時跳動的數據令人驚嘆：單塊LPU芯片的推理效率相當于8塊英偉達H800GPU，延遲從傳統的數十毫秒壓縮至毫秒級，推理成本降低90%。計算研發平臺總監夏磊揭開技術面紗：“這得益于核心技術實現了算力的智能調配——就像處理專業術語時激活‘專項算力’，日常對話則切換‘節能模式’。”

隊員們現場體驗了模型壓縮全流程：從130B參數大模型經蒸餾技術壓縮至1B以內，再部署到千元級邊緣設備，直觀感受“大模型輕量化”的技術魔力。“以前總在課本里學‘算力優化’，但直到親眼看到模型壓縮，看著130B參數的大模型一步步‘瘦身’到能在千元設備上運行，才真正理解什么是技術落地。”實踐隊員朱進感慨道，這種從算力核心到終端設備的全鏈條體驗，讓抽象的芯片技術變得觸手可及。

圖為實踐隊員觀看LPU芯片大模型推理任務。 朱進 供圖

場景革命：AI 算力重塑產業效率

2023年起，無問芯穹的LPU芯片與DeepSeek-R1一體機已在金融、人力資源、醫療等領域落地。一組組應用數據引發師生熱議。某量化基金搭載該方案后，高頻交易響應時間從5毫秒壓縮至0.3毫秒，年度創收達2.3億美元；獵聘通過其MaaS平臺實現混訓調度，簡歷分析成本降低40%，模型部署周期縮短70%；某三甲醫院的醫療大模型基于LPU技術，病歷分析時間從40分鐘縮至5分鐘，推理成本僅為傳統方案的1/5。

實踐隊員韓驁說：“從金融的高頻交易到醫療的病歷分析，LPU芯片像一把‘萬能鑰匙’，打開了不同行業的效率瓶頸。我算了筆賬：獵聘的成本降40%、部署周期縮70%，這意味著中小企業也能負擔得起AI工具了；醫院成本降到1/5，可能讓更多基層醫療機構用得上大模型輔助診斷。技術不只是冷冰冰的參數，當它能適配不同場景的需求，能真正幫行業解決問題時，才算是‘活’的技術。

圖為師生觀看LPU芯片與DeepSeek-R1一體機的推理演示。 朱進 供圖

產學對話：破解AI算力人才培育密碼

交流環節中，李長敏重點介紹了無問芯穹的“算力青苗計劃”。“我們已與清華、上海交大等 8 所高校共建聯合實驗室，每年投入數千萬元用于前沿研究。”談及人才標準，他強調：“大模型算力領域需要三類人才——懂芯片架構的‘硬件專家’、能優化推理引擎的‘軟件工程師’、會結合場景落地的‘跨界通才’。數學基礎、工程落地能力、產業洞察力，一個都不能少。”

“這三類人才標準像一面鏡子照出了我們的短板。”實踐隊員張礫為坦言，以前覺得學好編程、算法就夠了，這次才發現不懂芯片架構難尋優化瓶頸，不了解產業場景設計的模型可能不實用，“企業開放的算力平臺和開發套件太珍貴了，能讓我們在校園里就接觸到真實的產業級問題。”

圖為實踐隊成員與李長敏進行技術座談。  胡揮宇供圖

科技向善：讓算力成為普惠生產力

李長敏還向展示了一款千元級嵌入式設備：“通過模型量化、剪枝技術，我們已實現1B參數模型在樹莓派等低成本硬件上運行，未來3年將推動手機終端運行130B大模型，讓每個家庭都能用得起 AI 算力。”他特別強調：“技術創新的終點是普惠——中小企業能負擔的推理成本、個人開發者可觸及的算力工具，才是算力革命的真正價值。”

實踐隊員童恒說：“看到樹莓派上能跑1B參數模型時，我突然想起老家的小超市——老板連復雜的收銀系統都用不明白，如果未來手機能運行大模型，或許能幫他自動盤點庫存、分析銷售數據。李經理說‘技術終點是普惠’，這句話戳中了我。以前覺得AI算力是大企業的‘奢侈品’，但現在明白，真正的革命不是讓強者更強，而是讓弱者也能搭上便車。中小企業、個人開發者、普通家庭都能用得起，這樣的算力才是有生命力的。”社會實踐隊隊長郭瀚澤也深有感觸：“千元級設備就能運行大模型，這個成本控制太驚人了。夏總監說的模型量化、剪枝技術，我們課堂上也學過，但從課本上的‘可行’到產業里的‘能用’，中間隔著無數次調試和優化。未來3年要讓手機運行130B大模型，這個目標聽起來瘋狂，但想想他們已經把推理成本降了90%，又覺得充滿可能。技術向善不只是理念，更是一步步把‘不可能’變成‘每個人都能用’的行動，這才是最打動我的地方。”

圖為實踐隊員與企業合影。  朱進 供圖

這場調研不僅是一次技術認知的升級，更搭建了高校科研與產業需求的對接橋梁。師生們深刻體會到：算力革命既需要“硬核”的技術突破，更需要“向下”的普惠情懷；既要有追趕國際前沿的決心，更要有扎根本土場景的智慧。實踐隊員吳楊思淼感觸頗深：“最震撼的是‘技術落地的速度’和‘普惠的決心’。不到兩年時間，從芯片到多行業應用，這種執行力背后是對產業痛點的精準把握；而堅持讓普通人用得起算力，又體現了企業的格局。這讓我明白，學習AI不只是為了發論文、拿學位，更是要像他們這樣，盯著國家和社會的需求做研究，讓技術真正服務于更多人。”大家紛紛表示，將以此次調研為契機，在學習中聚焦國家算力戰略需求，為國產AI芯片的發展貢獻青春力量。

（通訊員 郭瀚澤 劉典輝）