清華團(tuán)隊(duì)突破大模型算力瓶頸，4090顯卡可運(yùn)行DeepSeek-R1滿血版
2025-02-17 08:57
來源: 云財(cái)經(jīng)
影響力評(píng)估指數(shù)：15.55
相關(guān)股票：
云財(cái)經(jīng)訊，2025年2月17日，清華大學(xué)KVCache.AI團(tuán)隊(duì)聯(lián)合趨境科技發(fā)布的KTransformers開源項(xiàng)目取得重大突破。該項(xiàng)目成功實(shí)現(xiàn)了在單張24GB顯存的RTX 4090顯卡上運(yùn)行DeepSeek-R1、V3的671B滿血版。預(yù)處理速度最高可達(dá)286 tokens/s，推理生成速度最高達(dá)14 tokens/s。這一創(chuàng)新顯著降低了大模型的運(yùn)行門檻，使普通用戶也能在本地實(shí)現(xiàn)AI大模型的高效運(yùn)行。A股上市公司中，科德教育(300192)參股的中吳芯英是國內(nèi)掌握TPU架構(gòu)訓(xùn)推一體AI芯片核心技術(shù)的公司，致力于打造“自研訓(xùn)練芯片+超算集群+預(yù)訓(xùn)練大模型”的產(chǎn)業(yè)價(jià)值鏈。亞康股份(301085)依托自身優(yōu)勢(shì)，積極圍繞下游客戶需求，為其提供AI訓(xùn)練與推理所需的算力基礎(chǔ)設(shè)施全產(chǎn)業(yè)鏈服務(wù)。
云財(cái)經(jīng)智能匹配相關(guān)概念
| 新聞標(biāo)題 | 時(shí)間 | 消息來源 | 新聞熱度 |
|---|---|---|---|
| 招商證券：儲(chǔ)能爆發(fā)+固態(tài)加速 看好鋰電設(shè)備開啟新一輪景氣周期 | 今天 08:23 | 云財(cái)經(jīng) |
|
| 好特賣回應(yīng)新加盟叫停：閉店是加盟商或直營店正常的經(jīng)營選擇 全年閉店率不超過5% | 12-17 19:50 | 云財(cái)經(jīng) |
|
| 沙特國家銀行據(jù)悉考慮發(fā)行至多20億元人民幣的點(diǎn)心債 | 12-17 15:28 | 云財(cái)經(jīng) |
|
| 印度盧比一度跌至紀(jì)錄新低 貿(mào)易不確定性和資金外流令市場(chǎng)情緒承壓 | 12-16 11:55 | 云財(cái)經(jīng) |
|
| 國泰海通證券：首予極兔速遞-W“增持”評(píng)級(jí) 全球物流黑馬 | 12-16 10:28 | 云財(cái)經(jīng) |
|
| Tilray周一早盤下跌5.9%，部分回吐上漲幅 | 12-15 22:52 | 云財(cái)經(jīng) |
|