百度申請(qǐng)針對(duì)混合使用多種型號(hào)芯片算力集群訓(xùn)練策略專利低成本快速確定訓(xùn)練策略
發(fā)布時(shí)間：2025-04-08 作者：小編 來源：網(wǎng)絡(luò) 點(diǎn)擊： 字號(hào)：大 中 小
金融界2025年1月18日消息，國家知識(shí)產(chǎn)權(quán)局信息顯示，北京百度網(wǎng)訊科技有限公司申請(qǐng)一項(xiàng)名為“針對(duì)混合使用多種型號(hào)芯片的算力集群的訓(xùn)練策略確定方法及相關(guān)裝置”的專利，公開號(hào) CN 119312097 A，申請(qǐng)日期為2024年12月。
專利摘要顯示，本公開提供了針對(duì)混合使用多種型號(hào)芯片的算力集群的訓(xùn)練策略確定方法及相關(guān)裝置，涉及圖形處理芯片、算力集群、大模型、模型訓(xùn)練等技術(shù)領(lǐng)域。該方法包括確定構(gòu)成算力集群的各目標(biāo)型號(hào)芯片和對(duì)應(yīng)的數(shù)量占比；針對(duì)每種目標(biāo)型號(hào)芯片，均確定目標(biāo)型號(hào)芯片在預(yù)設(shè)性能種類的性能評(píng)價(jià)和各性能種類在每種備選訓(xùn)練策略下的權(quán)重分布；針對(duì)每種備選訓(xùn)練策略，均使用其分別匹配于每種目標(biāo)型號(hào)芯片的權(quán)重分布對(duì)各相應(yīng)的預(yù)設(shè)性能種類下的性能評(píng)價(jià)結(jié)合各相應(yīng)的數(shù)量占比進(jìn)行加權(quán)處理，得到對(duì)應(yīng)的綜合訓(xùn)練評(píng)價(jià)；基于各綜合訓(xùn)練評(píng)價(jià)的評(píng)價(jià)參數(shù)，確定目標(biāo)訓(xùn)練策略。應(yīng)用本方案可低成本、快速的確定適合混合使用多型號(hào)芯片的算力集群在訓(xùn)練大模型時(shí)使用的訓(xùn)練策略。
天眼查資料顯示，北京百度網(wǎng)訊科技有限公司，成立于2001年，位于北京市，是一家以從事互聯(lián)網(wǎng)和相關(guān)服務(wù)為主的企業(yè)。企業(yè)注冊(cè)資本1342128萬人民幣，實(shí)繳資本1342128萬人民幣。通過天眼查大數(shù)據(jù)分析，北京百度網(wǎng)訊科技有限公司共對(duì)外投資了74家企業(yè)，參與招投標(biāo)項(xiàng)目2806次，知識(shí)產(chǎn)權(quán)方面有商標(biāo)信息973條，專利信息5000條，此外企業(yè)還擁有行政許可47個(gè)。