新榜訊 1 月 8 日,智源研究院舉行 AI 十大趨勢發(fā)布會。會上,螞蟻集團科技戰(zhàn)略與執(zhí)行部副總經(jīng)理彭晉針對 AI 安全進行了分享。他指出,大模型作為復(fù)雜系統(tǒng),其 Scaling 帶來了涌現(xiàn),然而復(fù)雜系統(tǒng)所具有的涌現(xiàn)結(jié)果不可預(yù)測、循環(huán)反饋等獨特屬性,給傳統(tǒng)工程的安全防護機制構(gòu)成挑戰(zhàn),風(fēng)險因素于數(shù)據(jù)、算法、應(yīng)用層面均有顯現(xiàn)。彭晉認(rèn)為,應(yīng)做到模型能力提升與風(fēng)險預(yù)防兩手抓,持續(xù)完善 AI 安全治理體系。
掃描二維碼
手機瀏覽
螞蟻集團彭晉:2025年模型能力提升與風(fēng)險預(yù)防并重
分享文章鏈接
相似推薦

螞蟻集團CTO何征宇: 大模型幻覺的源頭是缺乏數(shù)據(jù)
新榜訊 在舉行的 OceanBase 開發(fā)者大會上,螞蟻集團 CTO 何征宇指出,若無數(shù)據(jù),AI 便難以發(fā)展,數(shù)據(jù)的邊界限定了大模型的能力上限,所有數(shù)據(jù)公司都將轉(zhuǎn)型為 AI 公司。

螞蟻集團或在研AI智能眼鏡產(chǎn)品
新榜訊 據(jù)招聘網(wǎng)站一則消息,螞蟻集團現(xiàn)正招聘 AI 智能眼鏡的產(chǎn)品專家。

蘇州:做強AI芯片骨干核心企業(yè),推動AI芯片企業(yè)通過兼并重組提升資源整合能力
新榜訊 《蘇州市加快發(fā)展 AI 芯片產(chǎn)業(yè)的若干措施(征求意見稿)》公開征求意見。