·螞蟻集團(tuán)啟動(dòng)大模型倫理共建計(jì)劃，采用國(guó)家法律法規(guī)數(shù)據(jù)作為訓(xùn)練資料，提供給大模型學(xué)習(xí)，已在前期共建了超過(guò)150個(gè)法律法規(guī)和司法解釋相關(guān)的語(yǔ)料庫(kù)。

人工智能在快速迭代和發(fā)展的同時(shí)，也給人類(lèi)社會(huì)的倫理和治理帶來(lái)挑戰(zhàn)。

9月8日上午，外灘大會(huì)“AI科技倫理”見(jiàn)解論壇在上海舉行。眾多專(zhuān)家在會(huì)上提及近期引發(fā)熱議的“AI換臉”、人臉識(shí)別等問(wèn)題。同時(shí)，螞蟻集團(tuán)在論壇上宣布啟動(dòng)大模型倫理共建計(jì)劃。

螞蟻集團(tuán)研究院院長(zhǎng)李振華在啟動(dòng)儀式上表示，螞蟻大模型倫理共建計(jì)劃采用了國(guó)家法律法規(guī)數(shù)據(jù)作為訓(xùn)練資料，提供給大模型學(xué)習(xí)。通過(guò)法律專(zhuān)家為大模型出考題，讓大模型了解倫理方面的問(wèn)題，做出相應(yīng)解答。

李振華稱(chēng)，倫理共建計(jì)劃將持續(xù)收集用戶(hù)反饋和時(shí)事熱點(diǎn)信息，動(dòng)態(tài)更新不斷優(yōu)化大模型倫理知識(shí)體系，以提升大模型在處理實(shí)際問(wèn)題方面的基本表現(xiàn)。在共建大模型倫理計(jì)劃時(shí)，可利用平臺(tái)優(yōu)勢(shì)，讓用戶(hù)深度參與其中，為模型構(gòu)建提供相關(guān)反饋和意見(jiàn)。

李振華透露，螞蟻集團(tuán)在前期已經(jīng)進(jìn)行了一些嘗試，共建了超過(guò)150個(gè)法律法規(guī)和司法解釋相關(guān)的語(yǔ)料庫(kù)。

今年，“AI換臉孫燕姿”曾在B站等網(wǎng)絡(luò)平臺(tái)走紅，視頻上傳者通過(guò)使用AI音色替換技術(shù)生成了高度還原孫燕姿音色的翻唱歌曲；“AI換臉”也被不法分子利用，冒充領(lǐng)導(dǎo)干部行騙、詐騙等，為公安機(jī)關(guān)、檢察機(jī)關(guān)偵查案件增添不少難度。為限制人臉識(shí)別技術(shù)過(guò)度采集、濫用。8月8日，國(guó)家互聯(lián)網(wǎng)信息辦公室起草《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定（試行）（征求意見(jiàn)稿）》，公開(kāi)對(duì)外征求意見(jiàn)。

圍繞如何發(fā)展更安全、負(fù)責(zé)、可信的AI這一主題，論壇現(xiàn)場(chǎng)眾多專(zhuān)家展開(kāi)討論。

在外灘大會(huì)“AI科技倫理”見(jiàn)解論壇上，圍繞如何發(fā)展更安全、負(fù)責(zé)、可信的AI這一主題，眾多專(zhuān)家展開(kāi)討論。

關(guān)于AI科技倫理，中國(guó)信息通信研究院華東分院院長(zhǎng)廖運(yùn)發(fā)指出，大模型的發(fā)展進(jìn)一步加大了人工智能的固有風(fēng)險(xiǎn)：一方面，隨著參數(shù)規(guī)模擴(kuò)大，訓(xùn)練數(shù)據(jù)的細(xì)節(jié)得以體現(xiàn)在參數(shù)中，多模態(tài)增加了模型的供給面。另一方面，隨著大模型訓(xùn)練數(shù)據(jù)集的快速增長(zhǎng)，難以對(duì)人工標(biāo)注進(jìn)行檢查，訓(xùn)練數(shù)據(jù)侵權(quán)也構(gòu)成了產(chǎn)業(yè)發(fā)展的隱憂(yōu)；此外，大模型使人工智能訓(xùn)練的算力成本急速提升，在導(dǎo)致碳排放問(wèn)題的同時(shí)，也使得中小企業(yè)越來(lái)越難以參與其中。

中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員、副所長(zhǎng)程學(xué)旗認(rèn)為，人工智能目前已經(jīng)走進(jìn)日常生活，“我們的出行、調(diào)度、指揮系統(tǒng)，人工智能都發(fā)揮了很多作用，但同時(shí)也帶來(lái)了很大的安全風(fēng)險(xiǎn)。”常見(jiàn)的安全風(fēng)險(xiǎn)聚焦在：第一，個(gè)人數(shù)據(jù)、隱私被泄漏；第二，在某些特定的自動(dòng)化交易場(chǎng)景中，某個(gè)線(xiàn)路出現(xiàn)故障會(huì)連帶后臺(tái)的調(diào)度系統(tǒng)，產(chǎn)生重大風(fēng)險(xiǎn)，這類(lèi)AI模型算法出現(xiàn)的安全風(fēng)險(xiǎn)問(wèn)題也需重視。

如何應(yīng)對(duì)人工智能帶來(lái)的安全和倫理風(fēng)險(xiǎn)？程學(xué)旗認(rèn)為，社會(huì)治理和技術(shù)治理應(yīng)當(dāng)同步推進(jìn)，前者的目標(biāo)是治理的自動(dòng)化與常態(tài)化，后者則需要實(shí)現(xiàn)治理標(biāo)準(zhǔn)化與系統(tǒng)化。

多位專(zhuān)家也指出，隨著大模型應(yīng)用場(chǎng)景與應(yīng)用案例的積累，相關(guān)的倫理規(guī)則也將進(jìn)一步豐富和完善，最終形成技術(shù)、社會(huì)、行業(yè)等不同層面的具體要求。