·螞蟻集團啟動大模型倫理共建計劃，采用國家法律法規(guī)數(shù)據(jù)作為訓練資料，提供給大模型學習，已在前期共建了超過150個法律法規(guī)和司法解釋相關(guān)的語料庫。

人工智能在快速迭代和發(fā)展的同時，也給人類社會的倫理和治理帶來挑戰(zhàn)。

9月8日上午，外灘大會“AI科技倫理”見解論壇在上海舉行。眾多專家在會上提及近期引發(fā)熱議的“AI換臉”、人臉識別等問題。同時，螞蟻集團在論壇上宣布啟動大模型倫理共建計劃。

螞蟻集團研究院院長李振華在啟動儀式上表示，螞蟻大模型倫理共建計劃采用了國家法律法規(guī)數(shù)據(jù)作為訓練資料，提供給大模型學習。通過法律專家為大模型出考題，讓大模型了解倫理方面的問題，做出相應解答。

李振華稱，倫理共建計劃將持續(xù)收集用戶反饋和時事熱點信息，動態(tài)更新不斷優(yōu)化大模型倫理知識體系，以提升大模型在處理實際問題方面的基本表現(xiàn)。在共建大模型倫理計劃時，可利用平臺優(yōu)勢，讓用戶深度參與其中，為模型構(gòu)建提供相關(guān)反饋和意見。

李振華透露，螞蟻集團在前期已經(jīng)進行了一些嘗試，共建了超過150個法律法規(guī)和司法解釋相關(guān)的語料庫。

今年，“AI換臉孫燕姿”曾在B站等網(wǎng)絡平臺走紅，視頻上傳者通過使用AI音色替換技術(shù)生成了高度還原孫燕姿音色的翻唱歌曲；“AI換臉”也被不法分子利用，冒充領導干部行騙、詐騙等，為公安機關(guān)、檢察機關(guān)偵查案件增添不少難度。為限制人臉識別技術(shù)過度采集、濫用。8月8日，國家互聯(lián)網(wǎng)信息辦公室起草《人臉識別技術(shù)應用安全管理規(guī)定（試行）（征求意見稿）》，公開對外征求意見。

圍繞如何發(fā)展更安全、負責、可信的AI這一主題，論壇現(xiàn)場眾多專家展開討論。

在外灘大會“AI科技倫理”見解論壇上，圍繞如何發(fā)展更安全、負責、可信的AI這一主題，眾多專家展開討論。

關(guān)于AI科技倫理，中國信息通信研究院華東分院院長廖運發(fā)指出，大模型的發(fā)展進一步加大了人工智能的固有風險：一方面，隨著參數(shù)規(guī)模擴大，訓練數(shù)據(jù)的細節(jié)得以體現(xiàn)在參數(shù)中，多模態(tài)增加了模型的供給面。另一方面，隨著大模型訓練數(shù)據(jù)集的快速增長，難以對人工標注進行檢查，訓練數(shù)據(jù)侵權(quán)也構(gòu)成了產(chǎn)業(yè)發(fā)展的隱憂；此外，大模型使人工智能訓練的算力成本急速提升，在導致碳排放問題的同時，也使得中小企業(yè)越來越難以參與其中。

中國科學院計算技術(shù)研究所研究員、副所長程學旗認為，人工智能目前已經(jīng)走進日常生活，“我們的出行、調(diào)度、指揮系統(tǒng)，人工智能都發(fā)揮了很多作用，但同時也帶來了很大的安全風險。”常見的安全風險聚焦在：第一，個人數(shù)據(jù)、隱私被泄漏；第二，在某些特定的自動化交易場景中，某個線路出現(xiàn)故障會連帶后臺的調(diào)度系統(tǒng)，產(chǎn)生重大風險，這類AI模型算法出現(xiàn)的安全風險問題也需重視。

如何應對人工智能帶來的安全和倫理風險？程學旗認為，社會治理和技術(shù)治理應當同步推進，前者的目標是治理的自動化與常態(tài)化，后者則需要實現(xiàn)治理標準化與系統(tǒng)化。

多位專家也指出，隨著大模型應用場景與應用案例的積累，相關(guān)的倫理規(guī)則也將進一步豐富和完善，最終形成技術(shù)、社會、行業(yè)等不同層面的具體要求。