11月21日，在2024年世界互聯(lián)網大會烏鎮(zhèn)峰會“人工智能負責任開發(fā)與應用分論壇”上，螞蟻集團副總裁李俊奎在發(fā)言中指出，要為AI健康發(fā)展設立“紅綠燈”：對會給人類價值觀和社會穩(wěn)定造成嚴重沖擊的AI應用，必須進行防御和抵制；對具有潛在風險的AI應用領域，要做充分、深度的分析和研究，建立完善的倫理和安全框架；對那些有益于人類的AI應用，應亮起通行信號。

李俊奎將AI比作高速行駛的列車，“它既帶來了前所未有的機遇，如促進經濟發(fā)展、社會進步、助力公益事業(yè)，但如同列車需要軌道和信號的引導一樣，AI的發(fā)展也不能毫無約束地狂奔，必須為其設立紅綠燈，保障其健康前行”。

紅燈，就是做好風險的控制。“我們要警惕AI技術被惡意利用，比如用于制造虛假信息、發(fā)動網絡攻擊或者加劇社會不平等。深度偽造技術就是一個例子，如果不加以限制，它可能會破壞社會的信任體系，引發(fā)混亂。”李俊奎表示，必須對抗這種會對人類價值觀和社會穩(wěn)定造成嚴重沖擊的應用，讓紅燈成為不可逾越的紅線。

黃燈，就是在技術之外，做好AI制度管理，謹慎對待那些具有潛在風險的AI領域?！袄?，自動駕駛領域雖然前景非常廣闊，但目前還存在很多復雜的倫理問題，比如當自動駕駛汽車面臨不可避免的碰撞時，它應該優(yōu)先保護車內乘客還是行人？”李俊奎認為，面對類似情況，要進行充分、深度的研究和討論，建立完善的倫理和安全框架，只有當風險可控時，才允許其繼續(xù)前行。

李俊奎介紹，螞蟻集團在去年年初建立AI安全倫理委員會時便期望用“善治”應對“善智”。集團的任何AI應用在出臺前，都會經過包括科技倫理在內的評測，真正做到用制度引導AI驅動的業(yè)務符合“以人為本，科技向善”。

綠燈，就是為那些有益于人類的AI應用亮起通行信號。“安全是手段，最終目的是促進AI健康發(fā)展，廣泛應用于產業(yè)和方便人民的生活，縮小AI引發(fā)的技術鴻溝。”

李俊奎表示，為AI的發(fā)展設立“紅綠燈”的過程也是構建負責任AI的過程。負責任AI的建立從長遠來看面臨三大趨勢：第一，從“準確性”到“人情味”。除了保證AI的可靠性和準確性之外，也要真正讓AI更好地服務人類。第二，從“顯性風險被動防控”到“隱性風險主動防控”。第三，從“對話交互”到“有效協(xié)同”。

李俊奎認為，負責任AI的建立需要各界多方共同努力。對于政府來說，要制定合理的法規(guī)政策，明確紅線和監(jiān)管的機制；對于社會組織、科研機構來說，要加強對AI倫理和風險的研究，為決策提供科學依據；對于科技企業(yè)來說，要自覺遵守道德和倫理準則，將社會責任融入技術研發(fā)中；對于公眾來說，要積極關注和參與AI發(fā)展的討論，共同構建負責任的AI?！翱傊?，設立好紅綠燈，建立負責任AI，是一個系統(tǒng)性、開放性的命題，既刻不容緩，也需要長期主義?！?/p>