據(jù)路透社8月30日報(bào)道，英國官員正在警告機(jī)構(gòu)組織注意把人工智能聊天機(jī)器人整合到業(yè)務(wù)中的風(fēng)險(xiǎn)，稱研究越來越多地顯示，機(jī)構(gòu)組織可能被誘騙從事有害的任務(wù)。

其實(shí)AI聊天機(jī)器人目前所面臨的問題相對還比較多，畢竟是一項(xiàng)新的技術(shù)，各種應(yīng)用與標(biāo)準(zhǔn)都還不完善。AI聊天機(jī)器人在政府以及公司工作中的使用，不僅存在著數(shù)據(jù)與網(wǎng)絡(luò)的安全風(fēng)險(xiǎn)，同時(shí)由于AI幻覺問題也在一定程度上影響著AI使用的質(zhì)量。

而目前將AI聊天用于日常的娛樂，包括網(wǎng)絡(luò)文學(xué)的創(chuàng)作方面，這將會是一個(gè)不錯(cuò)的工具。但是如果要應(yīng)用于相對嚴(yán)謹(jǐn)?shù)馁Y料處理，包括知識領(lǐng)域的應(yīng)用，目前還需要謹(jǐn)慎的對待。

當(dāng)然，如果只是一個(gè)假的AI聊天機(jī)器人，本質(zhì)上只是一個(gè)資料問答，或者說數(shù)據(jù)庫問答，這類的聊天對話相對可靠性更一些，但這類產(chǎn)品跟AI聊天機(jī)器人之間沒有什么關(guān)聯(lián)。

當(dāng)前，擺在各國政府以及企業(yè)面前的現(xiàn)實(shí)挑戰(zhàn)是兩方面：一方面是如何快速的發(fā)展出成熟、可靠的AI大模型應(yīng)用技術(shù)，另外一方面則是如何有效監(jiān)管AI大模型的使用安全性。