據(jù)外媒報道，隨著OpenAI訓練的ChatGPT人工智能聊天機器人風靡全球，多家公司也開始加速相關技術的研發(fā)和應用。最新的自然語言處理模型GPT-4于3月14日推出，進一步推動了大型語言模型及類ChatGPT技術的發(fā)展。

然而，隨著這些人工智能技術的快速發(fā)展，也引起了人們對其潛在風險的擔憂。上千名頂尖人士，包括馬斯克、蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克等，曾公開呼吁AI實驗室暫停訓練更強大的模型6個月，以制定并落實相關的安全協(xié)議。

為了探討如何以最負責任的態(tài)度繼續(xù)開發(fā)AI技術，頂級投資公司SV Angel將于當?shù)貢r間周三召集AI研發(fā)領域頂尖企業(yè)的高管和員工，探討制定使用AI技術的標準。據(jù)報道，OpenAI、微軟、谷歌、蘋果、英偉達等公司的代表預計將參會。

在此前呼吁暫停訓練更強大的模型的信中，他們提到，AI實驗室和第三方的專家應該利用暫停時間，共同制定和實施先進AI設計和開發(fā)的共享安全協(xié)議，并由第三方專家進行嚴格的審查和監(jiān)督。同時，AI開發(fā)人員必須同政策制定者合作，加速開發(fā)強大的AI管理系統(tǒng)。

這一事件再次引起人們對AI技術的潛在風險的關注。人們普遍認為，盡管AI技術的發(fā)展前景廣闊，但也需要制定相關安全協(xié)議和規(guī)定，以確保其合理、負責任的應用。

據(jù)悉，目前國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，現(xiàn)向社會公開征求意見。在征求意見稿中，明確了提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務；利用生成式人工智能產(chǎn)品生成內(nèi)容的提供者應當對生成式人工智能產(chǎn)品的預訓練數(shù)據(jù)、優(yōu)化訓練數(shù)據(jù)來源的合法性負責；對于運行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應在3個月內(nèi)通過模型優(yōu)化訓練等方式防止再次生成等內(nèi)容。

隨著人工智能技術的不斷進步，AI技術的發(fā)展前景仍然十分廣闊。然而，我們也需要認真考慮其潛在風險，積極制定相關安全協(xié)議和規(guī)定，確保其合理、負責任的應用，以實現(xiàn)人工智能技術的可持續(xù)發(fā)展。