習近平總書記曾強調(diào)指出，“人工智能是人類發(fā)展新領域”。當前，人工智能領域科技創(chuàng)新異�；钴S，一大批前沿成果陸續(xù)突破并帶動全球人工智能創(chuàng)新的新一輪熱潮。其中，以大模型為代表的人工智能技術取得了重大突破，拉開了通用人工智能時代的序幕。大模型在模型能力、應用范圍、智能程度等方面最具代表性，經(jīng)歷了統(tǒng)計語言模型、神經(jīng)語言模型和預訓練模型等階段的發(fā)展，以超大規(guī)模的參數(shù)在工程化加載后展現(xiàn)出的內(nèi)容，讓人們看到了科技的又一次歷史性跨越。人工智能進入通用人工智能時代后，各種“類人”和“超人”能力將持續(xù)涌現(xiàn)，自主性、通用性和易用性快速提升，成為經(jīng)濟社會發(fā)展的新型技術底座。
首先，通用人工智能將對經(jīng)濟、就業(yè)、教育、生活方式等方面產(chǎn)生深遠影響。通用人工智能時代將創(chuàng)造更多跨業(yè)態(tài)、多元化、高效率的商業(yè)模式，還將使一些工作自動化并創(chuàng)造出新的就業(yè)機會和領域，進而改變就業(yè)結(jié)構(gòu)。通用人工智能也將進一步拓展教育空間，提升教育效果，優(yōu)化教育管理，促進教育數(shù)字化發(fā)展，推動教育現(xiàn)代化發(fā)展進程。它還將使人們的工作、社交、醫(yī)療服務、娛樂等更加智能化、個性化。隨著大模型開始模擬人類從事廣泛的語言理解和內(nèi)容生成任務，人們面臨著一個極具挑戰(zhàn)的問題，即如何堅持發(fā)展負責任的大模型，讓大模型的能力和行為與社會主義核心價值觀、全人類共同價值相一致，確保人類與人工智能協(xié)作過程中的安全與信任是關涉人工智能控制與人工智能安全的重要問題。
其次，大模型目前存在一些突出問題和潛在風險，如用戶隱私安全問題、大模型本身的技術問題：規(guī)范博弈、目標錯誤泛化、惡意使用等問題。對大模型進行價值觀對齊可以更好地應對大模型目前存在的一些突出問題和潛在風險，使大模型更加安全、可靠、實用。
再次，通用人工智能有望推動人類社會邁向智能增強時代，將對經(jīng)濟社會發(fā)展和人類文明產(chǎn)生更加深遠的影響。在智能增強時代，人機共存，物理世界和虛擬世界將交互并行�！叭恕锢硎澜绲膬稍臻g”將轉(zhuǎn)換為“人——物理世界——智能機器——虛擬信息世界”的四元空間。機器的智能化能力不斷提高，有望補齊感知、記憶、推理、情感上的短板，并將逐步擁有自主決策、自主學習和自主調(diào)節(jié)等能力，越來越顯示出通用、類人、智慧的特征。人機交互技術將日益革新，將滿足情景感知的自動化、實時化和個性化要求，在持續(xù)顛覆用戶體驗的同時達到智能增強的目的，進而產(chǎn)生超級智能和融合智能等新形態(tài)。而伴隨著人工智能技術的不斷發(fā)展，人工智能與人類社會高度綁定，幫助乃至代替人類完成各種任務，這就更加需要人工智能能夠更好地反饋和適應人類的反饋和需求，符合人類的道德準則和價值觀念。
面對通用人工智能發(fā)展給世界帶來的巨大機遇和難以預知的各種風險與復雜挑戰(zhàn)，習近平總書記提出：“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風險�！敝蟹皆诘谌龑谩耙粠б宦贰眹H合作高峰論壇上提出《全球人工智能治理倡議》，將同各國加強交流和對話，共同促進全球人工智能健康有序安全發(fā)展。聯(lián)合國安理會舉辦“人工智能給國際和平與安全帶來的機遇與風險”高級別公開會議，呼吁設立監(jiān)管機構(gòu)來監(jiān)督人工智能并成立AI咨詢機構(gòu)，為國際社會加強人工智能治理提供支持。加強人工智能治理，實現(xiàn)通用人工智能價值觀對齊是當下亟待解決的重要問題，一是要始終堅持“以人為本”理念，以增進人類共同福祉為目標，確保人工智能朝著有利于人類文明進步的方向發(fā)展；二是要始終堅持“智能向善”宗旨，遵守倫理規(guī)范與法律法規(guī)，使其符合“和平、發(fā)展、公平、正義、民主、自由”的全人類共同價值追求，遵循社會主義核心價值觀，防止人工智能技術的惡用濫用；三是要積極加強人工智能技術持續(xù)創(chuàng)新，進一步推動人工智能技術發(fā)展；四是要積極發(fā)展人工智能治理的相關技術開發(fā)與應用，在人類反饋的強化學習、有效干預訓練數(shù)據(jù)、開發(fā)內(nèi)容過濾工具、推進模型的可解釋性和可理解性等研究成果的基礎上，進一步深化人工智能治理研究，提高人工智能治理的技術能力。
塑造正確的通用人工智能時代的價值觀，發(fā)展負責任的人工智能，促進人工智能健康發(fā)展，需要政府、社會、企業(yè)、學術界等各方投入更多資源來推動價值觀對齊研究與實踐，需要思想政治教育、哲學、計算機、倫理學、心理學、社會學等多學科共同參與，讓人們監(jiān)督、理解、控制人工智能的能力與人工智能的發(fā)展進步齊頭并進，以確保人工智能能夠造福全人類和全社會。
�。ㄗ髡哧惪葡抵貞c大學馬克思主義學院黨委書記，教授、博士生導師；單燕杰系重慶大學馬克思主義學院的博士研究生）
