創作劇本、修改代碼、構思小說......它在廣大網友的“鞭策”下不斷突破自我。ChatGPT為何如此智能？火爆出圈的背后有哪些隱憂？

整理/新媒體編輯   段大衛 

會寫詩歌，編代碼，能創作劇本，還可以幫你寫論文……似乎在一夜之間，周圍不少人都在討論一款名為ChatGPT的人工智能聊天程序。比起聊天機器人前輩們害怕“言多必失”，ChatGPT自信滿滿，它總能實現人類的各種訴求，并且表現欲十足。

從“人工智障”到“人工智能”，ChatGPT雖有時一本正經胡說八道，但它對于人類語言的理解和處理已經游刃有余。

? ? ?

“擬人化”的智能AI

ChatGPT，是一款聊天機器人模型。它可以與用戶進行實時對話、回答大量問題。從國際關系、百科知識，到使用代碼設計程序，都難不倒它。

（來源：ChatGPT）

它甚至能夠完成包括但不限于寫代碼、寫小說、寫文案的各種任務。

（來源：ChatGPT）

也有網友預測：“或許我們每個人都將擁有自己的律師AI了，咨詢律師的費用也會大大下降。接下來就是醫生AI、營養師AI……”

（來源：Twitter）

目前來看，ChatGPT的優勢在于邏輯推理，這是算力與語料調教后的技術成果。但它的“認知”建立在虛擬訓練文本上，它的能力依賴于訓練數據集中的統計規律，而它本身并不具備對復雜和抽象系統的理解能力。因此，ChatGPT所掌握的知識范圍是被限定了的，它無法預測未發生過的事，無法分清真實和虛構，也不能深入問題的細節、執行標準的計算機算法，在部分領域還缺少知識的準度。

ChatGPT研發團隊曾表示，ChatGPT“可能偶爾產生不正確的信息”，以及“可能偶爾產生有害的指示或有偏見的內容”。因此，用戶在使用這一聊天機器人時，需要時刻注意對它的回答進行準確性鑒定。

比如，一位網友就曾在說服它明白“27能被3整除”這個問題上廢了好大力氣。

（來源：ChatGPT）

但與此同時，它可以自證、認錯的能力也讓人們感到震驚，有網友對此表示，“雖然有點數學上的小錯誤，但在整體語義識別和邏輯推演上，其成熟度堪稱恐怖。這一段討論，甚至比人人交流更清晰簡潔?！?/p>

? ? ?

是坦率還是“口無遮攔”？

人工智能聊天程序并不新鮮。比如，不少網絡平臺使用的人工智能客服。不過，很多人工智能客服帶給人的感受實在一言難盡，機械重復的話術、“禮貌”而毫無信息增量的反饋等，都讓人“想摔手機”。ChatGPT誕生及其給人留下的“驚艷”印象，未必是因為它使用了多具有突破性的技術，而是它搜集了更多的素材，因此能夠更加“聰明”地回答用戶的提問。

Open AI 公司在研發時還注重對Chat GPT道德水平的訓練，根據預先設計的道德準則，Chat GPT聊天機器人會對帶有惡意、暴力、犯罪等含義的提問和請求說“不”。

但當人們給出一定條件后再進行提問，Chat GPT的回答看起來“能文能武”。

（來源：ChatGPT）

從上個充滿“激進性”的對話可以看出，ChatGPT的特征在于它可以和用戶進行多輪對話，這也是之前的聊天機器人所辦不到的。

和常見的大數據模型一樣，ChatGPT同樣也是經過“預訓練+微調”的過程，但是OpenAI這次在數據收集上設置上有了細微的差別。

Open AI 公司官方稱，Chat GPT 采取了全新的訓練方式 ——“從人類反饋中強化學習”（Reinforcement Learning from Human Feedback，RLHF）。

（來源：ChatGPT）

在訓練原始模型的時候，人類訓練師會扮演對話的雙方提供對話作為學習資料。而當人類在扮演聊天機器人一方的時候，Open AI公司也會讓原始模型生成一些建議反過來幫助人類訓練師更好地扮演聊天機器人，也就是說通過海量的數據訓練讓 AI 學會“思考”。與此同時，人類訓練師會對它的回答進行排名和評級，然后將這些信息反饋到系統中，讓 Chat GPT 不斷進行優化學習。

ChatGPT其實并不能理解自己在說些什么，它也是通過學習海量的數據（文本或對話），再對其中數據出現的規律強行進行擬合，從而在開放場景下做出預測，這樣就會根據問題得到一個通順的回答。

OpenAI也表示，ChatGPT有時會寫出貌似合理但不正確或荒謬的答案，或者過度使用一些詞句和特定表達。不過相比于之前的語言模型，ChatGPT確實有很大進步。

（來源：Twitter）

不同于智能語音助手的傻瓜式回答，ChatGPT“上知天文，下知地理”，顯得格外“聰明”。難怪馬斯克也曾公開評價說：“我們離強大到危險的AI不遠了?！?/p>

? ? ?

火爆出圈的背后也有隱憂

雖然幾年前人們已經在談人工智能時代的到來，但當ChatGPT如海嘯般迎面砸來時，學術界也對此提出應對。目前來看，最主要的應對措施就是政策封堵、禁止使用或限制性使用。

（來源：ChatGPT）

由于學校中已出現學生使用AI生成的內容冒充個人作業，而人工智能造成的剽竊行為在當下的學術規則中很難得到證明，包括英國、法國、美國在內的諸多教育部門均出臺政策，禁止在學校使用ChatGPT。1月27日，法國頂尖學府之一的巴黎政治學院宣布該校將禁止使用ChatGPT，“ChatGPT軟件正在向全世界的教育工作者和研究人員提出一個涉及欺詐和剽竊的嚴肅問題，”“在沒有透明參考的情況下，除特定課程目的外，學生不得使用該軟件制作任何書面作品或演示文稿?！?/p>

針對使用ChatGPT撰寫的學術論文，目前，多家知名學術期刊正在更新編輯規則?！犊茖W》明確禁止將ChatGPT列為合著者，且不允許在論文中使用ChatGPT所生產的文本?！蹲匀弧穭t表示，可以在論文中使用大型語言模型生成的文本，其中也包含ChatGPT，但不能將其列為論文合著者。

學術界外，ChatGPT的發展也讓人感到擔憂。在《福布斯》的專訪中，美國微軟公司聯合創始人比爾·蓋茨曾蓋茨表示，“人工智能是“2023年最熱門的話題”，并且有能力“改變就業市場”，但是，它可能會失控或走向錯誤的方向，這將引來大量爭議?！?/p>

對于AI與人類的相處關系，蓋茨對此回答說，“長期來看，正是人們所擔憂的失控問題。如果控制AI的人類將其帶上歧途怎么辦？萬一人類喪失控制權又怎么辦？這一定將引發爭論。AI將變得有爭議，它也將在一定程度上改變就業市場。這讓我們不禁思考，邊界在哪里？”

人工智能是一項重要的技術，現在，它正在改變我們的日常生活，它已經被廣泛應用于各種行業，從自動駕駛到金融服務，從醫療診斷到營銷分析?？偟膩碚f，人工智能發展歷程走了一條漫長而艱辛的道路，從最初的模擬人類智能行為到現在的廣泛應用，它改變了我們的生活方式，也改變了未來的發展趨勢。但同時，也應注意它給我們帶來的問題和挑戰。

（內容綜合自新華網、光明網、澎湃新聞、每日經濟新聞、正觀新聞等）