ChatGPT 潛力、風險和負責任應用的探討
全球領先的人工智能(AI)研究和部署公司OpenAI最近推出了一個名為ChatGPT的AI聊天機器人,引發了全球范圍內對與AI對話的熱潮。OpenAI聲稱ChatGPT能夠回答使用者的後續問題,並具備承認錯誤、挑戰不正確問題前提以及拒絕不適當請求的能力。眾所周知的IT研究和咨詢公司Gartner的高層曾就ChatGPT提出四個問題,從而揭示了這一AI工具的一些秘密,並分析了如何將其應用于企業運營。
自ChatGPT推出以來,公眾一直圍繞著這項AI技術的潛在可能性和危險性展開熱烈討論。這些討論包括了ChatGPT在編程調試方面的潛力,以及其可能為大學生撰寫論文等方面帶來的影響。Gartner的副總裁Ern Elliot對ChatGPT的影響進行了詳細探討,并提出了數據和分析(D&A)領域的領導者可以採取哪些措施來確保負責任地使用這些工具。
ChatGPT引起了廣泛關注的原因是它將兩個當前熱門的人工智能領域——聊天機器人(Chatbot)和GPT-3結合在一起。這種結合提供了非常有趣的互動,並生成了看起來非常人性化的內容。在過去的五年中,聊天機器人和GPT-3在各自的技術領域取得了顯著進步。
聊天機器人使對話看起來更加“智能”,而GPT-3的輸出似乎“理解”了接收到的問題和上下文。將它們結合在一起就產生了“是人還是機器?”的恐怖谷效應,讓人不禁思考它是否可以被稱為一台像人類一樣的計算機。與ChatGPT的互動讓人感到其回應有時幽默、有時深刻、有時富有洞察力。然而,需要注意的是,ChatGPT有時回答的內容可能是不正確的,並且它的回答並不是通過人類的理解或智慧進行處理的。這種差距可能源於用來描述ChatGPT的術語“理解”和“智能”,這兩個術語隱含了人類的特質,因此將它們應用於像ChatGPT這樣的AI工具可能會導致嚴重的誤解。更好的處理方式是將聊天機器人和GPT等大型語言模型(LLM)視為潛在有用的工具,用於完成特定任務。它們的成功定義取決於這些技術能否為企業組織帶來實質性的好處。
ChatGPT的應用實例很多,尤其是在企業中。Chatbot或對話助手提供了與用戶之間細緻的互動,並可以用於提供客戶服務,協助技術人員識別問題等。ChatGPT是一個特定的Chatbot應用實例,用於與GPT訊息源互動或交談。GPT訊息源由OpenAI針對特定領域進行訓練,而其訓練數據就決定了問題的回答方式。然而,由於無法預測GPT是否會生成錯誤訊息,因此GPT所產生的訊息只能用於容許或可以糾正錯誤的情況下使用。
在軟件工程、科學研究和開發等領域,GPT等基礎模型擁有很多應用實例。例如,基礎模型已用於從文本創建圖像(text to image);從自然語言生成、審查和審計代碼(code),如智能合約;甚至在醫療保健領域中,創造新藥和破譯用於疾病分類的基因組序列等。ChatGPT和GPT等大型語言模型可以幫助企業自動化工作流程,提高生產力和效率,並改善客戶體驗。但企業需要謹慎使用這些技術,確保它們的負責任使用,並避免濫用和濫用所帶來的潛在風險。
GPT等AI基礎模型代表了人工智能領域的重大變革。它們帶來了許多優勢,例如大幅降低了創建特定領域模型所需的成本和時間。然而,這些模型也引發了風險和道德問題,包括以下幾個方面:
- 複雜性(Complexity):大型模型涉及數十億甚至數萬億個參數,需要龐大的運算資源進行訓練,這使得大多數組織無法訓練這些模型,且成本昂貴。
- 權力集中(Concentration of power):這些模型主要由少數財力雄厚的科技巨頭建立,他們擁有巨額資金用於研發投資和聘請AI人才,這導致權力集中在少數大型機構中,可能導致嚴重的權力失衡。
- 潛在誤用(Potential misuses):基礎模型降低了內容創建的成本,容易創建與原始內容非常相似的deepfakes,如語音和視訊模仿、虛假藝術,以及具針對性的攻擊等,這些嚴重的倫理問題可能引致聲譽侵害或導致政治衝突。
- 黑盒性質(Black-box nature):這些模型仍需要仔細訓練,並由於其黑盒性質,可能產生不可接受的結果。
- 知識產權(Intellectual property):基礎模型是在創作作品的資料庫上訓練的,目前還不清楚這些內容是否源自他人的知識產權,重用這些內容可能引發法律問題。
企業和政府需要謹慎使用這些技術,確保它們的負責任使用,並避免濫用和濫用所帶來的潛在風險。此外,需要建立更好的監管框架,以確保AI技術的安全性、可靠性和透明度。
在將人工智能(AI)基礎模型整合到組織中時,領導者應該以道德合乎的方式進行。建議從自然語言處理(NLP)開始工作項目,例如非面向客戶場景的分類、摘要和文本生成,並使用已訓練的模型來執行特定相關任務,以避免昂貴的個人化選項或再訓練成本。然而,在使用模型輸出內容時,最好由人類進行審查,以確保其準確性和合適性。
此外,建議領導者建立一份策略文件,概述AI基礎模型的優勢、風險、機遇和部署路線圖,以幫助其確定使用AI的好處是否大於風險。在使用雲端API時,應選擇能夠降低操作複雜性、降低能耗和優化總體成本的最小規模模型,同時提供準確度和性能兼備。建議領導者優先考慮那些已發布使用指南、執行指南、記錄已知漏洞和弱點,並主動披露有害行為和誤用場景的服務供應商。
總之,領導者應該謹慎地整合AI基礎模型到組織中,並遵循最佳實踐和道德準則,以確保其使用對組織和社會的影響是正面的。
評論