ChatGPT 潛力、風險和負責任應用的探討
全球領先的人工智能（AI）研究和部署公司OpenAI最近推出了一個名為ChatGPT的AI聊天機器人，引發了全球范圍內對與AI對話的熱潮。OpenAI聲稱ChatGPT能夠回答使用者的後續問題，並具備承認錯誤、挑戰不正確問題前提以及拒絕不適當請求的能力。眾所周知的IT研究和咨詢公司Gartner的高層曾就ChatGPT提出四個問題，從而揭示了這一AI工具的一些秘密，並分析了如何將其應用于企業運營。
自ChatGPT推出以來，公眾一直圍繞著這項AI技術的潛在可能性和危險性展開熱烈討論。這些討論包括了ChatGPT在編程調試方面的潛力，以及其可能為大學生撰寫論文等方面帶來的影響。Gartner的副總裁Ern Elliot對ChatGPT的影響進行了詳細探討，并提出了數據和分析（D&A）領域的領導者可以採取哪些措施來確保負責任地使用這些工具。
ChatGPT引起了廣泛關注的原因是它將兩個當前熱門的人工智能領域——聊天機器人（Chatbot）和GPT-3結合在一起。這種結合提供了非常有趣的互動，並生成了看起來非常人性化的內容。在過去的五年中，聊天機器人和GPT-3在各自的技術領域取得了顯著進步。
聊天機器人使對話看起來更加“智能”，而GPT-3的輸出似乎“理解”了接收到的問題和上下文。將它們結合在一起就產生了“是人還是機器？”的恐怖谷效應，讓人不禁思考它是否可以被稱為一台像人類一樣的計算機。與ChatGPT的互動讓人感到其回應有時幽默、有時深刻、有時富有洞察力。然而，需要注意的是，ChatGPT有時回答的內容可能是不正確的，並且它的回答並不是通過人類的理解或智慧進行處理的。這種差距可能源於用來描述ChatGPT的術語“理解”和“智能”，這兩個術語隱含了人類的特質，因此將它們應用於像ChatGPT這樣的AI工具可能會導致嚴重的誤解。更好的處理方式是將聊天機器人和GPT等大型語言模型（LLM）視為潛在有用的工具，用於完成特定任務。它們的成功定義取決於這些技術能否為企業組織帶來實質性的好處。
ChatGPT的應用實例很多，尤其是在企業中。Chatbot或對話助手提供了與用戶之間細緻的互動，並可以用於提供客戶服務，協助技術人員識別問題等。ChatGPT是一個特定的Chatbot應用實例，用於與GPT訊息源互動或交談。GPT訊息源由OpenAI針對特定領域進行訓練，而其訓練數據就決定了問題的回答方式。然而，由於無法預測GPT是否會生成錯誤訊息，因此GPT所產生的訊息只能用於容許或可以糾正錯誤的情況下使用。
在軟件工程、科學研究和開發等領域，GPT等基礎模型擁有很多應用實例。例如，基礎模型已用於從文本創建圖像（text to image）；從自然語言生成、審查和審計代碼（code），如智能合約；甚至在醫療保健領域中，創造新藥和破譯用於疾病分類的基因組序列等。ChatGPT和GPT等大型語言模型可以幫助企業自動化工作流程，提高生產力和效率，並改善客戶體驗。但企業需要謹慎使用這些技術，確保它們的負責任使用，並避免濫用和濫用所帶來的潛在風險。
GPT等AI基礎模型代表了人工智能領域的重大變革。它們帶來了許多優勢，例如大幅降低了創建特定領域模型所需的成本和時間。然而，這些模型也引發了風險和道德問題，包括以下幾個方面：
- 複雜性（Complexity）：大型模型涉及數十億甚至數萬億個參數，需要龐大的運算資源進行訓練，這使得大多數組織無法訓練這些模型，且成本昂貴。
- 權力集中（Concentration of power）：這些模型主要由少數財力雄厚的科技巨頭建立，他們擁有巨額資金用於研發投資和聘請AI人才，這導致權力集中在少數大型機構中，可能導致嚴重的權力失衡。
- 潛在誤用（Potential misuses）：基礎模型降低了內容創建的成本，容易創建與原始內容非常相似的deepfakes，如語音和視訊模仿、虛假藝術，以及具針對性的攻擊等，這些嚴重的倫理問題可能引致聲譽侵害或導致政治衝突。
- 黑盒性質（Black-box nature）：這些模型仍需要仔細訓練，並由於其黑盒性質，可能產生不可接受的結果。
- 知識產權（Intellectual property）：基礎模型是在創作作品的資料庫上訓練的，目前還不清楚這些內容是否源自他人的知識產權，重用這些內容可能引發法律問題。
企業和政府需要謹慎使用這些技術，確保它們的負責任使用，並避免濫用和濫用所帶來的潛在風險。此外，需要建立更好的監管框架，以確保AI技術的安全性、可靠性和透明度。
在將人工智能（AI）基礎模型整合到組織中時，領導者應該以道德合乎的方式進行。建議從自然語言處理（NLP）開始工作項目，例如非面向客戶場景的分類、摘要和文本生成，並使用已訓練的模型來執行特定相關任務，以避免昂貴的個人化選項或再訓練成本。然而，在使用模型輸出內容時，最好由人類進行審查，以確保其準確性和合適性。
此外，建議領導者建立一份策略文件，概述AI基礎模型的優勢、風險、機遇和部署路線圖，以幫助其確定使用AI的好處是否大於風險。在使用雲端API時，應選擇能夠降低操作複雜性、降低能耗和優化總體成本的最小規模模型，同時提供準確度和性能兼備。建議領導者優先考慮那些已發布使用指南、執行指南、記錄已知漏洞和弱點，並主動披露有害行為和誤用場景的服務供應商。
總之，領導者應該謹慎地整合AI基礎模型到組織中，並遵循最佳實踐和道德準則，以確保其使用對組織和社會的影響是正面的。
評論