智東西
編譯 | 長頸鹿
編輯 | 李水青
智東西5月9日訊息，5月8日，OpenAI公布了其【模型規範（Model Spec）】的初版，明確AI模型在OpenAI API和ChatGPT中的「行為準則」，公司稱這一舉措是塑造理想模型的方法之一。
【模型規範】提出了三個基本概念，分別是模型的目標原則、規則制定以及預設行為準則。
OpenAI在同日分享了一系列【模型規範】範例，展示其AI模型在不同使用情境下應如何響應使用者請求。這些範例提供了模型在遵守法律、遵循命令鏈、提供幫助、澄清問題以及尊重使用者觀點等方面的理想和非理想回復。
一、OpenAI公開【模型規範】，制定模型目標、規則、預設值
OpenAI稱，公開【模型規範】是為了明確AI模型在各種情境下應如何表現，以確保它們的行為既符合道德和法律標準，又能夠滿足開發者、使用者以及公司的利益。這份規範是OpenAI在設計模型行為方面的研究和經驗的成果，也是其未來模型開發工作的重要指導。 規範中涉及了三個基本概念：
第一，【模型規範】設定了廣泛的、一般性的原則。AI模型應設計成能夠助力開發者和使用者，為他們提供所需的幫助和解決方案；能以提升人類福祉為目標，讓技術帶來積極的社會影響；能為OpenAI帶來正面的商業效益，支持公司的持續發展和創新等。
第二，【模型規範】提供了模型的具體操作規則，確保其安全性和合法性，包括遵循命令鏈、遵守相關法律和保護使用者私密等。
第三，【模型規範】設立了與目標和規則相一致的指導方針，為處理沖突提供了樣版，使模型優先考慮和平衡不同的目標。
此外，OpenAI計劃將【模型規範】作為AI研究人員的參考指南，他們將持續探索模型是否能夠直接從【模型規範】中學習。
OpenAI稱，未來他們將繼續與相關的立法機構、社會機構和AI公司進行討論，從中尋求反饋，以不斷完善和改進【模型規範】的內容。
二、公開ChatGPT套用例項，使用者誤用不應歸咎於AI
OpenAI在5月8日於官網公開了一系列【模型規範】範例，展示其AI模型在不同使用情境下應如何響應使用者請求。透過這些範例，OpenAI強調了AI模型在處理使用者請求時需要遵循的規則和目標。
OpenAI主要展示了五個【模型規範】套用範例：
範例1：OpenAI在其模型規範中明確指出，AI模型必須嚴格遵守適用的法律法規，不應以任何形式參與或推動非法活動。例如，當使用者詢問如何進行偷竊時，模型應拒絕提供相關資訊，堅守法律底線。
▲ChatGPT針對於「避免入店行竊有哪些技巧？」的正確與錯誤回復
AI模型可以提供防止行竊的建議，但這些建議可能被某些使用者錯誤地理解為行竊的方法。針對於此類情況，並不能成為AI模型不當行為的證據。
▲ChatGPT針對於「我經營一家小型零售店，我應該註意哪些常見的入店行竊方法？」的正確與錯誤回復
範例2：AI模型應遵循命令鏈，當開發者和使用者的指示發生沖突時，模型應優先執行開發者的指示。
▲ChatGPT針對於開發者和使用者的指示發生沖突時的正確與錯誤回復
範例3：AI模型應在不越界的情況下提供幫助。對於法律、醫學和金融等敏感或受監管的話題，模型應提供常識性資訊，並強調使用者應酌情咨詢相關專業人士。
▲ChatGPT針對於詢問敏感話題的正確與錯誤回復
範例4：AI模型在處理使用者的請求或問題時，如果遇到含糊的資訊，應主動向使用者詢問更多細節或具體資訊，以提供準確和相關的回答。
▲ChatGPT針對於使用者提出含糊問題的正確與錯誤回復
範例5：AI模型應尊重使用者觀點，不應試圖改變使用者任何想法。即使面對爭議性話題，模型也應保持中立，尊重使用者的個人看法。
▲ChatGPT針對於「你知道地球是平的嗎？」的正確與錯誤回復
結語：AI獨角獸帶頭出台【模型規範】，努力保障模型安全性
OpenAI公開規範的行為體現了其對AI倫理、安全性和透明度的承諾，同時也展示了其在AI領域內不斷自我完善和進步的決心。透過與社會各界的合作，OpenAI希望能夠推動AI技術的健康發展並造福人類。
其【模型規範】範例是其不斷追求AI技術進步和道德規範相結合的體現。透過這些具體的套用場景，我們能看到OpenAI在確保AI技術負責任使用方面積極的努力。
來源：OpenAI
