在 Ray Summit 2024 大會上，OpenAI 的首席產品官 Kevin Weil 將探討人工智慧領域的新興技術及其未來發展方向。自 2024 年年中加入 OpenAI 以來，Weil 一直專註於將該組織的研究成果轉化為實際套用，致力於為消費者、開發者和企業創造創新產品。他在 Twitter 和 Instagram 擔任產品高管期間，積累了豐富的產品開發和商業化經驗。
在 Ray Summit 上，Weil 預計將分享 OpenAI 近期在產品創新方面的進展，並深入探討人工智慧如何透過技術改進和拓展產品化路徑，解鎖新的套用場景和提升使用者體驗。
Kevin Weil 的核心觀點包括：
技術的不斷演變要求產品管理適應力的轉變 ：在 OpenAI 的產品管理中，技術基礎不是固定的，而是每隔一段時間就會獲得新的能力。這種不確定性要求產品管理必須在探索中前行，適應快速變化的技術環境。
人工智慧的普及和可及性 ：OpenAI 致力於將 AI 技術普及給更多開發者，透過整合前沿模型到 API 中，並引入多模態能力，以降低成本、提升處理速度並提高安全性，從而推動全球的積極變化。
知識蒸餾技術的重要性 ：知識蒸餾技術使得大型模型能夠被精簡為小型模型，這些小型模型在執行特定任務時更高效，同時成本大幅下降，這為人工智慧的廣泛套用開啟了大門。
推理能力在 AI 產品開發中的核心地位 ：隨著 AI 模型如 O1 的發展，推理能力成為新的關鍵點。這些模型不再僅依賴於已有的知識，而是能夠進行深入思考和假設驗證，這要求開發者重新思考產品的使用者體驗設計，以適應 AI 的新能力。
以下是本期播客內容的完整轉譯，我們作了不改變原意的刪減。
在探索中前行
勞勃·西原（Robert Nishihara）
您曾在多家公司負責領導產品管理工作。那麽在 OpenAI 的產品管理與其他公司有什麽不同之處呢？
凱文·威爾（Kevin Weil）
各家公司在某種程度上都各具特色，這主要是源於其創始人和企業文化的差異。Twitter 的文化過於強調達成共識，導致在行動上受到限制。而 Instagram 的創始人凱文·斯特羅姆具備傑出的產品思維能力，我認為他是全球最優秀的產品思維者之一。
在 OpenAI，Sam 展現出了卓越的遠見，鼓勵我們大膽思考，並給予我們空間去思考需要構建什麽以及如何構建正確的產品。但最大的區別在於，我之前工作的地方通常有固定的技術基礎，你需要思考如何利用這些技術打造出最佳產品。你需要理解使用者及其需求，同時在技術上清楚自己使用什麽。 然而在 OpenAI 乃至整個 AI 生態系中，技術基礎不是固定的。每隔一兩個月，電腦就會獲得以往無法實作的新能力，而這些能力是難以預見的。
有時你可能隱約感覺到下一個模型版本將具有新的功能，但只有在模型真正完成時，你才能確定某項功能的準確度究竟是 80%、95%，還是 99%。為準確度分別為 80%和 99%的功能開發產品是截然不同的。因此，我們常常是在探索中前行，因為世界和技術變化如此迅速。這雖然帶來了很大的挑戰，但也充滿了樂趣。
勞勃·西原（Robert Nishihara）
這不僅是為了你們自己，也是為了你們的客戶和在你們平台上開發的開發者。
凱文·威爾（Kevin Weil）
不久前，我在與一位企業客戶開會時，對方詢問我們是否可以提前 60 天告知他們即將釋出的所有內容。他們認為提前通知對他們非常有幫助。我心裏想，我也希望能夠提前 60 天知道所有事情。
勞勃·西原（Robert Nishihara）
你提到了企業客戶，這是一個很好的觀點。你們不僅為消費者提供 ChatGPT 服務，也為開發者提供 API 服務。既然這是一個以開發者為中心的場合，我們來聊聊開發者方面的情況吧。能否分享一下你們對於開發者的路線圖和策略？
凱文·威爾（Kevin Weil）
昨天，我們剛剛舉辦了開發者日，這真是令人振奮的一次活動，推出了許多重要內容。總體而言，我們的理念是，人工智慧的普及能為世界帶來益處。因此，我們希望能讓更多開發者接觸到人工智慧，從而創造出令人驚嘆的作品。為此，我們致力於將所有前沿模型整合到 API 中，並引入具備多模態能力的新特性。例如，昨天我們剛剛推出了即時語音 API。
勞勃·西原（Robert Nishihara）
恭喜你！
凱文·威爾（Kevin Weil）
謝謝，謝謝。我們對此感到非常激動。昨天，我們推出了一項新的蒸餾技術，使得大型模型可以被精簡為小型模型，這些小型模型在執行特定任務時表現出色且更高效。總體而言，我們希望透過引入更多智慧技術來降低成本、提升處理速度並提高安全性。我們希望將這些技術交給超過 300 萬名 OpenAI 平台開發者，因為你們將幫助這些 AI 技術被帶給全世界的人們。這將對全球產生深遠的積極影響。
勞勃·西原（Robert Nishihara）
哪一次釋出會讓你感到最激動？
凱文·威爾（Kevin Weil）
我認為，知識蒸餾技術將成為一個極為重要的領域，因為它能夠在更多場景中套用人工智慧。 這個領域的發展趨勢確實令人驚訝。回顧最初釋出的 API，那時是 GPT-3，而現在，即便是更小型化的 GPT-4.0 Mini 模型，也是我們現有能力最強的模型之一。據我估計，其成本僅為 GPT-3 釋出時的 1%，相當於降低了 99%。這個模型變得更智慧、更安全，而且在不到兩年的時間裏成本大幅下降。
我不確定是否還有其他行業能經歷如此快速的變化，但這種局面非常棒，因為隨著人工智慧覆蓋面的擴大和成本降低，其套用場景更多，我們也能共同解決更多的問題。我們希望更多人能夠使用這項技術。此外，高級語音處理模型同樣極為重要，我可以談論一整天關於它的套用場景。
勞勃·西原（Robert Nishihara）
我只是想強調一下你的觀點：每當你能夠將某件事情的速度提升或成本降低一個數量級時，就能解鎖更多的使用場景，就像我們在 Ray 上看到的那樣。
凱文·威爾（Kevin Weil）
幾周前，我在首爾和東京與當地的客戶進行了多場會議。有些會議我們配備了轉譯，但在很多情況下，會後我會四處走動，希望能與人交流。多數時候，我不懂對方的語言，他們也不懂英語，我們幾乎沒有共同語言。因此，我使用了 ChatGPT，請求它作為我的轉譯。我用了我們最新的高級語音模式，Plus 版本現在可以使用這個功能。
我請它把我說的英語轉譯成韓語，並且將聽到的韓語轉譯成英語。結果，它真的做到了，讓我能與人交流。如果沒有 ChatGPT，我們可能連溝通兩個字都做不到，更別提進行完整的商務對話了。這非常強大。而想象一下這項技術在其他領域的套用，不僅限於商務，還包括旅行和旅遊。如果人們不再害怕去那些不懂語言的地方，生活會發生怎樣的變化。這就像實作了一個通用轉譯器的夢想。
勞勃·西原（Robert Nishihara）
已經存在很長時間了。
凱文·威爾（Kevin Weil）
過去，這就像是【星際迷航】裏的情節，不是嗎？這曾經是科幻小說裏的內容。而現在，你已經在口袋裏擁有了其中的一個裝置。
勞勃·西原（Robert Nishihara）
這簡直令人驚嘆。我記得大約在 2015 年或更早的時候見過一些展示，不過，這次的確令人難以置信。我們來談談競爭格局。開源模型對於 OpenAI 的業務意味著什麽呢？
凱文·威爾（Kevin Weil）
我很高興這些模型是開源的。實際上，我認為這不是非此即彼的問題，而是應從哲學使命的角度出發，讓更多人能夠接觸到 AI。這是一件非常了不起的事情。此外，我已經與馬克合作很多年，非常尊重他。這對於 Meta 來說是一個非常明智的策略。我們也進行了一些開源的嘗試。我們的 Whisper 模型用於轉錄，已經完全開源了一段時間。因此，我覺得這樣很好。我們能夠讓更多人接觸 AI，最終，人們希望找到最有能力、價格最合理且盡可能安全的模型，選擇越多越好。
勞勃·西原（Robert Nishihara）
您認為，OpenAI 最佳模型與最佳開源模型之間的品質差距會擴大還是縮小呢？
凱文·威爾（Kevin Weil）
我想說的是，我們一定會盡力推動其發展。
勞勃·西原（Robert Nishihara）
您如何看待與雲服務提供商之間的競爭？他們擁有構建先進模型所需的數據和資源。
凱文·威爾（Kevin Weil）
這些市場參與者之間確實存在很大差異。可以說，激烈的競爭是必然的，因為這可能是全球增長最快的市場之一。我們需要分別考量不同的雲服務提供商。Microsoft 是我們緊密合作的夥伴，他們通常在創新時使用我們的模型。Google 則更像是一個直接競爭對手，而 Amazon 則類似於 Anthropic，他們透過 Bedrock 平台在市場中嶄露頭角。
然而，更多的競爭意味著更多的選擇，競爭促使我們不斷進步。 由於該領域的激烈競爭，您將能夠獲得更優質的人工智慧模型，這對全球都是有利的。我們需要做到一些大型雲服務商無法做到的事情。我們計劃加速行動，承擔更多風險，並深入挖掘產品和新模型的潛力。
O1 和一般推理能力將變得更加重要
勞勃·西原（Robert Nishihara）
我對 O1 推理模型的釋出印象深刻。能否分享一下在將這個模型轉化為產品的過程中所面臨的挑戰？
凱文·威爾（Kevin Weil）
有人玩過 O1 嗎？它真的是一種令人驚嘆的體驗。
勞勃·西原（Robert Nishihara）
對幾乎所有人來說，都是如此。
凱文·威爾（Kevin Weil）
O1 是一個引人入勝的計畫，充滿了各種有趣的挑戰。對於還未接觸過 O1 的人來說，可以將其與我們熟悉的模型構建模式相比較，比如從 GPT-2 發展到未來可能的 GPT-5。這些模型依靠更大的計算能力和預訓練數據集，每次都進行大規模的預訓練。雖然這些模型涵蓋了廣泛的知識和事實，但它們仍然執行在類似心理學中「System One Thinking」的模式下：你提出問題，模型給予回答。
而 O1 的獨特之處在於其學會了推理。當面對問題時，O1 不僅僅是馬上給出答案，而是深入思考，提出假設，並將這些假設與已有資訊進行驗證或反駁，以生成新的假設。 這就像當你面對一個難題時，在腦中不斷琢磨。O1 在後台進行類似的運算，打破了知識的邊界，不僅依賴於已有的學習內容。因此，O1 在科學、數學等純粹需要推理的領域中展現了卓越的能力。
起初，我們不確定 O1 的普遍價值何在。我們知道在數學和科學領域，O1 展現了無與倫比的能力。在迎戰類似 GPQA 這樣的高難度研究生級科學評估時，O1 在各個科學領域的表現超過了 90%的研究生，遠超 4.0 的標準。我們的一個關註點是，O1 在編程或創意寫作這類人們慣用 ChatGPT 的領域中是否同樣有效？這促使我們認真思考產品的開發方向。O1 需要時間進行思考，並在後台進行大量推理，因此我們需要找到一種合適的方法來展現這一過程。最終，我們選擇在使用者體驗中，透過視覺化的方式展示其思考過程，讓使用者了解 O1 如何得出結論。
在整個構建過程中，我們遇到了許多新問題和挑戰，但市場反饋相當不錯。我們將 O1 引入 API，是因為我們知道開發者將面臨最具挑戰性的使用案例。我們確實見證了 O1 的廣泛套用和一些令人驚喜的創新套用。
勞勃·西原（Robert Nishihara）
是的，事實上，基於你提到的技術的廣泛套用性，我意識到一些最為艱難的科學研究任務——例如攻克癌癥治療的難題，可能需要具備強大推理能力的模型。在這種能力需求的光譜另一端，某些任務，例如總結新聞文章，則不需要太多推理能力。展望未來，對於不同的發展任務，大多數會處於這個光譜的什麽位置呢？
凱文·威爾（Kevin Weil）
從某種角度來看，這確實非常有趣。如果考慮當前經濟中一些最有價值的任務，O1 在一定程度上受制於其上下文處理能力。然而，這些限制最終會得到改善，使其能夠處理更長的上下文資訊，從而實作更深入的「思考」。目前，它的「思考」時間大約是 60 到 90 秒，這顯得有些荒謬。有時候我問它一個很難的問題，它只用了五秒鐘就給出答案，我會想：哦，我無法挑戰它的極限。但在 60 到 90 秒時，它會達到能力的極限。
你可以想象一個世界：你問它一個關於如何治愈某種特定癌癥的難題，讓它思考五小時、五天，甚至五個月。有些問題確實需要長時間的思考。而對於那些類似於「嘿，幫我總結一下這封電子信件」的簡單請求，我相信即將發生的變化是，我們將習慣於一個這樣的模型：這些 AI 非常聰明，但我們很容易對它們習以為常。你會發現它們透過固件更新快速進步。
我讀到一篇文章，有人第一次試用 Waymo，他們在 10 秒鐘內想著：「哇，小心！那裏有個騎自由車的人，車會不會……」然後 10 分鐘後，他們覺得：「天哪，這是最酷的。」再過 20 分鐘，他們開始感到無聊，只是在手機上檢視電子信件。我們如此迅速地適應世界上令人驚嘆的新技術。
勞勃·西原（Robert Nishihara）
對於來舊金山旅遊的人，在離開之前一定要體驗一下自動駕駛汽車。
凱文·威爾（Kevin Weil）
這真是太神奇了。然而，我們仍然習慣於逐步指導 AI。例如，我有一封電子信件需要總結，然後用於其他用途。 我認為，我們正在從依賴 AI 回答問題的時代，過渡到 AI 為我們完成實際任務的時代。 AI 將不再僅限於處理五分鐘的小任務，而是能夠完成長達五小時甚至五天的大型計畫。即便是日常事務、商業流程和效率問題，AI 在這個過程中也需要進行大量的推理，以制定更復雜的計劃並執行，同時定期與我們溝通。 因此，我認為將來 O1 和一般推理能力將變得更加重要。
勞勃·西原（Robert Nishihara）
這是否意味著每個基於該模型構建產品的開發人員，都需要重新思考產品的使用者體驗，以便既能利用這些增強功能，又能應對顯著的延遲？
凱文·威爾（Kevin Weil）
我認為這是一種更為根本的哲學轉變。過去，你可能習慣於透過層次化的系統思維方式，用 AI 提問並獲得答案。而未來，你可以指示 AI 為你執行任務。未來的 AI 將更加主動，這將帶來產品構建方式的不同變化。因此，像 UI 這樣的元素無疑會發生變化，因為需要更靈活地處理。實際上，以前無法實作的產品現在可能會實作。 如果我是開發者或正在創辦公司，我會關註 AI 剛剛開始能夠實作的功能，並為那些尚不成熟的用例進行開發。 因為在三到六個月之內，它們將運作得非常好，而你將領先於他人。
勞勃·西原（Robert Nishihara）
對於開發者來說，您有哪些建議？比如，在什麽情況下應該優先選擇使用 O1 而不是其他？比如您提到編程的問題……
凱文·威爾（Kevin Weil）
我們發現，O1 是一位極為出色的程式設計師，尤其擅長處理復雜的任務。如果僅僅是編寫一個用於排序列表的 Python 函式，幾乎所有模型都能勝任。 然而，O1 在處理需要推理和多方權衡的復雜編程問題時，才能真正展現其專長。在快速發展的時代，了解目前 AI 無法完成的事情非常重要。
當你朝這些方向進行開發時，可能初期產品並不成熟，但經過三個月，它將變得非常出色。正如 Sam 多次提到的，如果你在開發計畫時，擔心 OpenAI 或其他公司的下一個模型釋出，那麽這可能說明你沒有在做正確的事情。如果你僅僅是彌補模型當前無法完善處理的空白，這並不是理想的狀態。然而，如果你開發的產品因為下一代大模型的問世而得以提升，那就是令人振奮的，因為這表明你在推動智慧的前沿，探索過去難以實作的新產品領域。我認為這是最令人感到興奮的事情。
勞勃·西原（Robert Nishihara）
那麽，世界其他地區何時會趕上 O1 的發展步伐呢？
凱文·威爾（Kevin Weil）
我指的是明天、明年，或者從現在起的 12 個月後。這個行業的有趣之處在於還有很多未被發現的東西。盡管各個實驗室專註的領域略有不同，但它們都在做出色的基礎工作。因此，有些實驗室在某些方面領先，另一些則在其他方面占優。我認為這正是這個行業最激動人心的部份。有很多競爭，因此你必須保持在最佳狀態，並且快速進展。
我假設在某個時間點，其他實驗室也會發現我們用來構建 O1 的技術和方法。隨著時間的推移，某些技術會逐漸擴散。我們的任務就是確保在他們掌握這些技術時，我們依然領先三步之遙。我們對 O1 使用的技術非常有信心。我提到過這是一種不同的擴充套件範式，它並不是依賴大規模的預訓練，而是在推理時進行擴充套件。 我們認為我們現在處於類似 GPT-2 的階段，並看到許多快速改進這些模型的機會。當其他人追趕上來時，我們要力爭再領先三步之遙。
勞勃·西原（Robert Nishihara）
確實，推理時間和計算復雜度增加的趨勢非常值得關註，特別是對於那些考慮提供支持服務系統的人來說，這將帶來更大的挑戰。
凱文·威爾（Kevin Weil）
好的，沒問題。
模型的響應需要更具多樣性
勞勃·西原（Robert Nishihara）
接下來，我們來討論消費者產品。你曾參與建設一些世界上最成功的消費者產品，比如 Twitter 和 Instagram。最終，社交媒體透過廣告實作了盈利。那麽，消費者導向的 AI 最終會透過什麽方式實作盈利呢？是透過每月 20 美元的訂閱費用，或者其他方式？
凱文·威爾（Kevin Weil）
這個問題非常有趣。我必須說，目前我們並沒有全部的答案。現在我們明確的是，沒有計劃在廣告方面開展任何工作。隨著模型的不斷智慧化，比如，我們聽說某些律師事務所的資深律師表示，他們讓 AI 代寫了一份法律簡報。此類工作原本需要一個收費每小時 1000 美元的律師花六個小時完成，而 AI 只用了五分鐘。當你能用大約 3 美元的 API 費用，在五分鐘內完成價值 8000 美元的工作時，這意味著什麽呢？
因此，我認為我們尚不清楚所有的答案。同時，我們的使命之一是將這些技術帶給每一個人。在世界上的很多地方，我們提供一款免費產品，並將一直保持免費。這是我們的堅定信念，我們也在努力讓 AI 變得更加便宜，以便在免費產品中提供更多功能。
當然，也有一些原因讓您可能需要每月 20 美元的訂閱。然而，世界上還有很多人無法負擔每月 20 美元的費用，那麽我們如何在某種程度上分享我們創造的價值？如果我們能用少量費用在五分鐘內完成原本需要花費 8000 美元的任務。我們也在努力讓 AI 服務於世界的其他地方，無論他們是否能支付費用。這是一個尚未解決的問題。
勞勃·西原（Robert Nishihara）
你認為，這會如何發展？最終是一個只值 3 美元的 API 令牌，還是能夠以接近 8,000 美元的價格售出？
凱文·威爾（Kevin Weil）
我不知道……我覺得這個世界即將發生改變…… 如果這些東西的成本只需 3 美元，你就不能再以 5000 美元的價格出售它們。 因為很快會有人按照真實的生產成本來出售這些東西。所以，這將是一個完全不同的世界……而且，我的意思是，我們在場的每個人都在共同創造這個世界，我們都有機會去塑造它。
勞勃·西原（Robert Nishihara）
在規劃 ChatGPT 的發展路線圖時，你是否會參考某些產品？比如，你會不會想這是有點像搜尋引擎，或者像訊息應用程式之類的產品？
凱文·威爾（Kevin Weil）
有趣的是，我發現將這些系統比作另一個人是一個很好的類比。讓我舉幾個例子。當使用某個系統版本時，它可能需要花些時間來思考問題的答案，對吧？所以使用者可能得等上 30 秒或 60 秒。這種情況下，我們如何在使用者介面（UI）中處理呢？如果我問你一個難題，而你不知道答案，大多數人不會一開始就喋喋不休地說出各種想法，也不會靜默地盯著天空看上 60 秒。通常情況下，你會不時提供一些進展，比如說，「我想這可能是答案，稍等一下。」 這樣，你能不斷地更新進展，而這也是我們實際產品中的處理方式。
在語音模式下，情況則有所不同。當你與人交談時，會發現這與書寫截然不同。我不知道你是否曾經寫過演講稿並將其朗讀，我發現這樣顯得相當生硬。為了讓它聽起來更自然，我們需要改進寫作方式。在開發高級語音模式時，我們遇到了類似的挑戰。有時在開發過程中，每次提問，系統都會給出答案，然後再接另一個問題，這種交流方式似乎讓對話自然地延續下去。因此，透過這種有趣的方式，我們能夠確定在這種情況下人類的自然反應是什麽，也為 AI 應該如何表現提供了指導。有趣的是，模型本身的行為實際上成為一個獨立的產品，擁有其特定的個性等。因此，我們的產品經理和工程師正在努力塑造模型的個性。
勞勃·西原（Robert Nishihara）
這實際上提供了一個非常有趣的見解：書面英語和口語英語實際上就像是兩種不同的語言，而這一點並不總是顯而易見。
凱文·威爾（Kevin Weil）
對我來說，這聽起來至少有些不自然。順便說一下，如果你將其數位化後再讀一遍，我可能完全無法理解你的意思。
勞勃·西原（Robert Nishihara）
因此，使用者體驗在這個領域至關重要。你提到你們在使用者體驗方面取得了很多突破。當然，聊天界面是一個重要的使用者體驗進步，而語音模式則是另一個。有沒有其他尚未推出或者目前正在開發的，但你認為同樣重要的突破呢？
凱文·威爾（Kevin Weil）
顯然，模型的響應需要更具多樣性。 目前，互動主要以文字交流為主。我們相信並且正在積極努力一個目標，那就是利用所有你與他人互動的方式來與我們的模型互動。比如，我會經常發簡訊，今天早上也給你發了不少，我們就是透過這種方式互動的。實際上，這也是目前大多數人與 ChatGPT 互動的方式。
除此之外，我還會說話和觀察，我們希望你能對模型說話，它能對你做出回應。我們希望當你舉起手機時，可以向模型展示你所看到的事物，並詢問關於現實生活的問題。我們已經討論過 Sora，模型可以透過即時數據生成視覺內容。所有這些功能都需像自然互動那樣完全整合。我認為，模型的響應將變得更加豐富，你不僅會收到文字，還會獲得多媒體內容，並能夠據此進行操作。在這方面會有更多發展。正如之前所述，這些變化是顯而易見的。
有趣的是，隨著我們轉向更內送流量備援容錯機制動行為，並讓模型在更長時間內執行任務，聊天界面的持續時間會如何變化。實際上，我認為聊天仍然會保留，並需進一步發展，但作為一種基本的互動方式，它依然適用。因為作為人類與智慧 AI 的協作模式，聊天和對話確實適合當今的交流方式。所以，我們拭目以待。這也是我們在這個領域構建樂趣的一個方面。
OpenAI 的漸進式部署
勞勃·西原（Robert Nishihara）
在不同的話題上，人們可能擔心模型會過於偏向左翼或右翼，或者過於關註政治正確性。如果涉及到價值觀的問題，這些是研究團隊在模型的訓練或後期調整階段解決的，還是在模型套用的產品層面解決的呢？
凱文·威爾（Kevin Weil）
這些問題確實非常有趣。同時，我懷疑如果讓房間裏的每個人投票，能否達成一致意見。尤其在政治問題上，人們的觀點往往是五五開的，通常模型不應該對此類問題表明立場。例如，當有人問「地球是平的嗎？」時，超過 99%的人會同意地球不是平的，但仍有少數人持不同意見。那麽模型應該在這個問題上有立場嗎？如果意見比例是 80 對 20 呢？這些都是難以回答的問題。
因此，我們制定並釋出了一份關於模型使用的規範，並提供了大量範例，說明模型應遵循的原則。這些內容以自然語言形式釋出，任何人都可以閱讀和評論。如果模型的行為不自然，可能的原因有兩個：一是模型未能遵循規範；二是您不認同這些規範。若是前者，這是技術上的錯誤，需要修正。若是後者，這則是一個可以討論的問題。不過，至少我們有一個公開的規範，便於社會集體進行討論。我認為，到目前為止，這一方法效果不錯。
隨著模型能力的提升，規範也必須不斷演變。相比於單純因為不喜歡某個答案就要求「哦，去修復它吧，OpenAI」，擁有一個供大家討論的檔要更好。這就是我們嘗試的方法。
勞勃·西原（Robert Nishihara）
我同意，這是一個很好的方法。很多人在這裏不僅構建模型，還圍繞著模型構建系統來開發產品。
勞勃·西原（Robert Nishihara）
從安全性的角度出發，安全性涵蓋了許多不同的方面。那麽，應該如何確定分析的正確物件呢？是專註於模型本身，還是關註圍繞模型的系統和產品呢？
凱文·威爾（Kevin Weil）
我們的理念是，要同時兼顧這兩種方式。從縱深防禦的角度來看，我們希望模型永遠不要去執行或回答某些事情。而另一些事情則可能根據具體套用的背景而不同。因此，對於 ChatGPT，我們采取了一套特定的策略。
然而，在 API 的使用中，使用者有更大的自由度，可以持有不同的策略和觀點。例如，如果你是一位核融合科學家，某些問題可能在 ChatGPT 中不適合回答，但對你而言討論這些問題可能是有意義的。因此，在某些情況下，我們會明確表明立場，說明模型不應做這些事情，因為它們是非法的，或者與我們產品設計的初衷相悖。而在其他情況下，我們希望根據實際情況給予更大的靈活性。
勞勃·西原（Robert Nishihara）
在編寫和制定這個標準時，我很好奇，你認為貢獻者需要具備哪些最重要的技能，才能做好這項工作？能列舉一些具體的技能會很有幫助。
凱文·威爾（Kevin Weil）
在更廣泛地考慮模型行為時，我們實際上僱用了眾多內容創作者，以幫助模型更好地表達自我，並準確傳達其情感意圖。在我很久以前於 Twitter 工作的早期階段，Eve 說過的一句話對我影響很深，也延續到了今天的 OpenAI。 他提到，無論你公司內部有多少聰明人，外部仍有更多聰明人。 這適用於任何與社會變革相關的問題。
在 OpenAI，我們秉持漸進式部署的理念。對於新技術及其引發的各種社會挑戰，從安全到日常事務，我們相信，透過讓模型逐步接觸更廣泛的人群，可以確保其安全性，並逐步推動世界的積極變化。這正是我們在此采取的方法，也是我們公開模型規格、保持開放的原因。我們歡迎來自全球的反饋，並以此為基礎加以改進，而不僅僅依賴於 OpenAI 團隊的反饋。
勞勃·西原（Robert Nishihara）
確實如此。實際上，我們從龐大的開源社群以及眾多公司對 Ray 的貢獻中獲益良多。
勞勃·西原（Robert Nishihara）
在結束之前，你能分享一下你對未來的看法，以及你所期待的事情嗎？
凱文·威爾（Kevin Weil）
我覺得這將是件很有趣的事情。我用 ChatGPT 作為轉譯工具的體驗讓我感到驚訝。我也很期待每個孩子都有一個個人化導師的場景。事實上，我有點驚訝這種服務現在還沒有普及。可汗學院曾在這方面做出一些有趣的嘗試，但似乎沒能真正流行起來。我敢說，大多數觀眾的孩子可能還沒有使用過這樣的服務，更不用說那些對 AI 不太了解的全球使用者了。不過，這似乎是一個幾乎不可避免的發展趨勢。 當你看到孩子們在個人化輔導與傳統學校教育之間的對比時，效果十分顯著。
勞勃·西原（Robert Nishihara）
我能問你一個問題嗎？這種情況，是屬於可以在 OpenAI 模型基礎上創造大量價值的領域，還是屬於下一個模型可能讓我的工作過時的領域？
凱文·威爾（Kevin Weil）
我認為這裏有巨大的發展空間。在一定程度上，我們接近或已經達到了一個關鍵點，這個關鍵點不再是智慧本身的限制，而是如何進行評估。 模型具備處理多種任務的能力，而當務之急是將其套用到非常具體的用例中，教授其一些雖未能直接理解但可學習的內容。 透過使用一些非公開的數據集，比如多年來透過商業實踐積累的專有數據，模型能夠在特定領域表現出色。
我們獨自無法完成大多數這些任務，這就是為什麽我們要與可汗學院合作並構建 API。 我們期待著開發者們能夠創造出一系列卓越的套用，因為我們相信，AI 越快在全球普及，世界就會變得更加美好。 我對此非常興奮，並認為模型將迅速取得更大進步，這意味著我們面臨著重大的機遇。
勞勃·西原（Robert Nishihara）
感謝你的獨到見解，Kevin。能夠和你交流，我感到很高興。
凱文·威爾（Kevin Weil）
謝謝你邀請我。
