理想與現(xiàn)實(shí)的道路

OpenAI創(chuàng)立之初擁有滿滿的情懷，但要持續(xù)進(jìn)行高質(zhì)量的研究并長(zhǎng)久運(yùn)營(yíng)下去需要平衡好理想與現(xiàn)實(shí)的微妙關(guān)系。為了回應(yīng)輿論對(duì)于這次商業(yè)化的嘗試，OpenAI在官網(wǎng)上從各個(gè)方面對(duì)這次的API發(fā)布進(jìn)行了回應(yīng)：

1． 是什么原因促使OpenAI決定發(fā)布商業(yè)化產(chǎn)品？OpenAI的使命是確保人工智能造福人類(lèi)，產(chǎn)品的商業(yè)化是確保實(shí)現(xiàn)目標(biāo)的有效手段之一。安全地開(kāi)發(fā)一套強(qiáng)大的AI系統(tǒng)是十分困難的，OpenAI希望API的發(fā)布可以加強(qiáng)合作，攜手解決AI系統(tǒng)在真實(shí)世界中所面臨的挑戰(zhàn)，同時(shí)也為未來(lái)的研究提供了更多方向性的指導(dǎo)，更好地保證AI系統(tǒng)安全地服務(wù)全人類(lèi)。

2． 為何選擇發(fā)布API而不是完整的開(kāi)源模型？

主要有三個(gè)原因。首先，商業(yè)化可以覆蓋AI研究、安全性和政策倡導(dǎo)的成本開(kāi)支。其次，API后面的模型往往十分龐大，需要耗費(fèi)大量的人力物力進(jìn)行訓(xùn)練開(kāi)發(fā)和部署，個(gè)人或者中小企業(yè)無(wú)法負(fù)擔(dān)如此龐大的研發(fā)與運(yùn)營(yíng)成本。所以API的發(fā)布為中小企業(yè)和開(kāi)發(fā)者提供了接入強(qiáng)大AI系統(tǒng)的能力。此外，API方式可以對(duì)技術(shù)的濫用進(jìn)行更快的應(yīng)對(duì)。一方面有限制的逐步開(kāi)放API可以在一定程度上控制對(duì)于技術(shù)的濫用，也可以有效管控；另一方面也不像模型會(huì)面臨未知的下游應(yīng)用開(kāi)發(fā)風(fēng)險(xiǎn)，如果開(kāi)源的模型被惡意使用將很難有效阻止。

3． 針對(duì)有可能的API濫用，OpenAI將要如何解決這一問(wèn)題？一方面將阻斷有害身心健康的API調(diào)用，包含但不限于騷擾、欺詐、垃圾郵件、激進(jìn)言論和病毒營(yíng)銷(xiāo)等，并在運(yùn)營(yíng)中進(jìn)一步優(yōu)化和細(xì)化對(duì)于API的管理。同時(shí)也將引導(dǎo)研究人員加強(qiáng)對(duì)于模型潛在濫用的研究，通過(guò)學(xué)術(shù)服務(wù)合作與第三方研究機(jī)構(gòu)緊密合作。目前通過(guò)審核來(lái)開(kāi)放的beta測(cè)試API也將進(jìn)一步減小API被濫用的風(fēng)險(xiǎn)，并幫助OpenAI更深入地理解API的內(nèi)涵和局限性。

4． 如何緩和API后臺(tái)模型所包含的有害的偏見(jiàn)和負(fù)面影響？

對(duì)于減少像有害偏見(jiàn)這樣負(fù)面影響，是目前對(duì)于整個(gè)工業(yè)界都是十分重要但困難的問(wèn)題。事實(shí)上API后臺(tái)所支撐的GPT－3模型在某些情況下也會(huì)顯示出偏見(jiàn)，所以為了解決這一問(wèn)題，我們將在以下三個(gè)方面進(jìn)行努力：

一方面給出使用指南，引導(dǎo)用戶學(xué)習(xí)并減小這種偏見(jiàn)的影響；另一方面與用戶緊密合作來(lái)理解具體業(yè)務(wù)場(chǎng)景中的問(wèn)題，并開(kāi)發(fā)工具來(lái)標(biāo)記和干預(yù)有害偏見(jiàn)的表現(xiàn)；最后引導(dǎo)更多研究人員對(duì)底層的機(jī)理和理論進(jìn)行研究，更廣泛深入地理解模型的表達(dá)和公平性的影響，協(xié)助用戶解決問(wèn)題。在這一過(guò)程中對(duì)API的優(yōu)劣進(jìn)行更為深入地理解，并不斷改進(jìn)工具和工作流程來(lái)最大程度地減小負(fù)面影響。

最后，讓我們?cè)賮?lái)康康基于API的有趣應(yīng)用吧：

智能客服

▼

文本生成

▼

文本補(bǔ)全

▼

語(yǔ)言翻譯

▼