訂閱
糾錯(cuò)
加入自媒體

OpenAI推出新一輪企業(yè)級(jí)功能,強(qiáng)化GPT-4 Turbo LLM和其他模型

2024-04-24 16:00
科聞社
關(guān)注

(本篇文章共884字,閱讀時(shí)間約1分鐘)

圖源:互聯(lián)網(wǎng)

OpenAI宣布了其面向API客戶的企業(yè)級(jí)功能擴(kuò)展,進(jìn)一步豐富了其Assistants API,并引入了新工具,旨在增強(qiáng)安全性和管理控制,以及更有效地管理成本。

Private Link和加固安全功能

在重大安全升級(jí)中,引入了Private Link,這是一種安全方法,可在微軟的Azure云服務(wù)和OpenAI之間直接通信,后者稱其有助于最大限度地減少“對公開互聯(lián)網(wǎng)的暴露”,用于通過API發(fā)送的客戶數(shù)據(jù)和查詢。

此舉是對現(xiàn)有安全堆棧的補(bǔ)充,包括SOC 2 Type II認(rèn)證、單點(diǎn)登錄(SSO)、AES-256數(shù)據(jù)加密、傳輸中的TLS 1.2加密和基于角色的訪問控制。

此外,OpenAI還引入了原生多因素身份驗(yàn)證(MFA),以加強(qiáng)訪問控制,符合日益增長的合規(guī)要求。

對于需要符合HIPAA合規(guī)性的醫(yī)療保健公司,OpenAI繼續(xù)為合格的API客戶提供業(yè)務(wù)關(guān)聯(lián)協(xié)議,以及零數(shù)據(jù)保留政策。

升級(jí)的Assistants API可處理500倍的文件

OpenAI提供的較少宣傳但最重要的企業(yè)服務(wù)之一是其Assistants API,該API允許企業(yè)部署定制的、經(jīng)過調(diào)優(yōu)的模型,并通過檢索增強(qiáng)生成(RAG)調(diào)用特定文件,從而在其自己的應(yīng)用程序內(nèi)提供對話助手。

例如,今年早些時(shí)候,電商公司Klarna吹噓了其AI助手,該助手是使用OpenAI Assistants API制作的,能夠完成700名全職人員的工作,重復(fù)查詢減少25%,解決時(shí)間減少近82%(從11分鐘減少到2分鐘)。

OpenAI現(xiàn)在升級(jí)了Assistants API,引入了增強(qiáng)的文件檢索功能,新的“file_search”功能可以處理每個(gè)助手高達(dá)10,000個(gè)文件。

這比先前的20個(gè)文件的限制增加了500倍,增加了諸如并行查詢、改進(jìn)的重新排序和查詢重寫等功能。

此外,API現(xiàn)在支持實(shí)時(shí)對話響應(yīng)的流式傳輸 - 這意味著AI模型(如GPT-4 Turbo或GPT-3.5 Turbo)將根據(jù)生成的令牌的速度返回輸出,而不是等待完整的響應(yīng)。

它進(jìn)一步集成了新的“vector_store”對象,用于更好地管理文件,并提供了更精細(xì)的令牌使用控制,以幫助有效管理成本。

項(xiàng)目允許企業(yè)控制和分區(qū)訪問特定任務(wù)和分配

一個(gè)名為Projects的新功能通過允許組織在項(xiàng)目級(jí)別管理角色和API密鑰,提供了改進(jìn)的管理監(jiān)督。

這個(gè)功能允許企業(yè)客戶范圍權(quán)限,控制可用的模型,并設(shè)置基于使用的限制,以避免意外成本 - 這些增強(qiáng)功能大大簡化了項(xiàng)目管理。

基本上,他們可以將一個(gè)調(diào)優(yōu)版本的AI模型或甚至是一個(gè)普通的基礎(chǔ)模型隔離到一個(gè)特定的任務(wù)或文件集合中,并允許特定的人員在其中工作。

END

       原文標(biāo)題 : OpenAI推出新一輪企業(yè)級(jí)功能,強(qiáng)化GPT-4 Turbo LLM和其他模型

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報(bào)。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個(gè)字

您提交的評論過于頻繁,請輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評論

暫無評論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)