為什么可解釋的人工智能很重要

Sanchez的問題引發(fā)了另一個(gè)問題：為什么可解釋的人工智能很重要？其原因是多方面的，這可能對(duì)人們、企業(yè)、政府和社會(huì)產(chǎn)生巨大影響。在此考慮一下“信任”這個(gè)詞。

IBM Watson物聯(lián)網(wǎng)高級(jí)產(chǎn)品經(jīng)理Heena Purohit指出，人工智能（IBM稱之為“增強(qiáng)型智能”）和機(jī)器學(xué)習(xí)已經(jīng)在以復(fù)雜的方式處理大量數(shù)據(jù)方面做得非常出色。但Purohit說，人工智能和機(jī)器學(xué)習(xí)的目標(biāo)是幫助人們提高工作效率，做出更明智、更快速的決策——如果人們不知道他們?yōu)槭裁匆�做出這些決策，這就更加困難了。

Purohit說：“由于人工智能的目的是幫助人們做出更高的決策，當(dāng)用戶改變行為或根據(jù)人工智能輸出（或）預(yù)測采取行動(dòng)時(shí)，企業(yè)就實(shí)現(xiàn)了人工智能解決方案的真正價(jià)值。但是，為了讓用戶改變自己的行為，就必須相信系統(tǒng)的建議。當(dāng)用戶感覺到有能力并知道人工智能系統(tǒng)如何得出建議（或）輸出時(shí)，就會(huì)建立這種信任。”

從組織領(lǐng)導(dǎo)的角度來看，可解釋的人工智能在某種意義上是讓人們信任并購買這些新系統(tǒng)，以及它們?nèi)绾胃淖內(nèi)藗兊墓ぷ鞣绞健?/p>

“看到‘人工智能黑盒’問題仍然存在，我現(xiàn)在確保我們的人工智能解決方案是可以解釋的�！盤urohit補(bǔ)充說，“在設(shè)計(jì)人工智能產(chǎn)品以確�？梢越忉屓斯ぶ悄軙r(shí)，我想問的一個(gè)問題是：人工智能是否使人類容易理解、檢測和理解其決策過程？”

可解釋的人工智能有助于識(shí)別人工智能偏見和審計(jì)

可解釋的人工智能對(duì)于信任和透明度至關(guān)重要的其他領(lǐng)域?qū)⒃絹碓街匾�，例如任何人工智能偏見可能�?duì)人們產(chǎn)生有害影響的場景。

SPR公司的Maturo說，“盡管這種解釋的任務(wù)很麻煩，但這是一項(xiàng)值得努力的嘗試，通�？梢越沂灸Ｐ椭械钠�見。在許多行業(yè)中，這種透明度可能來自法律、財(cái)政、醫(yī)療或道德義務(wù)。在可能的情況下，模型看起來越不神奇，它的用戶就會(huì)越多�！�

可解釋的人工智能對(duì)于問責(zé)制和可審計(jì)性也很重要，它將（或者至少應(yīng)該）仍然存在于組織的人員中，而不是其技術(shù)中。

“企業(yè)和個(gè)人總是需要進(jìn)行決定。只是按照算法推薦的做法并不具有說服力。”Ness公司數(shù)字工程首席技術(shù)官M(fèi)oshe Kranc說。Kranc指出，可解釋的人工智能對(duì)于識(shí)別錯(cuò)誤的結(jié)果是至關(guān)重要的，這些錯(cuò)誤的結(jié)果來自于諸如有偏見或調(diào)整不當(dāng)?shù)呐嘤?xùn)數(shù)據(jù)和其他問題。能夠跟蹤人工智能系統(tǒng)得出不良結(jié)果的路徑可以幫助人們解決潛在問題，并防止它們?cè)俅伟l(fā)生。

“人工智能技術(shù)并不完美。盡管人工智能的預(yù)測可能非常準(zhǔn)確，但模型總是有可能出錯(cuò)�！盋lara Analytics公司數(shù)據(jù)科學(xué)主管Ji Li說，“人工智能技術(shù)具有可解釋性，幫助人類快速做出基于事實(shí)的決定，但允許人類仍能使用他們的判斷力。有了可解釋的人工智能，人工智能將成為一種更有用的技術(shù)，因?yàn)槿祟惒⒉豢偸窍嘈呕驈牟幌嘈蓬A(yù)測，但卻不斷幫助改進(jìn)預(yù)測�！�

事實(shí)上，可解釋的人工智能最終將使人工智能在商業(yè)環(huán)境和日常生活中變得更有價(jià)值，同時(shí)也防止了不良后果。

“可解釋的人工智能對(duì)業(yè)務(wù)很重要，因?yàn)樗鼮槲覀兲峁┝私鉀Q問題的新方法，適當(dāng)?shù)財(cái)U(kuò)展流程，并最大限度地減少人為錯(cuò)誤的機(jī)會(huì)。提高的可視性有助于增強(qiáng)理解，并改善客戶體驗(yàn)。”SAS公司首席信息官Collins說。

Collins指出，這在醫(yī)療和銀行等受到嚴(yán)格監(jiān)管的組織尤為重要，這些組織最終需要能夠展示人工智能系統(tǒng)是如何做出決定或結(jié)果。而即使在不需要審計(jì)其人工智能的行業(yè)中，可解釋人工智能的核心信任和透明度也是值得的，他們可以具有良好的商業(yè)意識(shí)。

“在采用可解釋的人工智能的情況下，人類增強(qiáng)了技術(shù)的知識(shí)和經(jīng)驗(yàn)，以調(diào)整和加強(qiáng)分析模型以供將來使用。”Collins說，�！叭祟惖闹�識(shí)和經(jīng)驗(yàn)有助于學(xué)習(xí)技術(shù)，反之亦然。這是一個(gè)持續(xù)的反饋循環(huán)，可以成為企業(yè)的一種動(dòng)態(tài)資產(chǎn)�！�