在Element AI 一項針對大型的零售商或者產(chǎn)品方使用的人工智能系統(tǒng)中，能夠非常有效的找出市面上已經(jīng)存在的山寨產(chǎn)品，但是這個系統(tǒng)的工作原理卻是在一個黑匣子里面，它所做出的判斷非常難建立法理上的依據(jù)，這讓我們的使用方很難基于這套系統(tǒng)的結(jié)果對侵權(quán)的個人或企業(yè)采取法律行為。所以我們做的是，在這個人工智能系統(tǒng)的開發(fā)中，我們加入了一個熱能成像的視圖，去解釋山寨產(chǎn)品是如何在使用的過程當中侵犯到正規(guī)品牌的。而這一個可解釋性的設(shè)計，為我們的客戶提供了一個可以對侵權(quán)個人或企業(yè)采取法律行動的依據(jù)。我們之所以可以在我們的系統(tǒng)中設(shè)計出這樣的一個可解釋性，是因為我們對系統(tǒng)、對用戶、對使用場景，以及對監(jiān)管部門的需求的深刻了解。

人工智能的系統(tǒng)中，它所有的參數(shù)和設(shè)置都是動態(tài)的，都是根據(jù)各種各樣的反饋系統(tǒng)自我調(diào)試和演化的。而且在這個過程中，人工智能系統(tǒng)的使用者也在與人工智能系統(tǒng)產(chǎn)生著互動和影響，我們不僅僅需要能夠解釋基本人工智能模型的能力，我們而且需要能夠解釋復(fù)雜人工智能模型的能力。

總結(jié)：可解釋性人工智能的挑戰(zhàn)和未來

人工智能的可解釋性依然面臨巨大的挑戰(zhàn)

1、人工智能的模型通常非常的復(fù)雜，非常的龐大；

2、人工智能的可解釋性還是一個相當早期的領(lǐng)域，我們并沒有非常成熟的，或是廣為接受的標準去判斷可解釋性的好壞。這就造成我們無法判斷我們是否在提高可解釋性，我們也無法非常準確的判斷解釋方法方式的優(yōu)劣；3、目前我們所開發(fā)的可解釋性，對于大多數(shù)的使用者來說并不能用于指導(dǎo)他們的行為或者決策。

未來的可知解釋性必然是完整的

1、我們可以把系統(tǒng)各個組成部分中的，可解釋性集中在一起分析整理，從而得出通過一個培訓過的機器識別模型，把微觀層面上的可解釋性，轉(zhuǎn)化成為宏觀層面上的可解釋性，是我們覺得一個增加整體系統(tǒng)可解釋性的有效方法；

2、在人工智能系統(tǒng)開發(fā)的早期，就邀請政策法規(guī)的制定機構(gòu)或相關(guān)人員參與。這樣我們在系統(tǒng)中可以更方便的加入可解釋性，這個不但對之后的業(yè)務(wù)會有很大的幫助，也是一個非常有效的方式降低相關(guān)的風險；

3、通過為已經(jīng)有的人工智能系統(tǒng)，添加一套可解釋性的設(shè)計，可以大大提高用戶對系統(tǒng)的理解程度。

有趣的問題探討

在新冠疫情之下，急需在短時間內(nèi)研發(fā)出藥物那人工智能的可解釋性還是必須的嗎？

就拿傳統(tǒng)的藥物開發(fā)來說，一個新藥的上市必須經(jīng)過3個階段的臨床實驗和數(shù)據(jù)的收集。有了這些數(shù)據(jù)，一個新藥才能得到監(jiān)管部門的備案，才能上市。在某種意義上說，這些流程和數(shù)據(jù)就是新藥開發(fā)過程中所必須有的可解釋性。因為我們將會在人身上使用這些新藥，而人體是一個非常非常復(fù)雜的系統(tǒng)，我們必須能夠充分地了解在各種情況下人體對新藥的反應(yīng)。

然而面對新冠疫情，我們急需疫苗和治療方案，作為一個是整體，我們的社會或許可以在這個過程中權(quán)衡利弊，在數(shù)據(jù)尚未完備對情況下，在一定可承受的風險范圍內(nèi)，加速新藥或者疫苗的上市。在人工智能的領(lǐng)域，可解釋性在某些方面就好像一個風險控制的工具，根據(jù)具體的應(yīng)用場景，有時候我們也需要權(quán)衡利弊，有時候承擔多一些風險，能夠更快或者更好的整體回報。

寫在最后：

人工智能的可解釋性，一定是現(xiàn)在也是未來一直熱門探討和研究的課題，我們將共同期待人工智能在整個社會結(jié)構(gòu)和人類倫理中，得以更全面的發(fā)展。

如果你也感興趣，歡迎跟我們探討～