新手“青椒”如何讓人工智能成為更靠譜的“搭子”

人工智能正在逐漸深入我們的生活，成為服務員、醫療助手、司機……為我們帶來諸多便利。但很少有人思考，人工智能的“判斷”有這么可靠嗎？如果人工智能得到的結果出現了沖突，我們該如何應對？

“就像患者去醫院，血項結果可能是正常的，影像結果顯示有異常，這就出現了沖突。醫生可以憑借自己的專業及經驗判斷哪個結果更為可信、可信度有多少，但對于人工智能而言，相互沖突的數據如果進一步融合，必然會導致數據互相產生干擾，無法得出正常結果。” 西安電子科技大學計算機科學與技術學院趙偉教授和他的團隊一直在思考這個問題。近期，他和團隊青年教師徐偲終于找到了解決方法，“我們的目標是讓人工智能成為人類更靠譜的‘搭子’！”趙偉說。

當“新手”遇到新領域

2017年，徐偲加入趙偉教授和管子玉教授團隊攻讀博士，從事機器學習、多視角學習、推薦系統等方面研究，對于本碩階段學習通信專業的他來說，博士階段的研究領域幾乎是全新的。2019年，徐偲接觸到可信人工智能，對他而言又是一個新的研究范疇。

2020年，留校工作的徐偲成為一名“新手”教師，初入“新手村”的他既要面對身份轉變，還要在新領域找到新辦法，一切都是新的。

在徐偲接觸可信人工智能領域時，證明人工智能可信的方法并非沒有。當時主流的方法是將一個數據用多個模型來驗證，通過類似多科室醫生會診的方式，“投票”決定這一數據是否可靠，“在醫院，可能因為跨科室確實需要會診，但對人工智能而言，這樣的方法并不經濟實用。” 徐偲說。

“我最初是想干脆重新建一個跟神經網絡并行的框架”，但這個念頭很快被一次交流打消了。2018年，徐偲受邀參加CCF A類頂級會議IJCAI，會上，他將自己的想法與圖靈獎獲得者、深度學習創始人之一Yoshua Bengio教授進行了交流，Yoshua Bengio認為重建框架耗時長且發展未知，最好是能在現有神經網絡框架內完成。

徐偲接受了Yoshua Bengio的建議，開始在神經網絡框架內找尋解決辦法。

努力和選對方向同樣重要

創新的路從來都不那么容易。

對于剛剛成為教師的徐偲而言，如何在學生中立住教師這個“人設”是件很重要的事。從跟學生以師兄師弟相稱、打成一片，到明確師生關系、嚴格要求，再到設身處地理解學生、力所能及幫助學生，徐偲坦言：“剛開始不知道怎么開口嚴格要求他們，甚至自己會覺得不好意思。”通過向導師團隊負責人趙偉教授和管子玉教授請教學習，2022年，徐偲逐漸找到了自己處理師生關系的方式，也找到了衡量人工智能是否可信的方法。

“最初接觸的時候，可信人工智能是一個相對來說比較新的領域，自己也是這方面的新手‘小白’，心里是很虛的，不知道能做成什么樣，也不知道做出來之后能有什么用。”隨著人工智能技術的快速發展，可信人工智能逐漸被重視。

2019年6月，二十國集團(G20)提出“G20人工智能原則”，強調要以人為本、發展可信人工智能，這一原則得到了國際社會的普遍認同，發展可信人工智能成為全球共識。

“可信，通俗來講就是讓人工智能更能被人相信。”想要獲得人的信任，對人工智能而言并非易事；想要在新領域做出成績，對徐偲而言同樣不容易。

“剛開始我把數學里面的優化理論拿過來用，看了很多數學方面的論文，每一篇基本都是三四十頁那么多，經常看到第五六頁就有點看不下去了，但自己選的路，硬著頭皮也要走下去。”

付出很多精力走的路有時候也并非暢通，也可能是“彎路”，當徐偲掌握了優化理論并將其運用到人工智能可信度研究中時，發現這一理論并不適用，“大概是2022年的時候，我就想是不是可以模擬醫生看檢查結果的這個思維，用結果融合的方式給出一個置信度”，選對了方向，實驗結果便豁然開朗。

從2022年10月確定結果融合方式，到2023年6月完成論文初稿，徐偲的努力終于看到了結果。

“就是告訴人們，人工智能到底可不可信”

這項研究成果是一種新穎的多模態證據深度學習方法，通過可信地聚合沖突多模態數據，能夠在提升決策性能的同時，可靠地度量決策置信度，并從理論上證明了這一方法能夠量化沖突模態帶來的負面影響，徐偲表示，在多個公開數據集上的實驗結果表明，這一方法顯著地提升了決策性能和可靠性。

多模態證據深度學習方法是如何發揮作用的呢？

以醫療輔助診斷應用為例，人工智能在輔助醫療時會采集多種模態數據，不同數據之間可能會產生相互沖突的、不同指向的結果，“就像患者去醫院，血項結果可能是正常的，影像結果可能顯示有異常，這就出現了沖突的結果”，對于醫生而言，他可以憑借自己的專業及經驗判斷哪個結果更為可信、可信度能有多少，但對于人工智能而言，相互沖突的數據如果進一步融合，必然會導致數據互相產生干擾，無法得出正常結果。

在多種模態數據沖突的情況下，數據融合顯然不可采納，在團隊趙偉和管子玉教授的引導下，徐偲便從數學主觀邏輯中借鑒不確定性相關理論，探索模態數據在結果層面的相互融合，“我們這個學習方法是把各單個模態數據結果的可信度給一個百分比，比如A是60%，B是40%，C是90%，再通過一定的計算得出整個數據集的一個百分比，這就是我們說的置信度。” 徐偲告訴《中國科學報》。

在給出置信度的同時，該方法還會同時給出多模態數據的沖突度，若置信度不高且沖突度較高時，人工智能的決策便明顯不太可信，“出現這種情況會有很多種可能，有可能是某一個或幾個模態數據本身采集有誤，有可能是采集的數據不夠多，這時候人工智能就能夠判斷出到底是何原因，進一步進行調整優化，或者有時就提醒我們需要進行人為干預”，這樣一種全面綜合的方法實現了多模態信息的“去偽存真”，使得多模態模型可以“兼聽則明”。

在團隊的幫助下，徐偲圍繞這一研究完成了論文“Reliable Conflictive Multi-view Learning”，并獲得了2024年2月召開的第38屆AAAI人工智能大會的最佳論文獎，這不僅是西安電子科技大學首次在該頂會獲得最佳論文獎，更是自1984年該學術會議設立最佳論文獎以來，以國內單位（含港澳臺地區）為第一單位獲得該獎項的第3篇論文。

趙偉分析說，這一方法在醫療輔助診斷、自動駕駛等多種實際復雜場景中將具有很好的應用前景。

徐偲告訴記者：“簡單來說，我們的方法是實現人工智能可解釋、可被信賴‘最后一公里’中的重要一環，因為這個方法可以告訴你，哪些是不可被相信的。”他進一步解釋說，為了使人工智能可信度更高，不可信的自我學習和迭代必不可少。“比如在自動駕駛中，汽車是以道路線來判斷自己走的路線，但現實中道線可能會出現磨損、遮擋甚至沒有的情況，汽車也極有可能將其他東西識別成道線，遇到這種情況，我們這個方法就可以給出一個置信度，告訴大家在某種情況下這個汽車的判斷不可靠，需要人工操作，那么人工智能就會通過很多次的這種訓練，逐漸排除掉識別不出或錯誤識別道線的情況，進而提升自己的可信度。”

在與醫院、汽車企業、港口的合作過程中，這一方法正在被使用，越來越“靠譜”的人工智能正在成為人類更值得信賴的“搭子”。

人工智能醫生輔助診斷患者。（課題組供圖）