|
隨著人工智能的發展,人類正在把更多決策權交給計算機。問題在于,這些算法并不是透明的,而是掌握在少數科技公司手里。出于商業競爭需求,它們很少透漏決策背后的細節。為此,計算機專家們建議,應當設立第三方的監督機構,以避免算法自身的一些偏見。 據衛報的報道,在一份新報告中,倫敦圖靈研究所與牛津大學的研究團隊提出了上述想法。他們認為,當人們覺得自己遭到不公正待遇后,第三方機構應該調查人工智能做出的決策。“我們希望看到一個可信任的第三方機構。它應該有檢查和監督算法的權力,能夠了解算法是否真的透明和公正。”研究人員Sandra Wachter說。 2018年,歐盟成員國將采用一項新法案,以監督人工智能系統的應用。不過,研究人員認為,這項法案的實際作用是值得懷疑的。“有人覺得,這項法案能夠讓人工智能系統更加透明,但是,這并一定能實現。一切都取決于歐盟成員國法庭的解釋,”另一位研究人員Mittelstadt說。 不過,即使第三方機構已經設立,對算法的監督并非一件易事。“監督機構需要如何具備何種能力?我們并不知道完整的答案。因為,人工智能系統是難以預測、不斷變化而且難以理解的。開發團隊也未必能完全理解。”Mittelstadt說。另外,科技公司可能會抗議,因為現代的人工智能技術是“難以理解”的,例如深度學習。 西英格蘭大學的機器人道德學教授Alan Winfield正在主導人工智能行業標準的起草工作,目的是讓人工智能系統更加透明,更加容易追責。“監督機構是個非常好的建議,”他說,“這不是一個未來問題,而是一個現實問題。” 但是,他認為科技公司也未必能解釋人工智能的決策。那些基于深度學習的算法很不透明,基本上不可能解釋其作出某項決策的原因何在。“我向科技公司——比如Google的DeepMind——提出的挑戰是,發明一套可以自我解釋的深度學習系統,”Winfield說,“那不是件容易的事情,不過,研究這些系統的都是些非常聰明的家伙啊。” |
免責聲明:本網站內容由網友自行在頁面發布,上傳者應自行負責所上傳內容涉及的法律責任,本網站對內容真實性、版權等概不負責,亦不承擔任何法律責任。其原創性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾,并請自行核實相關內容。本站不承擔此類作品侵權行為的直接責任及連帶責任。如若本網有任何內容侵犯您的權益,請及時聯系我們,本站將會在24小時內處理完畢。