隨著人工智能的發展，人類正在把更多決策權交給計算機。問題在于，這些算法并不是透明的，而是掌握在少數科技公司手里。出于商業競爭需求，它們很少透漏決策背后的細節。為此，計算機專家們建議，應當設立第三方的監督機構，以避免算法自身的一些偏見。

據衛報的報道，在一份新報告中，倫敦圖靈研究所與牛津大學的研究團隊提出了上述想法。他們認為，當人們覺得自己遭到不公正待遇后，第三方機構應該調查人工智能做出的決策。“我們希望看到一個可信任的第三方機構。它應該有檢查和監督算法的權力，能夠了解算法是否真的透明和公正。”研究人員Sandra Wachter說。

2018年，歐盟成員國將采用一項新法案，以監督人工智能系統的應用。不過，研究人員認為，這項法案的實際作用是值得懷疑的。“有人覺得，這項法案能夠讓人工智能系統更加透明，但是，這并一定能實現。一切都取決于歐盟成員國法庭的解釋，”另一位研究人員Mittelstadt說。

不過，即使第三方機構已經設立，對算法的監督并非一件易事。“監督機構需要如何具備何種能力？我們并不知道完整的答案。因為，人工智能系統是難以預測、不斷變化而且難以理解的。開發團隊也未必能完全理解。”Mittelstadt說。另外，科技公司可能會抗議，因為現代的人工智能技術是“難以理解”的，例如深度學習。

西英格蘭大學的機器人道德學教授Alan Winfield正在主導人工智能行業標準的起草工作，目的是讓人工智能系統更加透明，更加容易追責。“監督機構是個非常好的建議，”他說，“這不是一個未來問題，而是一個現實問題。”

但是，他認為科技公司也未必能解釋人工智能的決策。那些基于深度學習的算法很不透明，基本上不可能解釋其作出某項決策的原因何在。“我向科技公司——比如Google的DeepMind——提出的挑戰是，發明一套可以自我解釋的深度學習系統，”Winfield說，“那不是件容易的事情，不過，研究這些系統的都是些非常聰明的家伙啊。”