公平分配人工智能福利

Russ Altman（美國斯坦福大學生物工程、基因學、醫學和計算科學教授）

人工智能在加速生物和醫學領域的科學發現及改變醫療衛生方面有驚人潛力。人工智能系統有望幫助弄清若干新型數據：基因組學、蛋白質組學和新陳代謝組學等“組學”的測量值；電子病歷；健康信號的數字傳感器監控。

聚類分析能判斷新綜合征，分離那些曾被認為是相同的疾病以及統一那些根本缺陷相同的疾病。模式識別技術能將疾病與療法相匹配。例如，我和同事正在識別對調節免疫系統的藥物可能有響應的患者群體。

在協商中，內科醫生可能會使用來自“虛擬群體”的患者數據——他們就好像彼此坐在一起，評估診斷、選擇療法和統計結果。他們將可能在一個此類系統中進行醫療決策，或使用基于患者數據的模擬實驗預測結果。

但我有兩個擔憂。首先，人工智能技術將加劇目前的醫療衛生不平衡狀況，除非能發現一種方式，讓所有病人受益。例如，在美國，失業人員會經歷各種水平的護理。只有特殊群體或能支付得起的人，才能獲益于先進的診斷技術，這是不公平、不合理的。

第二，我擔憂臨床醫生理解和解釋高性能人工智能系統所得出的結果的能力。大多數衛生保健提供者不會接受一個來自決策支持系統的沒有明確描述如何和為何能出現效果的復雜治療建議。因此，研究人員需要讓醫生、護士、患者和其他人明白他們應該如何使用人工智能，并且如何公平地使用。

機器人是人類補充物，而非替代品

Manuela Veloso（美國卡內基·梅隆大學計算機學教授）

我們正使用自己的感覺評估世界狀態，用我們的大腦思索，選擇達成目標的行動，并用自己的身體執行這些行動。我的科研團隊正試著建造能同樣做這些的機器人，它們將擁有人造感應器、算法和制動器。

但自動機器人和人類的能力之間存在極大差別。機器人通常存在知覺、認知和行動限制。它們通常無法充分理解一個場景，認識或操縱物體，理解所有的口頭或書面用語等。我認為，機器人是人類的補充物，而非替代品。但機器人需要知道何時尋求幫助以及如何表達其內部工作原理。

為了更多了解機器人和人類如何共同工作，在過去3年里，我們與4個自己研發的機器人分享了我們的實驗室和建筑。這些機器人看上去有點像機械講臺。它們擁有全方位車輪，以便平穩越過障礙物；照相機和激光雷達系統，以提供深度視力；用于內部處理的計算機；用于交流的屏幕，和攜帶東西的籃子。

之前，我們就已經意識到現實世界對機器人的挑戰。于是，我們引入了“共生自主性”的概念，以便機器人向人類和互聯網尋求幫助。現在，我們實驗室里的機器人和人類能彼此幫助，共同克服各自的局限性。

不過，人類與機器人能安全、有效共存，還須克服一些障礙。我們正在研究人和機器人如何更簡單地通過語言和動作進行溝通。我們還在探索如何改善機器人外觀，提高其與外界的互動，尤其是指示燈如何向人類揭示機器人的內在狀態。

盡管我們還有很長的路要走，但我相信，如果人類和機器人能彼此幫助、相互補充，未來將是樂觀的。

文/張章 來源：中國科學報

轉載請注明：北緯40° » “殺手機器人”要來了，人類毫無招架之力