0
可攜帶爆炸物的殺人微型無人機
雷鋒網按：本文出自 Spectrum.ieee 撰稿人 Evan Ackerman，一個有關殺戮機器人的視頻引起了他的思考。關于 AI 和機器人的未來，我們是要一棒子打死，還是坐下來仔細衡量它們的優劣，找到一個更好的解決方案呢？
本周，日內瓦聯合國總部舉辦了一場史無前例的會議，常規武器公約組織成員國的專家針對致命性自動化武器系統進行了討論。一些組織（如“停止殺戮機器人運動”）敦促聯合國在自動化武器的監管上持續推進。這次會議相當重要，因為相關問題會塑造機器人和人類社會的未來。
周末無意間看到的一個視頻也讓我開始關心起與自動化武器相關的討論，這個視頻的名字就叫“殺戮機器人”。值得注意的是，這個視頻得到了硅谷鋼鐵俠馬斯克旗下未來生活研究所（Future of Life Institute）的支持，而馬斯克一直堅定的站在“邪惡”AI 的對立面。除了有這層背景，這個視頻的基調也非常陰暗，它將時間設定在了不久的將來，不過情節卻與科幻小說類似，攜帶爆炸物的微型無人機在全球肆意殺人。
這里就不附上視頻了，因為畫面相當暴力血腥，甚至包含了在課堂上的恐怖襲擊。不過，如果你非要一探究竟，可以在未來生活研究所的網站上找到它。
說實話，這個視頻讓我非常失望，那些頗有聲望的機器人和 AI 研究者居然會支持這種嘩眾取寵的作品，它們要的只是吸引眼球，關于實際問題則根本沒有傳達任何有用信息。這樣的視頻根本不是沖著表達事實而出現的，它們就是要煽動和培養人們對 AI 和機器人的恐懼。同時，它還占據了道德制高點，好像你反對這種觀點就是與恐怖分子沆瀣一氣。此外，如此多專家為該視頻背書更是會讓公眾思想混亂，他們會對所有機器人產生恐懼，而這正是機器人專家們長期警惕的。
視頻中甚至虛構了一個專門造殺人微型無人機的公司
從個人角度來說，我對殺戮機器人持否定態度，更準確的來說，我反對那些“超越了人類實際控制的自動化武器”。不過，對于那些叫囂著要徹底封殺此類機器人的人，我也不愿給予支持。因為在我看來，這是一個相當復雜，還無法完整定義的問題，全部封殺不是個有效的解決方案。
眼下，關于 AI 的話題還在討論中，到底哪些技術應該被禁，如何禁止還有待確定。在視頻最后發言的加大伯克利分校教授 Stuart Russell（也是制片人之一）稱“我們有機會阻止視頻中的事情發生”，但事實上他有點“too young，too simple”了。在我看來，直接封殺自動化武器并不會阻擋無人機微型化的腳步，也無法阻擋面部識別技術的進步，更無法阻礙兩項先進技術合二為一，而相互融合的這兩項技術就是視頻中的“幕后黑手”。
有人指責這段視頻是在散布恐慌，但 Russell 的一位同行并不同意。這位新南威爾士大學的 AI 教授表示：“這才不是散布恐懼。俄羅斯大使在對這次會議發表評論時指出，我們根本不需要擔心自動化武器，因為我們離開發成功還遠著呢。此外，這段視頻另辟蹊徑，它指出技術的結合會讓殺人機器更早到來，一旦誤用，后果不堪設想。”
其實兩年前我就對一封要求禁止攻擊型自動化武器的公開信做過反駁，當時我舉了許多正面例子，列舉了自動化武器的好處，而 Russell 和 Walsh 則聯合 MIT 教授 Max Tegmark 對我的觀點做了回應。
文章開篇他們非常客氣，稱歡迎我參與這場討論。同時，他們還表示這是個復雜的問題，雙方都有自己的觀點，到底孰對孰錯需要仔細衡量。
這樣的觀點我非常贊同，想要一個更安全的未來，這樣的討論必不可少，但通過恐怖視頻搞惡意中傷就不可取了，這會讓許多人加深自己對機器人的負面印象。
Via. Spectrum.ieee 雷鋒網編譯，更多機器人方面資訊可關注雷鋒網垂直欄目「新智造」。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
