伊莉討論區

標題: 〈Google 不作惡，亞馬遜員工公開信請願：我們也不要〉〈technews〉〈2018-10-20〉 [打印本頁]
作者: iiifgh    時間: 2018-10-22 02:43 PM     標題: 〈Google 不作惡，亞馬遜員工公開信請願：我們也不要〉〈technews〉〈2018-10-20〉

本帖最後由 iiifgh 於 2018-10-22 02:47 PM 編輯

Google 不作惡，亞馬遜員工公開信請願：我們也不要
technews 作者 雷鋒網 | 發布日期 2018 年 10 月 20 日 8:00 |

[attach]125318468[/attach]

18 日消息，亞馬遜臉部辨識工具 Rekognition 由於與美國警方合作，受到員工反對。一名員工在 Medium 平台匿名發表公開信，對公司與警方的合作表示擔憂。

[attach]125318469[/attach]

事情起源是 15 日，亞馬遜 CEO 貝佐斯在 Wired 會上為美國國防部 JEDI 雲端合約辯護時，強調「做出可能不受歡迎的決定（如與軍方合作）是商業領袖工作的一部分」。僅過一天後，這封員工公開信就在各大媒體傳開了。

這封信這樣說：

    我們知道貝佐斯意識到這些擔憂，現在正在進行全產業對話。在舞台上，他承認高科技的產品可能被濫用，甚至被獨裁者剝削。但不是有意義的解釋，亞馬遜將採取行動以防止自己的技術被濫用，貝佐斯建議我們等待社會的「免疫反應」。

    如果亞馬遜等待，我們認為傷害將很難還原。

關於 Rekognition 計畫

進一步探究「Rekognition」計畫，根據公開資料顯示，Rekognition 是強大的即時臉部辨識系統，可利用警察身上的鏡頭和市政監控系統，追蹤逃犯、被販賣人口等對象。這項技術是亞馬遜 2017 年 11 月正式推出。

主要功能是：即時分析串流影片、人物辨識和追蹤、臉孔辨識、臉孔分析、對象場景和活動偵測、影片偵測、名人辨識等。

[attach]125318470[/attach]
▲ Rekognition 在社交媒體尋找失蹤人口。

查詢當時發表 Rekognition 新聞稿時，摘取以下這段說明文字：

    現在可對有數千萬個面孔的集合執行即時臉部搜尋。這表示搜尋延遲減少了 5~10 倍，同時允許儲存比以前多 10~20 倍的臉部集合。對於公用安全應用程式而言，此更新有助於即時辨識數百萬個面孔的集合，進而做出需要立即回應的判斷和舉動。

目前，這款技術主要在幫助 Marinus Analytics 公司打擊人口販運（註：Marinus Analytics 是美國一家授權執法部門技術的創業公司）。藉助 Amazon Rekognition，使用 Marinus Analytics 的調查人員可在幾秒鐘內搜尋數百萬條紀錄，以便找到受害者，進而採取快速有效的行動。

簡而言之，執法人員可使用失蹤兒童的照片、社交媒體照片或社會工作者的照片，並將其與 Traffic Jam 的資料庫其他人員比較，如果他們的照片用來在網路當作交易等廣告資訊發表，將透過符合照片幫助執法人員找到受害者。

但是，這項技術有被「擴大化利用」的風險。

根據之前華盛頓郵報進一步報導，一位警長每月支付 6~12 美元用於存取 Rekognition，這使得該部門能根據即時鏡頭掃描追蹤對象的大頭照。據悉，Rekognition 能在整個城市的攝影機網路執行即時臉部辨識。

[attach]125318471[/attach]

Rekognition 計畫總監 Ranju Das 透露，整個奧蘭多市都有經過授權的攝影機。這些攝影機將資料串流傳送 Kinesis 串流，亞馬遜再即時分析這些資料並搜尋他們擁有的臉部集合。也許當警方想確定這個城市的市長是否在某個地方，或他們想要追蹤的某個其他人，這都可以做到。
公民自由引發社會聯盟關切

對 ACLU（美國公民自由聯盟）而言，這種能力引發重大的公民自由關注。該組織聲明說：「透過自動化大規模監視，像 Rekognition 這種臉部辨識系統威脅到公民自由，對目前政治氣候下已被不公正對待的社群構成特殊威脅。人們應該在沒有被政府監視的情況下自由走在街上。

之前 2018 年  5 月 22 日，ACLU 寫給貝佐斯的信也闡述這種關切。

[attach]125318472[/attach]
▲ 2018 年 5 月 22 日，ACLU寫給貝佐斯的信。

可見，剛在員工加薪問題引發部分員工牴觸情緒的亞馬遜，又因為員工的反對遇上一件麻煩事。

據了解，這是技術員工不到一週內發出的第二封匿名信。上一封，來自微軟。

12  日，一名微軟員工也同樣在 Medium 表達對該公司參與 100 億美元 JEDI 國防部雲端合約的擔憂。

這是一個祕密的 100 億美元計畫，目標是打造川普政府監管的「更致命的」軍事力量。Google 員工對這點看得很清楚，於是發起抗議並最終迫使公司結束投標，而我們看得也很清楚。

在美國的科技大公司，鼓勵員工表達意見一直是傳統。以下整理近些年因為「員工反對」而被迫中止的一些項目或計畫：

小結
可見美國的大型科技公司，「員工責任制」正形成巨大的影響力，或超過媒體影響力，推動公司不斷調整決策。即便 CEO 都是全球性的商業領袖，也沒辦法忽視這些意見。

眼下，當亞馬遜員工堅持「不作惡」的理念繼續走下去時，我們並不確定 Rekognition 是否會執行。相比中國，與警方、軍方的合作顯得非常重大且有戰略意義，因為政府的採購是強有力的背書，對技術和流程有十分嚴格的程序，重要的一點是，這種計畫一般都是大單子，動輒上千萬，甚至上億。在中國企業趨之若鶩追求軍事合約當下，旁觀者其實更應該多清醒思考。

公開信全文：

《我是亞馬遜員工。我的公司不應該向警察出售臉部辨識技術》

10 月 17 日


  當一個公司把新技術引進世界時，有責任思考後果。我工作的亞馬遜公司目前允許全國各地的警察部門購買臉部辨識產品「Rekognition」，我和其他員工要求我們公司立即停止。

  幾個星期前，同事寫了一封信給傑夫‧貝佐斯和其他高層，上面有 450 多名員工簽名。這封信還包含要求將 Palantir 公司踢出 AWS，並規定對員工進行道德監督。Palantir 是 ICE 大部分遣返和追蹤程式的軟體公司。

  我們知道貝佐斯意識到這些擔憂，現在正在進行全產業對話。在舞台上，他承認高科技的產品可能被濫用，甚至被獨裁者剝削。但不是有意義的解釋，亞馬遜將採取行動以防止自己的技術被濫用，貝佐斯建議我們等待社會的「免疫反應」。

  如果亞馬遜等待，我們認為傷害將很難還原。

  畢竟，我們關注的不是其他公司將來可能造成的危害，而是亞馬遜目前正在設計、行銷和銷售的一套用於危險、大規模監控的系統：Rekognition。亞馬遜網站吹噓說，該系統可以一次性儲存和搜尋數千萬張人臉。執法部門已經開始使用亞馬遜的這項臉部辨識技術，但幾乎沒有任何公眾監督，也沒有對此公開辯論，或有所限制。佛羅里達州奧蘭多市正在透過遍布全市的監控鏡頭的即時視訊訊號來測試 Rekognition。奧勒岡州的一個警察部門目前正在利用 Rekognition，讓現場的警官將照片與資料庫的臉部照片比對。這已不再是假設情況。

  如果我們想要領導，我們需要在人與利潤之間做出選擇。

歷史告訴我們，新的強大的監控工具仍然掌握在國家手中，將用於針對沒有做錯事的人；在美國，由於缺乏公用問責制，已導致對有色人種、移民和行使第一修正案權利的人過度干擾和過度監管。在向政府和執法機構提供強大技術的同時，忽視這些緊迫問題既危險又不負責任。

  這就是為什麼當 AWS 全球公用部門副總裁 Teresa Carlson 最近表示，亞馬遜「堅定的支援」執法、國防和情報用戶時，我們失望的原因，即使我們不知道他們實際上是利用這工具做什麼。

  亞馬遜甚至建議，為警官隨身相機提供 Rekognition 功能，這將把本來做為警察問責的工具變成針對公眾的行動監控裝置。我們為什麼要這樣做？

  我們都有權利過生活，而不被政府不斷監控。像我們這樣的公司不應該參與促進威權監督。不是現在，也不是以後。

  但 Rekognition 支援透過從一幀影片擷取幾十個臉部辨識，並將它們儲存起來供以後使用，或立即將它們與有數百萬張圖片的資料庫比對。

  出售這個系統與亞馬遜的價值觀背道而馳。我們把自己視為以用戶為中心的公司。貝佐斯也直接反對不道德的政府政策、穆斯林的禁令。

  我們無法以犧牲公眾利益為代價，從那些擁有強大權力的用戶群體中獲利；我們無法忽視業務對公眾利益的損害。我們銷售的 Rekognition 系統是一種有缺陷的技術，它強化了美國現有的偏見。研究表明，臉部辨識技術更容易誤認擁有深色皮膚的人。這一點在最近 Rekognition 的測試中得到明確的證明。這項調查將美國國會議員的照片與資料庫一些臉部照片逐一比對，結果出現 28 項錯誤符合，而在有色人種不正確結果比例特別高。但即使這些錯誤修正了，允許執法部門使用這種軟體仍是不負責任、危險和不道德。現在，產生這種偏見的根源存在於美國更廣泛的社會和司法系統中。臉部辨識技術的使用只會複製和放大美國現有的這種偏見。

  美國目前的政治環境使得向政府出售臉部辨識產品的想法更加令人反感。美國警方增加對黑人活動人士的監視力度，川普政府也在繼續全力打擊移民。我們不希望以任何方式為美國政府的超級監視系統做出貢獻。亞馬遜表示已要求 Rekognition 用戶遵守法律，但這只是一種為這項技術的負面使用逃避責任的方式。

  Google 員工公開反對公司與美國國防部的 Maven 合約，微軟員工公開反對公司與美國國防部的雲端計算合約 JEDI，我們將跟隨他們的步伐。不管我們對美國軍方的觀點如何，任何人都不應該從「增加軍隊的殺傷力」獲利。
亞馬遜談論了很多關於領導力的價值觀問題。如果我們想要擁有領導力，我們需要在人類利益與利潤之間做選擇。我們可把危險的監視系統賣給執法部門，或我們可以維護正義。但無法兩者兼得。


（首圖來源：shutterstock）



作者: lai23ster    時間: 2018-10-22 04:15 PM

感謝iiifgh大大無私分享- thank you
作者: zxc852927    時間: 2018-10-22 10:42 PM

這就像當初要架設監視錄影機一樣，民眾反對政府的原因是侵犯隱私。
但我認為，應該要人臉辨識技術是應該多推廣，因為這樣做才可以照顧到百姓的生活。
那些高高在上的大人物會損失何種權利，我是不知道，但像我這種，每天為三餐奔波，為一點小錢勞心勞力的小人物，有甚麼隱私會被侵犯?自己不要犯罪就好了
作者: 星晨氏    時間: 2018-10-28 10:21 PM

zxc852927 發表於 2018-10-22 10:42 PM
這就像當初要架設監視錄影機一樣，民眾反對政府的原因是侵犯隱私。
但我認為，應該要人臉辨識技術是應該多 ...

有這樣的想法很正常

但是你可能忘了像"正義魔人"或是"法律蟑螂"的例子
有些法在平時或許很好,但是到了現在卻經常被人利用,法只有懂的人才玩得贏,而當然一般人也會說我不犯法時,怎會面臨這些問題

可是當這些"正義魔人"或是"法律蟑螂"在跟你玩時,你只有被玩的份而已

人臉辨識如果只因長得像,或是被盜用頭像,甚至是串改資料又或著是資料輸錯(把顯示出來的頭像者改成另外一個人的資料),再來更恐怖的查無此人或是有權者能把自己資料刪除,那這套系統根本就跟現再鬧得沸沸揚揚的火車自動防治系統ATP一樣

如果那天變成警察國家又或著像對岸那樣極權國家,那個東西可以讓人走在接上隨便就能集一堆的莫名其妙罪名在頭上

亂丟垃圾 邊走邊吸菸 紅燈壓線 隨地吐痰 檳榔亂吐 隨便停車 這些都是社會大眾不輕意就會犯的事情,如果跟對岸一樣這個扣點 那個扣點 先不說公民有多少點可扣? 先來討論怎麼增加,總不會是靠告密他人來增點吧

不用想都知道那根本比白色恐怖還恐怖,告密者只少還要睡覺,這些攝影機只要有電那可是24H不打烊的運作
作者: zxc852927    時間: 2018-10-29 12:06 AM

星晨氏 發表於 2018-10-28 10:21 PM
有這樣的想法很正常

但是你可能忘了像"正義魔人"或是"法律蟑螂"的例子

你說得很對，我的確忽略了這方面的問題，前幾周我也看過鄉里居民因停車問題被檢舉達人檢舉的新聞。法律不停在更新，而我也不會很常注意這種事情，如果生活周遭有這種靠檢舉他人為樂的人，我也會不爽。
但人臉辨識系統就該這樣被廢棄嗎?我認為這是個很棒的科技阿。如果我們先將人臉辨識系統先裝在重要的公開場合，像是重要的政治人物演講會場，或是機場之類的呢?然後裡面先將國際恐怖份子或是一些前科犯的資料作成資料庫，像這樣的配置應該不會遭到太大的反對吧。
如果政府要將人臉辨識系統近一步推廣到全國各地就要透過立法院來投票表決，或是公民投票，當然現在台灣的立委一堆沒腦袋，無法期待，連投票系統是否公正我也很質疑就是了。
總之，我想說，科技的進步就是要造福人類，哪怕會發生你說的事情，我們也不該就此放棄，要透過折衷，或是小部分實施的方式來造福社會。
作者: st10323    時間: 2018-10-30 07:21 PM

哇塞，這下子誰有高科技，誰就能當話事人了~~~這下子每個國家都在搶高科技了~~嘖嘖嘖
作者: King-hang01    時間: 2018-11-10 09:51 AM

考量個資外洩，人之常情
作者: pig751031    時間: 2018-11-21 05:39 AM

提示: 作者被禁止或刪除 內容自動屏蔽
作者: stockholm    時間: 2018-11-23 11:20 AM

全民大監控的時代已經到了
只是我們要想的是犧牲隱私換來更安全的生活是否值得



歡迎光臨 伊莉討論區 (http://kancolle.eyny.com/) Powered by Discuz!