K.J 的夢想世界

每次重大社會事件發生，特別是殘殺幼童案件，社會上總是討論死刑存廢與否。但客觀來說，不論是死刑或是廢除死刑，最好的預防方式就是在還沒犯罪之前，事先防範犯罪。近年來，人工智慧浪潮席捲全世界，各方大力發展人工智慧應用，雖然人工智慧帶來人類生活的便利性，但許多知名學者提出警告，知名物理學家史蒂芬、霍金以及Elon Musk都曾經對人工智慧提出警告，認為人類若繼續廣泛開發人工智慧技術，將可能會造成人類的威脅，到底人工智慧是人類的未來? 還是潘朵拉的盒子?科技的進步超乎想像，十年前的人們應該很難想像十年後的今天，人們會創造出智慧手錶、智慧眼鏡等科技。人工智慧應用於犯罪

科技是兩面刃，解決社會問題，降低犯罪的背後，意味著拿掉人的隱私。本文探討的心靈判官(Psycho-Pass) 是一部反烏托邦的作品，劇情著重於建立一個理想社會，整個社會被西比拉系統所支配，決定人的職業以及藉由量化人的心理，降低犯罪率，其使用方式是【西比拉系統】(Sibyl System)透過支配者(Dominator) 與街道的攝影機進行人體掃描，利用獨特的演算法，將人的心理狀況和性格數值化，社會中的每個人都會被系統所監控，若心理數值超過標準值，就會被認定為潛在犯，則會事先抓去治療，如果心理數值一直居高不下，則會被西比拉系統之眼支配者(Dominator)制裁，因此整個社會的犯罪率降低。

雖然【西比拉系統】並沒有說使用什麼技術開發，但可以推論系統是一個以人工智慧為基礎的大數據系統，系統事先偵測人們的心靈數值，進行犯罪預防，雖然能藉此降低犯罪率，但人的自由意志人的自由意志越來越弱。

在Psycho-Pass世界裡，所謂善惡被機器所判定，看似有自由的選擇，其實都是系統限制範圍，人自由意志被限制，那麼人還有保有自主性的價值嗎 ? 人類生命的意義會變成如何 ? 這是劇中反派提出的質疑。人類追求美好的社會，假設社會被系統所支配，低犯罪率的社會卻同失去自由意志、隱私權，工智慧應用應該是造福人類，但若脫離以人為本，那麼應該重新思考，那麼這樣系統真的是對於人類有益嗎?

建立人工智慧倫理道德，已經是刻不容緩的事情

目前人工智慧應用於犯罪，大都只是輔助人類進行決策，但最終做決定依然是人類，若要全面抑制犯罪，甚至打造烏托邦低犯罪率的社會，需要從人的潛意識著手，但從Psycho-Pass 這部作品，所建構的社會之衍生議題，提供人類許多思考的面向，人的心理狀態有時候會隨著外在環境而變化，一時的壓力、或是情緒，難道能代表一個人是否有犯罪意圖，甚至歸類成壞人嗎 ?

目前討論人工智慧的議題著重於技術、趨勢和應用，但還有其他議題值得思考，Psycho-Pass的世界觀提供許多未來的想像，當AI 廣泛進入人類社會經濟層面，所引發的道德、法律、管理以及偏見爭議，設立相關的規範已經是刻不容緩的事情。對此，歐盟在2019年4月份公布人工智慧倫理道德準則規範【ETHICS GUIDELINES FOR TRUSTWORTHY AI】，制定人工智慧值得信賴的準則，建立以人為本的人工智慧；IBM 在2018年2月份提出人工智慧日常倫理(Everyday Ethics for Artificial Intelligence）開發手冊，提供給開發人員研發AI時，需要考量的原則，以增進社會大眾對於人工智慧的信任。目前人工智慧倫理道德原則制定基本的規範，但還有許多人工智慧使用情境，是無法從現實世界中馬上得知，建議可以從相關人工智慧影視作品中，獲得靈感並定期人工智慧倫理道德規範。