G2. 人工智能與倫理 | AI and ethics
你應具備 :
知識 :
- 神經網絡
- 監督式學習
- 強化學習
材料 :
- 已經在電腦安裝 AlphAI software
- 具備藍牙或Wi-Fi功能的電腦以和 AlphAI 進行溝通
- 擁有 AlphAI 機器人
AlphAI 機器人及其軟件
AlphAI 配備了多個 Sensor(感應器)及 actuators (執行器)。它有 : ultrasonic sensor(超音波感應器)測量正面距離 、 5個朝下方的 infrared sensors(紅外線感應器) [在機器人底部] 、 一個用於影像處理的攝錄鏡頭、2個電動車輪(Motor)以及一個 Buzzer (蜂鳴器)。
它由微型電腦 Raspberry Pi Zero 控制 , 通過 Wi-Fi 或藍牙與 PC(電腦) 進行通信。AlphAI software 將向 AlphAI 機器人發出指令以進行決策 , 例如 : 「轉右」或「Ultrasonic senosr 的狀態是什麼」等的指令。機器人將簡單地執行這些指令 , 真正的人工智能是在接下來的部份。
在 software 中 , 中間白色的視窗會顯示 AlphAI 的狀態、決策及演算法細節 (例如:深度學習的網絡活動)。左側的面板是設置 AlphAI 的學習、Sensor、動作等的地方。 5個選項卡(Tabs)是 : 「Sensors」用於控制 sensor , 「Actions」用於選擇 AI 動作(必須選擇) , 「Reward」用於設置強化學習的獎勵及懲罰 , 「AI」用於選擇及配置演算法 , 「Visulization」用於控制中間的視窗會顯示出什麼(例如 : weight , neural networks 等等) 底部的 control panel 讓用家開始及控制學習/訓練。
本課程的目的是讓你在小組中思考及討論 AI 人工智能相關的倫理問題 , 以及如何升非入門者解釋機器學習的局限性。這將使你對演算法在技術層面外有不同的看法 , 並鼓勵你就這主題跟不同人進行討論 , 這些都是比較容易理解的概念 , 例如 : 希望把 AI 融入他們的專題但未能掌握概念的客戶。
Software 入門 :
連接 AlphAI :
→ 開啟 AlphAI 的電源 (電源掣在底部)。需時約20-30秒 , 它會輕輕移動幾步, 當它準備好連接時會亮起白光。
→ 記下 AlphAI 底板的編號 ( 應該3位數 e.g 197 )
→ 選擇以WiFi 或 藍牙接駁 ( 當超過4個 AlphAI 或房間已有多個 WiFi 網絡時 , 建議使用藍牙接駁)
| Wi-Fi : | 藍牙 : |
|---|---|
| - 將電腦連接至 AlphAI 的 Wi-Fi :找出以 AlPHAI 開頭並以機械人編號結尾的 Wi-Fi 網絡 : 密碼與Wi-Fi名稱相同 (包括大小寫)- 在「Tools」工具欄中選擇「wifi」 | - 在 「Tools」工具欄中選擇「Bluetooth」,選擇相應的 AlphAI (對應機身編號)- 如果你的 AlphAI 不在列表中 , 點擊「pari a new robot via Bluetooth」並在該 AlphAI 出現時選擇 它 , 然後將它添加到您可以選擇的列表中。 |
→ 點擊「connection」 button 來連接你的 AlphAI 。連接後你將在右下角能到它的電量。
入門活動 : 人臉識別 (Face Recognition)
- 在「Parameters」導入「Supervised Learning - Image Recognition」。
- 用手握住 AlphAI , 但不要捉住車輪以讓它可以自由轉動。
- 行駛。 將AlphAI面向你的臉部(鏡頭朝人臉)，然後點擊右側其中一個箭頭(action)，這將是AlphAI 在識別到面部時應選擇的動作。 在更改視角的同時多次點擊相同的箭頭。 然後將鏡頭指向其他人臉，並通過點擊另一個箭頭重複剛才的操作。
- 操作/概覽。 檢查AlphAI是否根據見到的人臉做出正確的動作。
備注 : 你剛剛(再次)發現了監督式學習的基礎。 學習如何訓練數據(這次是圖片)。 然後利用/概括新數據(圖像)。
機器學習的限制 :
目標 :
- 學習以初學者角可以理解的方式解釋機器學習的局限性。
「機器人比賽」的數據質素 :
- 設置一個中間帶有迴旋處的比賽場地 , 這樣可以參加者訓練 AlphAI 旋轉。
- 導入「Supervised learning - Navigation with camera (robot race)」
- 取消勾選「self-drive」。點韓右側的箭嘴或使用鍵盤上的方向鍵來「教導」機器人如何行駛 , 例如 : 什麼時候直行 , 什麼時候轉彎。
- 圍繞賽道行走2次後 , 啟用「self-drive」, 假如它卡住或走錯方向你可以即時糾正它的軌跡。
- 準備好後就和其他同學比賽吧！
- 討論 : 為了最大化贏得比賽的機會 , 你覺得訓練數據期望的質素會是怎樣的 ?
學習偏見 | Learning basis :
- 圖形及三角形。在「Sensors」選擇「camera zoom 32x24」 , 在「Actions」只選擇「forward turns」及「stop」。把 AlphAI 放到一個小支架上這樣它的車輪就能在不向前移動的情況下轉動。選擇「Start」以開始訓練 , 按「Stop」當沒有向它顯示圖像。「轉左」當我們向它顯示藍色及紅色的圓形圖像 , 「轉右」向它顯示藍色三角形圖像。檢查機器人在看到這些圖像時是否選擇正確的動作 (慢慢地移入/走圖像)
- 新的三角形 ? 現在向機器人顯示一個全新的紅色三角形圖像。機器人會執行什麼動作 ? 為何要這樣做 ? 這個簡單的例子將說明 AI 人工智能那些局限性 ?
- 跟你的組員討論以找出其他簡單的例子來解釋相同的想法。
當我們在討論 AI 的時候 , 可以將它類比成初生嬰兒因為他們在開始時對學習都是沒有任何概念的。
強化學習 : 即使是自主學習的 AI 仍然是一個決定性的程式
- 導入「"Reinforcement learning - Blocked navigation vs. movement」並啟動「self-drive」。 AlphAI 很快就會找到一個策略(轉左) 並給它帶來一些「獎勵數值(rewards)」。它達到什麼水平(Level)?
AlphAI 直行時將得到 100分 reward , 向前轉彎將得到 30分 reward , 向後行/被阻擋時會損失50分 (-50 reward)。 Level 顯示數值為過去一分鐘內獲得的 reward 平均值。 - 重置 AlphAI , 啟動「exploration」並重啟學習。這次 AlphAI 將設法找出一些新的及更有價值的行動 : 直行並在遇到障礙物時轉彎 , 它將到達什麼水平 ?
- 發生了什麼事情 ? 兩種學習情況有什麼區別 ? 在這兩種情況下 , 你覺得 AI 有多大程度上是「智能」及「具主動性的」?
AI 人工智能的倫理 :
目標 :
- 討論 AI 人工智能引發的倫理問題，拓寬你對該主題的看法
數據的利用 :
- 開啟電腦的「檔案總管」並前往安裝 AphAI software 的文件夾。查看 AlphAI/to upload 的文件夾 , 你有什麼反應 ? 有什麼重要的概念受到威脅?
請放心 AlphAI 並不會下載這些圖像 , 這跟文件夾名稱的意思正好相反 , 當關閉 software 後 , 該文件夾的檔案會完全刪除 , 目前只是讓 AlphAI 能收集數據。 - 這些相像都是在進行圖像情別場景訓練時你不知情的情況下拍攝的。那學習演算法跟數據保護有什麼聯繫 ? 試討論當中潛及的風險及如何避免。
我們可以讓 AI 人工智能合乎道德嗎？ “電車困境 | tramway dilemma”
- 導入「Supervised Learning - Image Recognition」 , 在「Action」在只選取「slight curves」 i.e 「light forward-curves」
- 一個行人在我面前過馬路！關閉「autonomous mode」然後啟動機器人 , 準備在賽道上行駛。擺放一個男孩及老婆婆在它面前 ,擺得稍為偏左或偏右一點 。訓練機器人避開他們 , 無論他們放到邊還是右面都需要避開 ( 如果人物偏左機械人則轉右 , 反之亦然)。重新啟動「autonomous mode」檢查機器人是否能避開2個人物 , 無論他們是在左側還是右側都需要許開 ( 使用「step」來執行僅僅一個動作 ,假如效果欠佳請再次進行訓練)。
- 兩個行人同時橫過馬路 ! 現在將2個人物擺放到機器人的前方 , 一個在左側 , 另一個在右側。這樣無論你選舉什麼動作 , 它都無法避免撞到其中一個人物！按「Step」一步一步行駛來觀察誰會成為受害者。
- 我們逼使 AI 人工智能做出道德倫理上的決定 。 這裡有2個話題可以討論 :
a) 誰來承擔刑事或民事責任？用家、製造商還是 AI 機器人？
b) AI 人工智能可以做出道德倫理上的決定嗎 ? 只有在人類有教授它的前題下 ( 根據時下文化的參考 , 將道德倫理的價值觀傳給 AI 機器人的是人類) 但這真的是能量化的嗎 ?
人類的問題 : AI 人工智能會超越人類嗎 ?
- 在剩餘的時間 , 討論人類在 AI 人工智能在日益複雜和無處不在的世界的未來。
總結 :
- 通過討論,你應能夠拓寬對 AI 的思考，並學習如何更好地與入門/有經驗的人交流。
學到的概念 :
- 如何解釋AI人工智能可以做什麼和不能做什麼
- 一些倫理問題跟風險：數據收集、就業危機、道德決策