從當前到未來,人類仰賴人工智慧的需求與必要只會越來越多。但滿足這些需求的企業是否認真思考人工智慧對於人類世界的倫理有足夠
正確的理解呢?我們該如何讓人工智慧在適應與學習人類語言時,也能掌握到背後隱藏的道德判斷呢?
這篇來自【iThome】上的文章,帶我們看到最近讓學術圈熱議的一則新聞,也讓我們進一步思考科技產業在訓練人工智慧過程中,所應該擔負的道德責任。
----------------------------
該論文對當前的大型語言模型提出質疑,認為這些模型過大而具有風險,在過去幾年,語言模型使用極大量的文本資料進行訓練,人工智慧所產生的文字結果,與人類的文字越來越相近,甚至能夠假以亂真。該篇論文反思人們是不是已經對這些可能面臨的風險,進行足夠的思考與了解,並且發展夠完善的策略,避免這些風險帶來的影響。
論文提到,大型語言模型所使用的方法,必須要用到極大量的資料,但因為需要的資料量太大,以至於無法對所有資料集進行紀錄與文件化。文件建置提供了潛在問責性,像是可以要求產生文本的作者負起責任,但是如果因為訓練資料太大,而無法進行紀錄與文件化,便沒有咎責對象,則無法處理已知問題,更別說要發現並解決未知問題。
該篇論文還指出了其他大型語言模型所帶來的問題,包括因為模型需要大量的資料進行訓練,因此耗能和碳足跡呈現爆炸性成長;而且大型語言模型並無法理解語言真正的含義,僅是善於操作語言,但是因為大型科技公司可以透過操作語言模型來獲利,因此大型科技公司寧可投入資源研究大型語言模型,也不研究可以理解語言的模型,或是使用更精緻的資料集,達到更好效果的方法。
最後,論文研究人員認為,大型語言模型還有一個嚴重的問題,由於模型善於模仿人類語言,即便產生錯誤的內容,也會讓人深信不疑,而因此容易對特定族群產生傷害,論文中提到,曾有因為語言被錯誤翻譯,所導致人身自由被侵害等例子。
(以上引用網頁原文)
https://www.ithome.com.tw/news/141504?fbclid=IwAR07-dVrNLVhbqVZxMt1q08p9-BFkyP7MYEFZTjyD5brP39z1EeGEdu_Ras
同時也有1部Youtube影片,追蹤數超過24萬的網紅啟點文化,也在其Youtube影片中提到,[ 2020/4/18 開課!]【寫作小學堂】~寫出專屬風格,找回文字悸動~第五期(僅剩四位名額) 打造一盞自己的聚光燈,建立起專屬於你的品牌印象 課程資訊:https://www.koob.com.tw/contents/3655 更多學員心得分享:https://pse.is/NE3QN 【線...
道德判斷 例子 在 謝伯讓的腦科學世界 Facebook 的最佳貼文
再來一個贈書活動!留言+公開分享,就會由 商周讀書會
選出三位中獎人贈書。
這本新書,是商業週刊出版的《為什麼聰明人會做蠢事》。這本的內容很厲害,書中一開始就來了一個小問題,我想了兩秒直接作答,結果當然是錯的一塌糊塗。大家可以試試看,不要想太久,就以直覺回答這個問題,問題是這樣的:
「傑克正看著安,而安正看著喬治。傑克已婚,喬治未婚。請問已婚者是否正看著未婚者呢?」請問答案為:是?否?還是無法判斷?
你直覺的答案是什麼呢?想知道你是否有犯錯嗎?以下是我的推薦序,大家可以從中找到自己有無犯錯:
--
推薦序/謝伯讓
--
人類無力抵擋假資訊的現象,其實並不是最近才開始。早在三百多年前的1710年,愛爾蘭的諷刺文學大師史威夫特(Jonathan Swift),就曾經寫下一句名言:「謠言飛馳四散,真相跛行其後」。
除了假資訊橫行騙世,各種心理騙局和認知陷阱,也都讓大家難以招架。為什麼我們這麼容易受騙?為什麼在面對一些可能犯錯的情境或問題時,連許多聰明人也都難以倖免呢?其中的一個原因,可能就在於我們能否進行「認知反思」!
2005年,耶魯大學的心理學家佛瑞德瑞克(Shane Frederick)發明了一項「認知反思測驗」(Cognitive Reflection Task)。在原版的測驗中,只有三個看似簡單的問題:
1. 球棒和棒球合售1.10元,球棒比球貴1元,請問球多少錢?
2. 5台機器5分鐘可做5個零件,100台機器做100個零件要多久?
3. 蓮葉每天倍增,若48天蓋滿整面湖,那蓋滿半面湖要多久?
這三個題目,不知道你想出答案了嗎?以第一題來說,正確答案是 0.05元,但是大約有百分之 30 的人會錯答成 0.10 元。
而第二題和第三題的答案,則分別是 5 分鐘和 47 天。
這些題目雖然看似易如反掌,但就算是美國的大學生,也只有少數人能夠同時答對三道題目。
如果要答對這一類的問題,受試者必須要能夠對自己的直覺進行反思才行。研究發現,這種「認知反思」的能力,和許多心理與行為傾向都有相關性,包括了某些宗教信念、陰謀論認同度、道德判斷、以及政治意識形態等等。比方說,認知反思的測驗分數越高,就越不會否定演化論、不會相信 911 陰謀論、也比較不會受到假新聞的影響。
更重要的是,研究還進一步指出,這種「認知反思」,似乎和「認知能力」或智商無關,而是和「認知風格」、或者說是自己想不想要反思的「意願」比較有關。
換句話說,如果有兩個智商一樣的人,但若其中一人比較不願意反思、或比較沒有強迫自己反思的習慣,就比較有可能會落入上述的直覺陷阱之中。而類似這樣的因素,就是為什麼有些聰明人也會做蠢事的原因之一!
再給大家一個書中會出現的知名例子:「傑克正看著安,而安正看著喬治。傑克已婚,喬治未婚。請問已婚者是否正看著未婚者呢?」請問答案為:是?否?還是無法判斷?
如果你回答「無法判斷」,恭喜你,又再度落入了直覺陷阱之中!
各位聰明的讀者們,你想知道這一題的正確答案究竟為何嗎?你想知道世界上究竟有多少直覺陷阱嗎?你知道眾人犯傻的機率有多高嗎?如果你也想要避免自己犯下各種認知錯誤,那就千萬別錯過 BBC 與 New Scientist知名作家羅伯森(David Robson)的這本精彩之作!
--
誠品x商業周刊全書系書展,任選雙書75折(5/01-5/31)
優惠購書:https://eslite.me/M8CFU
道德判斷 例子 在 李臻 Oscar Lee Facebook 的精選貼文
反面數據同樣重要
作者:李 臻 (Oscar Lee)
2019年12月14日刊於《信報》
STEM教育(科學、科技、工程、數學)近年大受家長歡迎,特別是AI(人工智能)及Big Data(大數據)這些詞彙,更好像如果孩子不懂就不能在未來世界生存似的。為此小弟去找了一間在電腦課教授人工智能的中學,看看老師今時今日是如何教一群中二學生人工智能。
親身觀看英華書院的陳汝堅老師【圖左】授課,確實增長了小弟的眼界。回想自己中學時的電腦課,和現時除了在硬件上有天壤之別外,教授的方式也十分不同。之前聽陳老師的講座,已經被他的理論吸引,他說有必要把道德元素加入AI課程之中,因為電腦沒有人性也沒有道德判斷,只是根據數據和指令行事,因此學生在學AI之前,應該擴展本身的道德思維,才不易被人工智能的判斷牽着鼻子走。
AI認錯劉德華的反思
陳老師的課堂也並非只教理論或編碼等技術,主要是教學生應用人工智能及怎樣去選擇數據。其中一個應用的例子很生動,老師要教電腦怎樣以人工智能去辨認出影星劉德華,於是輸入了大量劉德華不同時期的照片,想必電腦已經認定了他的特徵,但當他們隨便找一位同學或男老師的相片讓電腦辨認時,電腦竟然得出這兩位男性和劉德華有九成相似的結論。為什麼會出現這個誤差呢?原來這是陳老師的悉心安排,他只輸入了「劉德華的樣子」的訊息,而沒有輸入「不是劉德華樣子」的訊息,因此電腦只接收到正面訊息,接收不到反面的訊息。老師的目的是讓學生明白,除了要讓電腦學習什麼是「肯定」外,讓電腦去學習什麼是「否定」同樣重要。這個例子說明了,當只有「什麼是正確」的資訊時,原來準確度只是一般。電腦要加強精準度,必定要同時學習「什麼是不正確」。電腦只有同時學習「什麼是劉德華」和「什麼不是劉德華」才能加深分析的準確度。
暈輪效應致判斷失誤
估不到這堂中二的電腦課會這麼有啟發性,而且絕對可以應用在其他範疇,包括管理和日常生活的決定上。記得讀MBA時有讀過「Halo Effect」(暈輪效應),意指人們往往會倒果為因,例如看到別人成功的例子後,就由這些已經成功的例子歸納出要得到這些成果就要怎樣怎樣做的結論,而沒有去深究失敗的個案,以致往往會以偏概全,只看到事件的某一個片面。就好像被一種「肯定的光環」所籠罩着,令人對其他因素視若無睹或選擇性地忽略。就像那個沒有考慮「什麼是不正確」的人工智能一樣,得出不準確的結果。其實其他人用同樣的所謂「成功方程式」去做同樣的事情,可能會導致焦頭爛額,不能因為看到個別成功案例,就得出當中的因與果。試想想過往有多少失敗的投資或管理決定,是由這些太過肯定的「Halo Effect」所導致呢?
更令人擔心的是,在現今社交媒體和通訊軟件大行其道的年代,人們更容易因為自己的偏見或立場而聚在一起「團爐取暖」,讓這些缺乏反面數據和意見的Halo Effect更加強,破壞力更大。事實上,不但香港,世界不同的地區像英美等國,也愈來愈受這種只看到正面或合心意的訊息、忽略不合意或反面訊息的現象所影響,嚴重窒礙理性分析及判斷力。
正面一點去想,如果我們留意到這個現象,不斷警惕自己必定要同時注重反面意見和數據,每事都從正反兩面去考慮,可能已經比起只看到某一面數據的人有優勢。正如投資前要做好due diligence(盡職審查)一樣,凡事有個Devil's Advocate(吹毛求疪的人),從反面角度去做一次「腦震盪」,才可以補足只考慮正面數據的不足,做出比較完善和理性的決定。
追尋真實還是求安慰
因此陳老師的教導十分重要,因為他不單教學生電腦課,而是在教學生做其他的研究或學問,除了要留意什麼是正確的外,也必定要知道什麼是錯誤。只有全面的去收集數據和資訊,得出來的結果才會更能反映真正的現實。除非,我們只是想找安慰,而不是想看到真實的畫面。
香港科技大學工商管理碩士校友會會員
#李臻 #經管智慧 #經管錦言 #反面數據同樣重要 #HKUST #MBA #EMBA #香港科技大學工商管理碩士校友 #HKUSTMBAAA
道德判斷 例子 在 啟點文化 Youtube 的最佳解答
[ 2020/4/18 開課!]【寫作小學堂】~寫出專屬風格,找回文字悸動~第五期(僅剩四位名額)
打造一盞自己的聚光燈,建立起專屬於你的品牌印象
課程資訊:https://www.koob.com.tw/contents/3655
更多學員心得分享:https://pse.is/NE3QN
【線上課程】《理財心裡學》~擺脫家庭影響,從心培養富體質
課程連結:https://pse.is/EPBWE
第一講免費試聽:https://youtu.be/HgrDK7pqR-0
不定期推出補充教材,讓學習無限延伸:https://pse.is/NJ5VE
【線上課程】《過好人生學》~讓你建立迎向未來的思維與能力!
課程連結:https://pse.is/H8JXH
第一講免費試聽:https://youtu.be/-EHOn0UxMys
不定期推出補充教材,讓學習無限延伸:https://pros.is/KQZZH
【線上課程】《時間駕訓班》~
學會提升效率,擺脫瞎忙人生,做自己時間的主人
課程連結:https://pse.is/DDDHB
第一講免費試聽:https://youtu.be/flfm52T6lE8
不定期推出補充教材,讓學習無限延伸:https://pse.is/GXZWM
【人際維基】桌遊體驗會~讓你一玩就懂別人的在乎~02/22(六)或03/15(日) 14:00
活動資訊:https://www.koob.com.tw/contents/3072
【我們有Podcast囉~】歡迎到Apple或Android內建的Podcast搜尋「啟點文化一天聽一點」訂閱我們!另外,在Spotify和Soundon也找得到喔!
Apple Podcast~https://pse.is/N2WCZ
Google Podcast~https://pse.is/PEN2Z
在Spotify收聽~https://pse.is/PQT76
在SoundCloud收聽~https://soundcloud.com/ekoob
【2020/4/30開課】《人際回應力-看懂情緒,輕鬆對談》~第22期
一個人的命運,是回應力的總和!
課程資訊:http://www.koob.com.tw/contents/157
更多學員心得分享:http://goo.gl/Guc6V6
【線上課程】《人際斷捨離》~
讓你留下怦然心動的關係,活出輕盈自在的人生!
課程連結:https://pse.is/E5MW5
第一講免費試聽:https://youtu.be/YyLvd1cNcDw
不定期推出補充教材,讓學習無限延伸:https://pse.is/LVRLY
歡迎加入「啟點文化Line@」:https://line.me/R/ti/p/%40teb0498p
線上課程【不用開口,就讓你擁有人際好感】
啟動人際溝通的關鍵影響力 https://goo.gl/v3ojdo
桌遊【人際維基】~一玩就懂得別人的在乎:https://goo.gl/Ej4hjQ
到蝦皮購買【人際維基】:https://goo.gl/ASruqR
=============================
以下為本段內容文稿:
先跟大家打個預防針,今天所談內容,你在聽的過程當中可能會有一點不舒服,然而它對於我們每一個人卻是非常重要的。
特別是我們在面對人生當中的很多事物的時候,為什麼有些人,他可以保有他的底線,他可以有一個最起碼的限度,不會跨越過去?
但是有些人是完全沒有節操、完全沒有底線,而且你會完全無法理解,為什麼會有這麼道德敗壞的人,或者是這麼可怕的存在?
我想今天的內容,你有一個初步的理解,可能對於你看待這些,讓你覺得很誇張的人事物的時候,會有一些更清楚的認識。
今天要談的這個部分呢,有一個名詞叫做「道德錯愕」。它主要的提出者,是維吉尼亞大學的心理學家~海德特。
在談「道德錯愕」是什麼之前,先跟你分享一個假設的情境哦!這個假設情境,就是有一對兄妹分別是馬克跟朱莉,他們一同去法國的南部度假。
有一天呢,他們暢遊鄉間玩的很開心,兩個人共進了一頓美味的晚餐;席間呢,他們還喝了幾瓶紅酒,結果不知不覺,兄妹倆決定要發生性關係。
朱莉吃了避孕藥,而馬克也用了保險套以策安全,他們很享受這段關係;但是呢,他們也決定以後不要再這麼做,兄妹倆呢承諾要守住這段一夜情的秘密。
在一段時日之後,他們發覺性關係會讓彼此的感情更融洽,那你覺得馬克和朱莉他們有錯嗎?
如果你聽完之後,你和大部分的一樣,你的第一時間反應,是這對兄妹犯了滔天大罪,他們的行為錯的離譜。然而你有這種反應,其實一點都不意外!
可是呢,海德特要他們去解釋,他們那嚴厲的道德判斷,到底是出於什麼的時候,我們最常聽到的理由,可能是這樣有可能生出基因有缺陷的孩子;還有啊,發生性關係有可能損害兄妹的手足之情。
但這個時候,海德特就會點出,馬克跟朱莉他們採取了雙重的避孕措施;而且性關係其實讓他們兩個更親密。
其實這樣的對話延續下去,會發現喔多數人所提出的理由,其實都有合理的可以被駁回的空間。
但無論怎麼樣被駁回,其實你我,還有大多數人都還是認定,親手足之間發生性關係,就是一個不道德的事情!
海德特事後他怎麼看待這樣的過程呢?他說這個研究裡面的狀況,就是人們呢會提出一個理由,解釋這種性關係不對。
當這個理由不成立的時候,他們也會提出另外一個理由;但當新的理由不成立,他們就再找另外一個理由。
當然了,如此這般,最後就會找不出任何理由,他們把所有的道德理由都用光了!甚至於可以感覺到這些理性的辯護,有一點是硬拗、硬加上去的。
但這時候幾乎所有人就會用一種說辭,像是因為和親妹妹發生性關係就是不對,或者是因為那太噁了,所以不可以!
海德特呢,就把這樣的論調稱作是「道德錯愕」,大家都知道某些事情是不道德的;就像這個例子,兄妹之間發生性關係,可是就是沒有人能拿出合理的理由,邏輯完整的辯護說辭。
其實海德特在這裡的真正目的,是要去研究在我們的大腦裡面,特別是情緒跟理性的判斷,到底是怎麼樣交互運作的?
通常我們的情緒大腦會做出裁決,由它來決定誰對誰錯;就以朱莉和馬克的案例。
「情緒的大腦」絕對不相信兄妹發生性關係,是一件道德容許的事情。無論他們事前做了多少的避孕措施。
而反觀「理性的大腦」,只會負責解釋這項裁決,它會拼命的找理由;但這些理由都是事後補上的。
我想喔你聽到這裡,如果你有產生一種「道德錯愕」的感覺,你不僅不要覺得自己有什麼問題;反而哦,我要特別的恭喜你,因為你是正常人,你是一個有良心的人!
其實這個研究,也反過來說明了一件事情,那些精神病態者、那些沒有良心的人,他們可怕的地方就是,他們缺少能夠指引道德決定的情緒。
他們某種程度上是沒有情緒大腦的作用,也就是說雖然在理性上說不通、理論上說不通,但你知道那件事不對就是不對,沒有什麼理由的。
那些沒有良心的人,是沒有這一塊的!在他們的大腦運作裡面,他們在應該有情緒的地方,出現了一個很可怕的空洞。
在這些人的心智裡面,除了一個很會推理、隨時準備幫自己的行為,找理由的律師之外,其他什麼都不剩。
這些人會犯下可怕的暴力罪行,這是因為他們的情緒從來沒有告訴他們:「不要那樣做、那樣是錯的,沒有理由錯就是錯!」
這就如同一位英國的作家,叫材斯.特頓,他就說過一句話,很呼應這樣的狀態。他說:「瘋子並不是喪失理性的人,瘋子是除了理性之外,什麼都喪失的人。」
所以呢,當你聽到這裡,當你面對很多不公不義,或者很多可怕的事情,你仍然願意保有自己的底線、你仍然願意去堅持自己心中認為什麼是對的,什麼是錯的。
儘管那個邏輯可能會被攻擊,儘管呢,他沒有辦法說出一個完美,沒有任何漏洞的道理。但是呢,你都必須為自己感覺很開心,因為你是一個有良心的好人。
很多人可能會說這是人性的脆弱,這是一個bug,我反而認為這是人跟人性,為什麼會有美好的可能的最主要原因。
希望今天的分享,能夠帶給你一些啟發與幫助,我是凱宇。
如果你喜歡我製作的內容,請記得訂閱我們的頻道,並且把它分享給你身旁的好朋友們;無論是YouTube,還是Podcast,我們都需要你用最具體的行動來支持我們。
然而如果你對於啟點文化的商品,或課程有興趣的話,我們近期的實體課程,是在4月18號開課的【寫作小學堂】。
這一門課呢,由嘉玲老師跟怡璇老師共同擔綱,你會在這一門課裡面,重新找回你跟文字的關係。
我知道喔,很多人特別在這個時代裡面,無論你在工作上,還是生命上的自我滿足,你都會覺得有一天,我遲早要好好寫點什麼,不寫給別人也寫給自己。
只要你曾經到過這個念頭,你有這樣的想法,那麼【寫作小學堂】都會陪伴你,回到文字跟你生命的根本,讓你找到屬於自己的文字跟聲音。
在我錄音的這個時候,這一門課的名額已經在倒數了;所以呢,如果你看到這一門課還有名額,請你務必把握這難得的機會。希望我能夠在4月18號的教室裡見到你,謝謝你的收聽,我們再會。
道德判斷 例子 在 我個人對於道德的理解 的推薦與評價
前言; 正義- 一場思辨之旅- Michael Sandel; 道德的主觀主義, 道德的客觀主義 ... 又一個例子, 假設一個人對於道德判斷是基於主觀感受, 比如認為蛞蝓是噁心的, ... ... <看更多>
道德判斷 例子 在 讓思考可以有個方向。 哲學中的規範倫理學 - Facebook 的推薦與評價
規範倫理學的主張就像上面的兩個例子,試著提供一個#道德判斷的標準,引導我們#思考事情的對錯。 而如果你好奇我們有甚麼理由要接受這些主張,在後設 ... ... <看更多>