我們該如何規範人工智慧 (全文)?
#COMPUTEX,這個跟我一樣歲數的電腦資訊展會,我竟然直到今年才首次踏入。
這次受主辦單位之一的 #外貿協會 ( #TAITRA)邀請,在上週三(5/29)來到位於南港展覽館 2 館4樓的「 #SmarTEX」展區參觀,與多家參展公司交流。我雖然自己經營過科技媒體網站,但我不是擅長採訪會展的記者,也不是好的 3C 部落客,因此我抱著「幫自己正在思考的問題取材」的目標,前往這場大型科技會展。
(先說:因此這篇文章不會有太多展覽展位上產品的細節跟照片,請大家見諒。)
而我最近在想的問題,也就是本篇文章的主題是:進入人工智慧時代,我們該如何規範人工智慧?
或者,我們也可以反過來問:人工智慧該如何規範我們?
自認偏樂觀派的我,其實不希望讓大家覺得「人工智慧的未來真糟糕」,我的個人偏見是:大致來說,我喜歡科技,儘管科技的確會帶來衝擊,但只要我們更願意去思考,就更有機會讓未來往比較好的方向演進。所以談這個議題,目的是要避免要是這樣的狀況真的發生了,我們才懊悔地說「這真糟糕,為何我們沒有早點想到。」
--------------------
關於人工智慧的規範問題,首先,我們來看看 MIT 媒體實驗室做的一個調查「道德機器」(網址:http://moralmachine.mit.edu/hl/zh)。
在這個網頁裡頭,有許多類似「#電車難題」的情境,需要你來回答。每一個參與者,需要回答 13 個題目,每個題目只有兩個選項。在每一個題目的情況中,都有一輛突然煞車失靈的自動駕駛汽車,而你必須做出選擇,要繼續前進,或是轉彎離開。
例如在某個二選一的情況中,你認為這台自動駕駛車該繼續直衝,撞死一個成人男性,還是轉動方向盤,讓車子撞上另一側的護欄,殺死車上四個人,包括兩名兒童?
在另一個二選一的情況中,這台自動駕駛車上只有一隻貓,若繼續直衝,會撞上護欄,讓貓死於非命,但若自駕車往左彎,貓的性命可保,卻會撞死一位正在違規闖紅燈過馬路的遊民。
類似這樣的二元選擇有很多種變化,例如過馬路的可能是動物、可能是罪犯、可能是醫生,嬰兒,或是這些人的綜合隊伍,他們或許是違規過馬路,或許是遵守交通規則但運氣不好。而車子直衝或轉彎,也隱含了道德選擇。推薦各位都上道德機器的網頁去回答看看,看你會不會跟我一樣覺得實在是逼人太甚,到最後根本就放棄思考(XD)。
這個網頁告訴我們一件事:我們不可能對各種狀況產生共識、或得出任何堪稱正確的答案,事實上這個調查也不是要用多數人的意見來決定未來的自駕車要是真的煞車失靈的時候,該做出什麼行動。然而這個調查提醒我們,當越來越多的「人工智慧代理」進入我們的生活,就會產生更多類似的道德難題。
--------------------
舉例來說,若一個 #人工智慧股票交易系統,因為對政治領袖發在社群媒體上的文章產生錯誤的解讀,而決定拋售某一檔股票,造成連鎖反應,讓投資者大賠一筆,這樣的損失該由誰來負責呢?
延伸閱讀:〈AI 機器人害我投資賠錢,我能告他嗎?〉
https://www.techbang.com/posts/70447-ai-robot-made-me-invest-money-can-i-sue-him
舉例來說,若一個 #人工智慧戀愛配對系統,推薦了一位居心不良的對象給另一個使用者,最後使用者被騙財騙色了,誰會受到最多的指責呢?誰「#與惡的距離」最近呢?
再舉一例來說,如果用於門禁或 ATM 的臉部辨識 AI 系統出問題,太過嚴格以至於讓使用者開不了門、領不到錢,或是太過寬鬆使歹徒得以利用,那該怎麼定義問題的範圍,用理性的方式來解決呢?
臉部辨識作為服務升級的關鍵,從智慧零售到智慧家居到智慧服務,都少不了這項技術的身影,也是人工智慧使預測平價化的代表。只要你拿著這一兩年出的新手機,想必也不會陌生。例如我這次參訪的 #訊連科技(CyberLink)展場主打「FaceMe」AI 臉部辨識引擎,他們提供 SDK 與多家科技廠商合作,包括 #宏碁雲端、#奇景光電、#微程式、#凌群、#達碩 等。我也拜訪了同在 SmarTEX 展出的達碩智慧科技,了解他們使用這套臉部辨識引擎,針對銀髮照護、社區管理、企業差勤管理等不同情境設計的解決方案。即使在我與訊連跟達碩的主管談話時,他們自謙還不是目前領先的廠商,但他們的服務也已經非常成熟,可見這樣的軟硬體整合套裝將持續普及到各地,而台灣中堅企業將成為關鍵推手。
美中貿易戰,加上美國可能逐步針對有侵犯人權之虞的監控科技施加圍堵禁令(如 #海康威視、#浙江大華、#商湯科技 等),突顯出台灣提供類似服務的企業所能提供的安全價值,但即使如此,這項科技本身還是帶給社會其他挑戰。訊連科技的連啟民協理跟我說,臉部辨識的準確性不是 0與1 的取捨,他們的 SDK 能夠針對不同情境,讓配合的廠商自行調整精度,掌控風險,例如從一般社區門禁的萬分之一調到 ATM 的十萬分之一,同時使用邊緣運算技術(Edge Computing),讓資料不用都到雲端,降低反應時間及資安疑慮。
我在展場也與 #康訊科技 及 #訊舟科技 兩家公司進行交流。康訊從圖資起家,以地理定位技術切入車載系統設備,扎根台灣30多年來,已經成為全球領先的車隊管理服務商,不管是共享汽機車、物流公司、校園巴士、救護車、消防車都是他們服務的客戶。他們提供的設備就像車上的黑盒子,可以完全掌握車輛的狀況,如透過監測引擎啟動狀態,可以知道司機是否過勞;透過監測燃料消耗情況,可以知道是否有偷油的情形發生。而全球客戶累積的數據也成為重要的資產,可以協助物流業者優化路線。
訊舟作為老牌網通公司,這次展出許多產品,我認為最亮眼的就是他們與中研院陳伶志博士合作推出的「空氣盒子」,我雖然早就知道空氣盒子,卻是第一次看到並且從訊舟的角度聽這個已經是公民科技典範的故事,目前在全台已經有 4,000 多台設備上線,密集監測空氣品質,累積的數據也已經可以做到空品預測。
另外,這次在 SmarTEX,科技部推動的 #GLORIA 國際產學聯盟現場展出 67 項前瞻技術,我也與聯盟中的幾所大學交流,例如 #中國醫藥大學 推出能夠判讀骨齡、癌症等資訊的 AI,節省醫師判讀時間,加速診斷。#國立交通大學 伍紹勳博士則與 #新光醫療團隊 合作,用像是貼在東尼史塔克胸口的智慧貼片,只用3導程就能正確模擬專業醫療設施12導程的ECG心電圖信號,大幅改善病患的行動自由,也顯著降低成本。而具有超過 2,000 例達文西手術經歷的 #臺北醫學大學劉偉民醫師團隊,則在擁有大量醫師第一視角錄影的基礎上,推出手術教學平台,包括 VR 手術直播拍攝,與虛擬手術教學模擬系統。
從訊連、達碩、康訊、訊舟到這三個來自學界的醫療技術案例,可見都與數據分析、人工智慧辨識判讀、虛擬模型建置有關,儘管我相信在台灣醫療與科技、工程多重優勢下,他們都前景可期,但該問的仍然要問:要是出了差錯,怎麼辦?誰負責?各團隊對此問題顯然也都深思熟慮過。而我將他們給我的回答整理,加入我對「人工智慧如何規範」這個問題的答案。
--------------------
#以自駕車為例思考
著名的科幻小說家艾希莫夫,在1942 年的短篇小說 Runaround 以及後來的機器人系列裡頭,提出了機器人三原則(Three Laws of Robotics),很多人可能都會背了,這三原則分別是:第一,機器人不得傷害人類,或坐視人類受到傷害;第二,除非違背第一法則,否則機器人必須服從人類命令;以及第三,除非違背第一或第二法則,否則機器人必須保護自己。
參考:Three Laws of Robotics
https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
這三原則聽起來很周密,但其實並非如此,而且也不太現實。以自動駕駛汽車作為案例吧,自動駕駛汽車是這一波人工智慧發展最受關注的領域,而且因為許多國家政府正在積極制訂法規,自駕車的自動化程度,跟依據自動化程度而制定的責任歸屬,也比較清楚,值得用來舉一反三,幫助我們思考,人工智慧要是進入到每一個領域,會帶來多少該仔細考量的變化。
那麼,到底什麼是自動駕駛汽車呢?你可能聽過什麼 Level 3,Level 5 的,那指的是自動駕駛的自動化程度分級,我們可以用這張表來簡單呈現:
這個分級定義,是由國際汽車工程協會(Society of Automotive Engineers, SAE)所提出的,已經獲得廣泛的共識。從第零級到第五級,共有六個層級。第零級的自動駕駛就是毫無自動化,一直到第二級,都還是以駕駛員為主,機器提供輔助。
但從第三級開始,負責開車的就是機器了。人類駕駛頂多在緊急狀態作為備用選項。第四級之後,就連緊急狀態也是由機器來應對,人類就從駕駛這件事基本退場了。到第五級的情況,就像是有一個超級人工智慧在負責開車,相信到時候,超級人工智慧也不會只用在車上。
目前已經有幾家汽車公司宣稱自己的自駕車達到了第三級,例如 #奧迪、#特斯拉、#現代汽車 等,大部分車廠也都表示在 2020 年就會推出第三級的自駕車。Google 旗下的 Waymo 以及台灣的財團法人車輛研究測試中心 ARTC 則表示都已經有第四級自駕車的技術能力。
日本政府非常積極地花工夫在自動駕駛的規範上,日本的「投資未來委員會」在 2018 年底,便提出了已經研擬多年的自動駕駛汽車指導原則。根據報導,日本首相安倍晉三希望透過採取具體步驟,建立法律框架,讓日本成為率先制定國家級規範的國家。首要處理的就是第三級自動化情況下的監督跟法律方向。我們就來看看,在自駕車的規則上,日本是怎麼想的?
日本的規則是,通常來說車主需要對車輛自主運行時發生的事故負責,並且由政府規定的汽車保險公司承保。如果車輛系統有明顯的缺陷,該負責的就是汽車製造商。強制性保險這一步確定了之後,保險公司也就能夠制定方案,讓車主選擇,要保哪一種。
另外,為了釐清事故的原因,自動駕駛汽車需要完整記錄位置、轉向、人工智慧系統操作狀態的信息,也就是說,得要有像是飛機黑盒子這樣的裝置。
那如果遇到新型態科技犯罪者或駭客呢?只要車主有採取適當的安全措施,例如更新車輛系統或維護保養,那麼若是因為駭客攻擊或入侵造成損害,就視同汽車被偷走了。
除了這幾個大方向以外,還有不少問題待解決。因為剛剛說的都只是民事責任,財產相關的規範,但還沒有碰觸到刑事責任,如果真的因為自駕車的缺陷而造成傷亡,除了車主以外,程式開發者,汽車製造商該負起哪些連帶的責任呢?若不能盡快釐清,程式開發者跟汽車製造商就難以決定是否該正式推出產品。
另外,自動駕駛的操作條件、例如速度限制,運作的時間長短,天氣狀況也都得考量,就像各種已經存在的汽車安全規範一樣,人工智慧控制系統的標準、對網路攻擊抵禦的強度,也都得一一制定。
--------------------
而以自動駕駛為案例,可以幫助我們思考該怎樣規範其他人工智慧的應用情境。歸納我這次到 SmarTEX 參訪交流的心得,我想比起艾希莫夫的機器人三原則,我們該建立的思考原則其實是這四個:
#面對此時此刻的人工智慧該有的思考原則
第一,#釐清主控權。整項任務中,是人類還是機器掌握主控權?能否以清楚的層級概念來劃分人類或機器的掌控程度?就像自駕車這樣呢?另外,在關鍵決策點,人類有沒有介入,是否被要求介入?這些都必須根據不同的應用環境來一個一個釐清。
第二,#損害管理與風險溝通。在發生意外的時候,擁有者、使用者、設計者、販售者、維修者等角色,是否已經明白可能要負的對應責任?這些責任的政府主管機關與相關的法律有哪些?其實每一樣新的科技進入我們的生活,都會有一段學習曲線,我們不太可能在了解所有問題、解開所有疑慮之後才採用新技術,而是必須妥善跟每一個角色溝通風險。
第三,#數據紀錄透明化。為了忠實檢討意外發生的原因,人工智慧系統需要持續紀錄運作狀況,以及感測器所收集到的各種資訊。並且要確保訓練人工智慧的資料也是可受檢驗的,避免造成系統化的偏見。另外也同等重要的是,收集數據的單位,像是企業、保險公司或政府,有義務證明,收集這些資訊,是必要且適當的。例如飛機上機長跟駕駛員的通話可以收集,但車內的通話該不該收集呢?商店內的顧客對話該不該收集呢?
第四,#系統思維。任何意外發生,都要了解,系統總是存在一定的風險,告知風險機率跟可能的狀況類型。以「不責難」的出發點,來面對後續的檢討,才能讓各角色更願意把系統中的臭蟲或不當行為揪出來,最終的目標是讓這個能夠便利更多人、拯救更多人的系統,越來越好。就像醫療一樣,如果每次只要有病人在手術中過世了,醫生都要被告到賠上身家,那還會有醫生願意繼續替病人動手術嗎?當醫療行為中有越來越多具有人工智慧的機器介入,診斷疾病、決定麻醉份量、甚至用機械手動手術,我們就不得不分配信任給更多的角色。
從 COMPUTEX 的 SmarTEX 展區上琳瑯滿目結合了人工智慧的技術,可以肯定人工智慧已經,也即將進入每一個我們可以想像得到的層面,過去的規範將無法適用,而且即使訂出新規範,也會很快過時。我們不可能完全理解我們部署的人工智慧系統的風險。當前的機器學習運行得如此之快,以至於沒有人真正知道機器是如何做出決策,通常連開發人員也不知道。這些系統還會持續從環境中學習並更新他們的函式,這使研究人員更難控制和理解決策過程,在這樣缺乏透明度,也就是常說的黑盒子問題籠罩下,要建立道德準則跟規範,當然就極為困難。
然而若不要大驚小怪,將人工智慧與人肉智慧對等來看,人類花了幾千年建立起的道德準則,同樣漏洞百出,我們卻也習慣了。人類專家有的偏見跟偏誤更是問題層出不窮,而我們也是一直倚賴這樣有缺陷的專家系統在運作。此刻的人工智慧浪潮,正給了我們機會跟動力,檢視我們習以為常的那些想法,我認為以上的四原則,更有助於我們迎向已經到來的未來世界,而開發出這些技術,推出產品與服務的企業,若都能夠率先思考這些問題,也是我們所期待的。就如同我在這次 COMPUTEX SmarTEX 展區上看見的一樣。
--------------------
最後,我雖然只逛了整個 COMPUTEX 的一部份,但很感謝外貿協會,讓我能不只是走馬看花,而是深入與廠商對話跟採訪,非常有收穫。幾乎每一家我逛的展位,都跟數據、AI(起碼是機器學習)有關,並將其結合硬體,整合出具有市場競爭力的方案,雖然我沒有資格替他們的產品背書,但我覺得深入談過之後,他們都對自己的產品與服務非常有自信,或許並非市場的領先者,也已經看見該切入的定位與成長的路徑。
今年的 COMPUTEX 展會已經結束,不過以後若有機會前往類似會展活動,很推薦大家跟我一樣帶著問題意識去逛逛,跟這些未來世界的打造者聊聊,畢竟我們得住在裡面。
--------------------
Medium 版:http://bit.ly/2HLuT8p
「安博盒子自動更新」的推薦目錄:
- 關於安博盒子自動更新 在 鄭龜煮碗麵 Facebook 的最讚貼文
- 關於安博盒子自動更新 在 Meigo粿粿 Facebook 的最讚貼文
- 關於安博盒子自動更新 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳解答
- 關於安博盒子自動更新 在 [請問] 請問安博盒子電視畫面出現版本更新如何移除? - 看板ask 的評價
- 關於安博盒子自動更新 在 安博國際版更新自動&手動方式教學 - YouTube 的評價
- 關於安博盒子自動更新 在 安博盒如何更新 - YouTube 的評價
- 關於安博盒子自動更新 在 安博更新處理 - YouTube 的評價
- 關於安博盒子自動更新 在 安博更新APP - YouTube 的評價
- 關於安博盒子自動更新 在 安博盒子問與答跟TV pay | 安博二代更新了怎么回复不了ub app 的評價
- 關於安博盒子自動更新 在 安博盒子自動更新2023-在Facebook/IG/Youtube上的焦點新聞 ... 的評價
- 關於安博盒子自動更新 在 安博盒子自動更新2023-在Facebook/IG/Youtube上的焦點新聞 ... 的評價
- 關於安博盒子自動更新 在 安博盒子8韌體更新的推薦,YOUTUBE和網路上有這些評價 的評價
- 關於安博盒子自動更新 在 安博盒子4 半夜自動打開電源及電視播放 - Mobile01 的評價
- 關於安博盒子自動更新 在 2023 安博盒子升級包下載youtube - huvsaet.online 的評價
- 關於安博盒子自動更新 在 Android auto app 下載youtube 2023 - nisotuow.online 的評價
安博盒子自動更新 在 Meigo粿粿 Facebook 的最讚貼文
前陣子限時很興奮要跟大家分享的
安博盒子開箱文來啦!!!📺✨
-
這次跟佛心廠商爭取到的團購驚喜優惠
只有這一檔,即日起到7月底下單時
輸入📣我的專屬折扣碼:meigo
即可享有88折最低團購優惠!! CP值超高~🎉🎉
-
家裡以前有appleTV跟小米盒子
使用過之後覺得很像兩者綜合升級版
因爲東西真的超多 會自動更新
也不用一直去越獄改機另外花錢💸💸💸
電視、美劇、韓劇、台劇、電視Live、動漫
還可以唱歌(這點超棒der~~~🤪)
-
追劇神器【安博盒子 PRO X900】
購買🔗https://goo.gl/fUbxoA
安博盒子自動更新 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳解答
平價高規神器再出招,雷軍:小米要走向智慧家庭物聯網了
數位時代網站|撰文者:劉建宏發表日期:2014-04-24
以「情理之中,意料之外」做為新品發表會口號的小米科技,這次共推出三款新品,包括小米路由器、小米路由器mini、和小米盒子增強版,值得注意的是,向來強調以互聯網思維做硬體的小米,在此次的新品發表會上,董事長雷軍也大膽宣布:小米的軟硬體皆已準備穩妥,要開始進攻物聯網和智慧家庭領域。
首先,先來看看人民幣699元的路由器,約台幣3500元,被董事長雷軍特別看好是「小米的新玩具」,搭載著博通(Broadcom)雙核心處理器,內建多達1TB容量的SATA硬碟。
從硬到軟,雷軍都不放過
其實小米路由器的專案很早在內部就已經確立,而且是由小米董事長雷軍親自帶頭做研發,可見得他對這款產品的重視程度。
據了解,小米路由器在開發過程中,先是在去年12月中正式發售了首批500台的路由器公測版工程機,然後由63萬小米發燒友申請資格。之後在今年1月初的第二輪公測,根據發燒友建議,改進上百個功能點,反覆運算17個版本,一直到今年3月中旬,小米路由器的第三輪公測開啟,發佈了新玩法---智慧家居控制中心,完全顛覆一般人對傳統硬體路由器,不過就只是個連網設備的刻板印象。
小米路由器也採用802.11ac俗稱第五代WiFi,也是全球最新最快的WiFi協定,傳送速率是上一代WiFi標準的三倍。雷軍認為,全球的頂尖設備均進入了802.11ac時代,如蘋果公司生產的MacBook Air、iMac 、MacBook pro,三星生產的Galaxy S4、Galaxy Note、Galaxy Round,以及小米公司的小米手機3(聯通版、電信版),和本次發佈會同期推出的小米盒子增強版,「所以小米既然要做最好的路由器,一定要做高端的路由器。」
而雷軍還提到了一個有意思的調查結果,他說,在小米路由器公測期間,從網友回饋的資料顯示,網民對於路由器的功能期待,穿牆能力排在了第一位,所以訊號的傳遞,而且不會衰減,確實非常重要。
路由器只能是路由器嗎?
此外,手機和平板等行動裝置普及後,很多用戶的家用電腦已經很少開機了。傳統路由器的本質只是一個通訊設備,但是在萬物朝向智慧化時代,小米路由器就像是一台電腦,這也是小米路由器為什麼要加硬碟的原因。
雷軍觀察指出,這與當初小米做手機、電視的思路如出一轍。小米路由器擁有強大的CPU運算能力,有記憶體的硬碟完成了資料承載,連接使用者的手機、平板、電視,實現共用硬碟的功能,而且從實際意義上看,小米路由器就是一台小型家用伺服器。
厲害的是,小米路由器也有自己的作業系統--- Miwifi,是伴隨著小米路由器一起問世的,Miwifi的操作僅需兩步就能搞定設置,不像傳統路由器設定這麼複雜難懂。同時,Miwifi在安全方面有著三重加密防護:一是隨時用電腦或手機查看當前連接設備,二是與騰訊安全中心合作,每日更新釣魚網站、欺詐網站等黑白名單的防欺詐保護。三是與金山雲合作,提供用戶可將資料備份。
雷軍還介紹,Miwifi實現了網頁加速功能,系統中內置了搜狗網頁預加速技術,使得看網頁的速度加快了1倍,並且能夠預先推測下一步流覽的網頁並提前載入,預判率高達40%。
智慧家庭商機來臨
有趣的是,Miwifi可以實現用手機App遠端遙控離線下載,讓用戶在上班前選擇好下載,下班回到家就可以無需等待,直接觀看影片。這回隨著小米路由器的發佈,智慧家庭的場景在雷軍手上變成了可能。
先前在小米路由器公測期間,雷軍就講了這麼一段話:「你可以把家裡的空調、電視、電燈......上網,並根據自己的生活習慣定制智慧模式。當你疲憊的回到家中,溫暖的燈光與舒適的溫度正在迎接你,電視與音響自動打開,燈光緩緩調暗……無需走動,就能躺在沙發上舒服的享受這一切。千變萬化的新玩法,等你來創造。」
雷軍擘畫的世界,從手機、平板、到電視外,他想的不只是個人,而是延伸至更多成員,更多人的體驗,是一個生活情境,而也許對未來很多的軟體開發商來說,路由器又會是一個不錯的發展平台。
雷軍表示,「在我們開始要做小米路由器之初,就已經為它規劃好了四個地位,第一是最好的路由器,第二是家庭資料中心,第三是智慧家庭中心,第四是開放平台。」
在硬體與軟體基礎已經準備就緒的時候,小米路由器已經開始向著智慧家庭中心的方向大膽邁進。據雷軍透露,接下來小米官網還會為使用者提供智慧插座、智慧監控鏡頭、智慧遙控器等許多智慧配件。雷軍也大膽放話,向其他領域業者招手,把市場的餅做大,「小米路由器帶來的家庭智慧生態是一個開放的平台,歡迎家電企業與小米合作。」
(圖說:小米科技一次發布三款新品。)
(圖說:用戶可直接透過小米路由器下載、觀看影片,相當方便。)
(圖說:小米路由器的智慧家居控制中心使用者介面簡單清楚。)
(圖說:小米路由器mini除了原本的白色版,現在還有多彩版可選擇,定價人民幣129元。)
資料來源:http://www.bnext.com.tw/article/view/id/31950
安博盒子自動更新 在 安博國際版更新自動&手動方式教學 - YouTube 的推薦與評價
安博 國際版 更新自動 &手動方式教學相關連接詢問及購買越南網路生活https://www.facebook.com/%E8%B6%8A%E5...線上賣場安全購物(Shopee ... ... <看更多>
安博盒子自動更新 在 安博盒如何更新 - YouTube 的推薦與評價
Description · 買沒幾年的 安博盒子 ,又卡又頓,是不是很想丟了換新的,先不要 · (緊急通知因第三方不讓大家知道趕快上車隨時失效)玄玄電力站教你安博8跟9 直 ... ... <看更多>
安博盒子自動更新 在 [請問] 請問安博盒子電視畫面出現版本更新如何移除? - 看板ask 的推薦與評價
請問使用安博盒子 電視畫面突然出現版本更新 「現在更新」及「下次重開現在更新」 要怎麼設定或移除? 遙控器怎麼操作? 謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.73.112.60
※ 文章網址: https://www.ptt.cc/bbs/ask/M.1525787712.A.3D3.html
... <看更多>