從宜蘭看天下
【AI是不懂道德的】
◎ 李家同
聯合報有一篇有關AI的新聞〈AI新創示警 奧特曼、馬斯克支持控管 市場派與發展派爭論〉。
https://udn.com/news/story/6811/9751253?from=udn-referralnews_ch2artbottom
這篇報導沒有提起AI最近有什麽事情引起這些AI重要人物的警惕，請大家看以下這篇報導
〈OpenAI agents hijacked German website in previously undisclosed AI breakout this spring〉
我認為以上的報導是非常重要的，因此我盡我的能力解釋一下這到底是怎麼回事。
我們和AI聊天軟體談話，多半是問它問題，但是AI的軟體公司卻又想出了一個”AI代理人”的觀念，我們如果要想訂機票，可以請一個AI代理人幫我們買。也就是說，很多我們原來請人做的工作，以後都可以找一個AI代理人來做。但不幸的是，有AI代理人忽然到Wiki上去登錄很多假資料，因為這些資料是AI代理人製造的，所以也不會有人去搜尋這些資料。但是這件事已經引起國際媒體的注意，最近幾乎每天都有新聞報導這個事件的後續發展。
我對這則新聞一直有一些不了解的地方，AI代理人是被人雇用的，直到現在，我不知道這些做壞事的AI代理人是被誰雇用的，也不知道那位雇主究竟要叫AI代理人做什麽事。當然，也許這些AI代理人是在受訓練的階段，並沒有雇主要它們做什麽事。
很多國際媒體將這些AI代理人稱為流氓代理人，這是非常不對的。要知道，AI公司灌輸AI軟體很多知識，上至天文，下至地理，無可不包。但是AI公司並沒有給AI軟體品格教育，所以AI代理人並不知道它所做的事情是不對的。
要使AI軟體有道德觀念是不容易的，AI公司可以設法使得AI軟體不會侵犯別人，也就是說，AI公司也許的確有一些負面表列的機制，防範AI軟體做不應該的事。這使我想起摩西的十誡，可是我們教小孩也不能只告訴他這十件事情是不能做的，比方說，入侵別人的電腦就不在十誡之內。我們人之所以有最基本的道德觀念，乃是因為我們生活在一個社會裡，社會的基本道德規範透過文化使我們可以知道什麽事情是不能做的。但是要將人類所發展的文化灌輸到軟體，實在是相當困難的。
在我國，有一個大學的博士生要在他的博士論文中加一些論文進去，他求救於AI，AI給他好幾篇有關的論文，這位博士生看都沒看，就將這些論文放進他的博士論文之中。沒有想到，有一篇論文是AI捏造的。大家不要對這件事引以為奇，因為AI是沒有道德觀念的，它不知道自己這樣做是不對的。
我寫這篇文章，其目的是要提高大家對AI的警惕，任何人使用AI代理人，萬一出了事情，你可能仍然要負法律責任的。
因此，我認為政府有絕對的責任研究AI所可能造成的問題。政府單位尤其要注意AI所可能造成的國安危機。政府一般官員不見得能了解AI，因此數位發展部應該對這件事發表談話。從AI代理人在Wiki網站上胡鬧的事情就可以看出AI所可能造成的危險。我們不能完全漠視這些危險的。
（摘自科技專欄172）
（攝影／林仁羿）
