meta_pixel
Tapesearch Logo
Log in
AM1300 今日話題 Today's Topic

AI有朝一日可能毁灭人类

AM1300 今日話題 Today's Topic

Zhong Xun 中迅 & Gao Ning 高寧

News

4.6533 Ratings

🗓️ 29 June 2023

⏱️ 20 minutes

🧾️ Download transcript

Summary

科技行业的灾难预言者说,有朝一日,公司、政府或独立工作的研究人员能有效利用强大的人工智能系统,处理从商业到战争的所有事情。这些系统能做我们不想让它们做的事情。如果人类试图介入或将它们关掉,它们会抵抗,甚至会自我复制,以便继续运行下去。

今天的系统离构成生存威胁还差得很远,那么,为什么这些最了解AI的人如此担心呢?

Transcript

Click on a timestamp to play from that location

0:00.0

今日

0:45.0

歡迎收看今天的金融化提議節目中訊在請假 再修假所以今天還是請余浩來帶班最近幾個月有不斷的公開性都是科技界的大佬發出來的有的時候第一封公開系我記得有伊朗·馬斯克簽名有上簽名各個行業的主要是人工智慧行業的領頭軍人物大佬都在簽名然後最近一次又有數百名的知名人士寫了一封公開系他們的一個目都是警告人类说是AI 就是人工智慧

0:47.9

有召集任务很可能会毁灭我们人类

0:50.9

他们就认为说要向减少

0:55.4

减轻这方面的威胁

0:57.5

必须要慎重一代

0:58.9

要把人工智慧

1:00.5

当成是一个全球性的

1:03.0

一个严重的�傳染病來對待或者是當成核戰爭可能會爆發相等的嚴重性來對待那今天我們就稍微再來聊一下這個聽上去相當下人的預測他到底是從何而來以及現在的人工智能發展到什麼樣的程度了現在我們所看到的這些發出的這些消息都是一些知名人士的但是我相信在民間也有相當的討論認為AI是一個非常可怕的事情其實我覺得在人類歷史上發展來看其實沒有多長了這個歷史上來看人類對自己所不熟悉不掌握的東西 感到恐懼這是非常正常的這裡面包括我們對於動物對於環境對於科技發展的這些不確定性但是人類會不會說因此而就不再進行人物發展我覺得人工程度發展的可能可能不會但是這些有前單性的科技人員企業家他們願意提醒政府 提醒現在的研究人員這個中期的危險性比我們可能現在看到的它的成長可能要前載的危險性其實是非常非常大的幾句點的例子我覺得就是像AI的這個發兵以後聊天的軟件現在是簡直是如果如何在各地就普及開了基本上就先起了一股熱潮可能我們以前青少年的家長可能都會擔心說我的小孩会不会成为游戏我觉得可能用不了多久

2:45.2

这个青少年特别涉心那种

2:47.2

青少年孤独的问题

2:48.6

可能最后就青少年可能会成为于这个什么AI聊天 什么AI音乐 什么这种同学这东西好和这坏呢当目前为止 我们现在还看不出来但是这种不断的提醒可是讓我們應該警惕起來

3:02.4

對 這個是這樣子

3:05.3

剛才你說了 就是人類對未知的東西

3:08.7

尤其是自己不了解的這個東西無法預測它的後果的這些東西是有恐懼感的這個是人類生存它在我們的DNA裡面就是我們就認為說這個東西對我們有威脅對我們的生存有威脅那麼在電腦裡頭就是人工智慧裡頭就是這樣子現在基本上的一個說法就是說有朝一日當電腦更加深入到一個公司一個政府甚至是所有的科研的領域當中去的時候那麼我們人類就離不開這個人工智能了那麼這些人工智能的系統它會處理從商業到戰爭到政府的運作所有的這些東西包括基礎設施不管是電梯工業也好是交通運輸也好等等這些東西那麼這些系統它在處理這些事情的時候有可能它會做一些我們不想讓它做的事情這時候就有問題了比如說人類發現到有問題的時候試圖想要把這個人物只能關掉的時候它拒絕它會抵抗它會自我複製然後他會在你沒有辦法或者沒有注意的情況之下他會生存下來他會在某一些機器上留下來你就沒有辦法完全停止到他這個東西可能會對整個的世界甚至是社會和人類就過程威脅了說到這個人工智能跟人類之後可能會在處理事情就不一致的地方我覺得這個可以這麼考慮就是說機器的價值觀和人類的價值觀可能是有一定區別的這個並不是什麼宋人清文的一個論調

5:05.3

比如說我們經常接觸得到這個汽車駕駛

5:08.0

現在可能有很多人已經開始有了自動駕駛的汽車自動駕駛的汽車貨車以及其他交通工具我相信可能都在研發過程中包括我們稱作飛機剩作飞机其实就有这个起飞有所降落

5:23.7

都是靠自动加速

5:25.7

根据这个天气的情况

5:27.7

根据灯光的情况

5:28.7

根据地场的情况我们称作飞机称作飞机其实就有起飞有时候降落都是靠自动价值

5:25.7

根据天气的情况

...

Please login to see the full transcript.

Disclaimer: The podcast and artwork embedded on this page are from Zhong Xun 中迅 & Gao Ning 高寧, and are the property of its owner and not affiliated with or endorsed by Tapesearch.

Generated transcripts are the property of Zhong Xun 中迅 & Gao Ning 高寧 and are distributed freely under the Fair Use doctrine. Transcripts generated by Tapesearch are not guaranteed to be accurate.

Copyright © Tapesearch 2026.