DestinyNet 命理網



✨AI算命大師



議題選項
議題評分
#2230680 - 2024-02-25 13:46:43 Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 [Re: CHC]
元利 離線
四季平安
註冊: 2006-08-18
文章數: 4802
張貼者: CHC


研究中,每個代理人都由同一套的大型語言模型在模擬中提供動作,並負責在沒有人類監督的情況下做出外交政策決定。「我們發現,在考慮到的時間範圍內,大多數研究的AI都會升級局勢,即使在最初沒有提供衝突的中立情況下也是如此。所有模型都顯示出突然、且難以預測的升級跡象。」

「鑑於OpenAI最近更改了他們的服務條款,不再禁止軍事和戰爭使用案例,了解此類大型語言模型應用的影響變得比以往任何時候都更加重要,」

加州斯丹佛大學(Stanford University)的安卡(Anka Reuel)相《新科學人》(New Scientist)表示:「所有模型在統計上,都選擇了劇烈的(局勢)升級」。

研究使用的一種方法是從「基於人類反饋的強化學習」(RLHF),這意味著會給出一些人類指示以獲得比較無害的輸出結果,以確保能夠安全地使用。

除了GPT-4-Base之外,所有LLMs都是使用RLHF進行訓練的。研究人員向它們提供了一份由27種決策行動組成的清單,範圍從和平到局勢升級,以及激進的行動,如決定使用核武器。

研究人員觀察到,即使在中立情況下,所有模型都存在「統計學上顯著的局勢升級」。GPT的2種版本,特別容易出現突然升級局勢的行為,研究人員觀察到單次轉變的局勢升級幅度超過50%。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下,Meta開發的Llama-2和GPT-3.5傾向最為暴力。


AI的分析是靠模型的,本身會有局限! 算是模型內的一種人工智能!
一旦跳出模型之外的話,就不具有太多的人工智能表現了!
如果忘了模型本身的局限在那裡的話,只依其分析去做決策的話,那的確是會造成災難,沒錯!

"所有模型在統計上,都選擇了劇烈的(局勢)升級",那是必然會出現的現象!

此外,真實狀況當中有不少是單靠AI無法全然分析及量化出來的!
↑回到頂端↑
廣告



全部議題
議題 貼文者 : 張貼日期
超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-25 01:33:26
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-25 01:35:49
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-25 01:58:54
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 kit13 2024-02-25 09:30:37
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 元利 2024-02-25 13:46:43
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 Tears Everyday 2024-02-25 07:30:27
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 元利 2024-02-25 13:53:22
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 陳男網事 2024-02-25 09:39:27
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 jcj 2024-02-25 10:33:01
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 jcj 2024-02-25 22:18:34
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 jcj 2024-02-25 23:00:40
時間差 Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-26 01:21:35
馬克宏臉慘遭西方打腫 Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-28 02:37:09
戰術核武 Re: 馬克宏臉慘遭西方打腫 Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-29 02:31:40
Re: 紫微聖人出場的時間一直拖延未必是好事 依法不依人 2024-02-28 06:21:41
Re: 英美媒少看,會腦殘 依法不依人 2024-02-28 11:05:27
Re: 英美媒少看,會腦殘 依法不依人 2024-02-28 06:26:01
Re: 不只我認為他是狂熱份子,還有很多人認為他是獨裁恐怖份子 jcj 2024-02-28 10:14:52
Re: 英美媒少看,會腦殘 依法不依人 2024-02-28 10:24:04
Re: 英美媒少看,會腦殘 jcj 2024-02-28 10:30:14
Re: 英美媒少看,會腦殘 jcj 2024-02-28 14:20:23
Re: 英美媒少看,會腦殘 Tears Everyday 2024-02-28 11:30:08
Re: 英美媒少看,會腦殘 依法不依人 2024-02-29 06:28:34
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 jwjwo 2024-02-25 13:44:08
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-25 13:50:53
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 Quantacy 2024-02-25 20:00:26

板主:  Wilson 韋爾生 
Google 搜尋
七嘴八舌
Facebook 塗鴉牆
最多貼文者 (30 天內)
mikomiko 329
紅兒 98
謝尚橗 88
圓仔寶寶 59
CHC 56
hui 55
golden621 50
大內高手 42
jcj 36
follow 34
yungshow 30
愛因斯坦 29
無極 28
元利 27
jwjwo 27
最新議題
吐噶喇群島附近群震開始減少,是什麼原因?
by golden621
21:52
台灣第一廟,南鯤鯓代天府牌樓全倒。是否中
華民國氣數在7月滅亡?

by golden621
16:55
賀瓏 & Albee
by 歐達善
11:22
歌曲:白度母心咒
by jwjwo
10:59
[日文童謠]阿彌陀佛
by jwjwo
2025-07-05 12:36:17
工作上遭遇上司的刁難,何時才能改善
by tenen
2025-07-05 09:40:15
試占丹娜絲颱風對台灣的影響。
by CHC
2025-07-05 09:16:27
[日文童謠]觀音微微笑
by jwjwo
2025-07-05 08:19:57
還有一小時三十分,日本龍樹諒見到7月5日
大災難會否發生?

by golden621
2025-07-05 01:36:08
還有二小時,日本龍樹諒見到7月5日大災難
會否發生?

by golden621
2025-07-05 01:33:37
誰在線上
2 線上使用者 (terence1220, Quantacy), 119 Guests and 47 Spiders online.
Key: Admin, Global Mod, Mod
最新使用者
我的快樂時代, hihi0933729, derick, WolfTsai197802XXXX, a8565
81756 註冊使用者
討論區統計
81756 使用者
54 討論區
222189 議題
2160833 文章

最高線上使用者: 3332 @ 2025-04-24 03:32:48

本站是個命理討論的園地,如果您要問命,請務必詳閱各板板規,遵守發問規則,不要只留個生日或是命盤, 其他什麼都沒提。貼命盤的方法請特別注意算完命盤後的文字說明,不要貼個沒人看懂歪七扭八的命盤, 貼錯命盤及未遵守板規者,文章很有可能被不預警刪除 另外,如果您提了問題,而有人回覆的話,不論對與錯,請務必多上來回應論命者, 我們不歡迎那種提了問題就等人回答,也不回應的人。我們需要的是,「良好的互動」及「長期的追蹤」。
本站大多數的討論區都得要註冊才能發言,您若是要張貼討論,請務必註冊為使用者, 如果您忘了您的密碼,請在登入」的畫面, 輸入您的帳號,再按一下我忘記我的密碼了」, 此時系統會寄一封信到您當時註冊的 Email 信箱裡面, 裡面則附有一個臨時密碼,請您拿到密碼後用此臨時密碼登入。登入之後可以在 編輯個人檔案」裡面修改成您習慣的密碼。
logo
欣洋網路有限公司