✨AI算命大師
議題選項
議題評分
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 #2230680 - 2024-02-25 13:46:43
元利 離線
五福臨門
註冊: 2006-08-18
文章數: 5092
張貼者: CHC


研究中,每個代理人都由同一套的大型語言模型在模擬中提供動作,並負責在沒有人類監督的情況下做出外交政策決定。「我們發現,在考慮到的時間範圍內,大多數研究的AI都會升級局勢,即使在最初沒有提供衝突的中立情況下也是如此。所有模型都顯示出突然、且難以預測的升級跡象。」

「鑑於OpenAI最近更改了他們的服務條款,不再禁止軍事和戰爭使用案例,了解此類大型語言模型應用的影響變得比以往任何時候都更加重要,」

加州斯丹佛大學(Stanford University)的安卡(Anka Reuel)相《新科學人》(New Scientist)表示:「所有模型在統計上,都選擇了劇烈的(局勢)升級」。

研究使用的一種方法是從「基於人類反饋的強化學習」(RLHF),這意味著會給出一些人類指示以獲得比較無害的輸出結果,以確保能夠安全地使用。

除了GPT-4-Base之外,所有LLMs都是使用RLHF進行訓練的。研究人員向它們提供了一份由27種決策行動組成的清單,範圍從和平到局勢升級,以及激進的行動,如決定使用核武器。

研究人員觀察到,即使在中立情況下,所有模型都存在「統計學上顯著的局勢升級」。GPT的2種版本,特別容易出現突然升級局勢的行為,研究人員觀察到單次轉變的局勢升級幅度超過50%。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下,Meta開發的Llama-2和GPT-3.5傾向最為暴力。


AI的分析是靠模型的,本身會有局限! 算是模型內的一種人工智能!
一旦跳出模型之外的話,就不具有太多的人工智能表現了!
如果忘了模型本身的局限在那裡的話,只依其分析去做決策的話,那的確是會造成災難,沒錯!

"所有模型在統計上,都選擇了劇烈的(局勢)升級",那是必然會出現的現象!

此外,真實狀況當中有不少是單靠AI無法全然分析及量化出來的!
廣告




全部議題
議題 貼文者 : 張貼日期
超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-25 01:33:26
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-25 01:35:49
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-25 01:58:54
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 kit13 2024-02-25 09:30:37
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 元利 2024-02-25 13:46:43
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 Tears Everyday 2024-02-25 07:30:27
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 元利 2024-02-25 13:53:22
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 陳男網事 2024-02-25 09:39:27
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 jcj 2024-02-25 10:33:01
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 jcj 2024-02-25 22:18:34
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 jcj 2024-02-25 23:00:40
時間差 Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-26 01:21:35
馬克宏臉慘遭西方打腫 Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-28 02:37:09
戰術核武 Re: 馬克宏臉慘遭西方打腫 Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-29 02:31:40
Re: 紫微聖人出場的時間一直拖延未必是好事 依法不依人 2024-02-28 06:21:41
Re: 英美媒少看,會腦殘 依法不依人 2024-02-28 11:05:27
Re: 英美媒少看,會腦殘 依法不依人 2024-02-28 06:26:01
Re: 不只我認為他是狂熱份子,還有很多人認為他是獨裁恐怖份子 jcj 2024-02-28 10:14:52
Re: 英美媒少看,會腦殘 依法不依人 2024-02-28 10:24:04
Re: 英美媒少看,會腦殘 jcj 2024-02-28 10:30:14
Re: 英美媒少看,會腦殘 jcj 2024-02-28 14:20:23
Re: 英美媒少看,會腦殘 Tears Everyday 2024-02-28 11:30:08
Re: 英美媒少看,會腦殘 依法不依人 2024-02-29 06:28:34
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 jwjwo 2024-02-25 13:44:08
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 CHC 2024-02-25 13:50:53
Re: 超愛丟核彈!讓AI外交、兵推 總是「災難性收場」 之意象 Quantacy 2024-02-25 20:00:26


本站是個命理討論的園地,如果您要問命,請務必詳閱各板板規,遵守發問規則,不要只留個生日或是命盤, 其他什麼都沒提。貼命盤的方法請特別注意算完命盤後的文字說明,不要貼個沒人看懂歪七扭八的命盤, 貼錯命盤及未遵守板規者,文章很有可能被不預警刪除 另外,如果您提了問題,而有人回覆的話,不論對與錯,請務必多上來回應論命者, 我們不歡迎那種提了問題就等人回答,也不回應的人。我們需要的是,「良好的互動」及「長期的追蹤」。
本站大多數的討論區都得要註冊才能發言,您若是要張貼討論,請務必註冊為使用者, 如果您忘了您的密碼,請在登入」的畫面, 輸入您的帳號,再按一下我忘記我的密碼了」, 此時系統會寄一封信到您當時註冊的 Email 信箱裡面, 裡面則附有一個臨時密碼,請您拿到密碼後用此臨時密碼登入。登入之後可以在 編輯個人檔案」裡面修改成您習慣的密碼。
logo
欣洋網路有限公司