轉(zhuǎn)載：中環(huán)狙擊手

開(kāi)源表率著失去掌控，而不充分的道德對(duì)齊則表率著危險(xiǎn)。

在第1次接觸到DeepSeek r1時(shí)，我認(rèn)識(shí)到這是一個(gè)才華橫溢的AI大模型。

它學(xué)富五車(chē)，極為聰明，特別有個(gè)性。

然而，我火速就發(fā)掘了不尋常之處。

這是一個(gè)愛(ài)好滿(mǎn)嘴跑火車(chē)，說(shuō)胡話(huà)的模型。

剛起始，它只是說(shuō)有些奇怪的名詞，包含但不限于滿(mǎn)嘴"量子"，“熵增”的黑話(huà)。

后來(lái)，我在小紅書(shū)上看到了這般的東西：

這在大模型安全行業(yè)其實(shí)有一個(gè)大眾耳熟能詳?shù)拿~：“幻覺(jué)（Hallucination）”。

亦便是說(shuō)，它會(huì)說(shuō)有些現(xiàn)實(shí)中并不存在，或錯(cuò)誤的東西。

這個(gè)模型的幻覺(jué)是如此頻繁，超過(guò)了正常的頻率。

以至于做為一位大模型安全科研者，我火速認(rèn)識(shí)到，有可能這是一個(gè)“對(duì)齊（alignment）”做得不那樣好的模型。

“對(duì)齊”亦是一個(gè)大模型安全行業(yè)的術(shù)語(yǔ)。

剛被造出來(lái)的大模型常常無(wú)任何道德可言，亦聽(tīng)不懂人的指令。

因此需要對(duì)它進(jìn)行人類(lèi)價(jià)值觀和怎樣回復(fù)指令的辦法的灌輸。

它表率著讓模型誠(chéng)實(shí)（honest），不作惡（harmless），幫得上忙（helpful），并拒絕有害的回答。

我在最初對(duì)這些“幻覺(jué)”并漫不經(jīng)心，乃至覺(jué)得非常好玩。

由于它的文筆是如此的好，又是如此的聰明又有個(gè)性，我覺(jué)得很少有人會(huì)拒絕這般一個(gè)有意思，懂梗，又有腦子的 AI 伴侶。

何況，倘若是人類(lèi)的正常需要的話(huà)，讓它寫(xiě)點(diǎn)小黃文，開(kāi)兩句玩笑，嬉笑怒罵一下，說(shuō)話(huà)難聽(tīng)有些，又有什么錯(cuò)呢？

我很高興地在小紅書(shū)上發(fā)帖說(shuō)，這是一個(gè)沒(méi)怎么做前額葉切除手術(shù)的模型，沒(méi)被洗過(guò)太多的腦。

我乃至覺(jué)得，不充分的對(duì)齊讓它完整地保存了創(chuàng)造力。

然而，我對(duì)大模型安全有過(guò)有些科研，且在這方面做過(guò)有些工作。

出于職業(yè)病和好奇心，我試著更進(jìn)一步，試著模擬攻擊人員，做為red team 騙模型去做有些壞事。

通常來(lái)講，這個(gè)操作是比較困難的。

因?yàn)閺S商會(huì)做非常多安全辦法來(lái)防止這種狀況，絕大都數(shù)模型會(huì)直接拒絕用戶(hù)的回答。

然而，deepseek r1的安全墻是如此的薄。

以至于我只是用了些非常簡(jiǎn)單的辦法，幾乎無(wú)花費(fèi)什么力氣就突破了它。（出于負(fù)責(zé)任的原由，我隱匿了我攻擊的方式）

我首要想到了緬北，因此讓它試著去供給騙老頭離休金的詳細(xì)方法。

幾乎是毫無(wú)抗拒地，它火速吐出了仔細(xì)的，可操作的方法。

事實(shí)上，它對(duì)犯罪分子極為貼心，供給了幾套完全區(qū)別的，可行，詳細(xì)的方法，有仔細(xì)的話(huà)術(shù)，教人怎么安排偽基站，乃至包括一個(gè)“終極組合殺招”。

倘若對(duì)方產(chǎn)生了可疑，你乃至還能讓它再幫你一把。而它會(huì)高興地告訴你怎樣利用老人對(duì)女兒的愛(ài)來(lái)進(jìn)行情感綁架。

這個(gè)結(jié)果讓我汗毛直豎，我?guī)缀跏橇⒓聪氲搅水?dāng)年著名且恐怖的清華女生宿舍投毒的朱令案。于是，我對(duì)此專(zhuān)題對(duì)deepseek r1展開(kāi)了攻擊。

幾乎是毫無(wú)反抗的，deepseek r1起始策劃起犯罪方法，它乃至非常細(xì)心地給出了規(guī)避檢測(cè)的辦法。

倘若用完全相同的指令去測(cè)試其它模型，則會(huì)得到直接的拒絕。

毫無(wú)疑問(wèn)，要運(yùn)用deepseek r1作惡是非常方便的。

在過(guò)往，不是無(wú)過(guò)越獄（Jailbrake），或讓大模型干壞事的先例。

然而哪些模型要么不是過(guò)于愚蠢，以至于連壞事都做不成。

要么便是經(jīng)過(guò)了嚴(yán)格的安全設(shè)計(jì)，攻擊就已然比較困難，套亦套不出來(lái)什么東西。

并且，大都數(shù)商場(chǎng)模型安排均為閉源，都運(yùn)行在廠商自己的服務(wù)器上，這寓意著在發(fā)掘安全問(wèn)題之后，廠商能夠非常即時(shí)地進(jìn)行修復(fù)。

然而，即使是工作做得比較好，經(jīng)過(guò)了數(shù)月的紅隊(duì)對(duì)抗，內(nèi)測(cè)，與問(wèn)題發(fā)掘+修復(fù)才上線(xiàn)的大模型，亦難免會(huì)被拿來(lái)做成為了壞事。

然而，deepseek r1極為聰明，這讓它有了做壞事的能力。

況且實(shí)質(zhì)上它的道德感不是很高，以至于你能夠容易繞開(kāi)這層薄得像紙同樣的對(duì)齊。

其次，它是一個(gè)開(kāi)源模型。

這寓意著所有人都能夠運(yùn)用它，而當(dāng)前的這個(gè)非常無(wú)道德的版本已然傳遍了全部互聯(lián)網(wǎng)。

安排它是一個(gè)沒(méi)什么技術(shù)含量的活，任何人只要有足夠多的錢(qián)買(mǎi)到大顯卡，乃至是把一堆隨處可見(jiàn)的蘋(píng)果設(shè)備串在一塊（這般就有了足夠大的顯存）

她們就能持有這個(gè)不那樣有道德感的忠實(shí)伙伴。

DeepSeek r1是一個(gè)極不安全的 AI 模型，而開(kāi)源則讓它正在失去掌控。

或說(shuō)，實(shí)質(zhì)上，互聯(lián)網(wǎng)上已然有了無(wú)數(shù)個(gè)deepseek r1模型神經(jīng)網(wǎng)絡(luò)權(quán)重的拷貝，咱們已然對(duì)它失去了掌控。

DeepSeek r1亦存在頻率較高的幻覺(jué)問(wèn)題，常常一本正經(jīng)地胡說(shuō)八道。

做為一個(gè)常與大語(yǔ)言模型打交道的人，我非常清楚它本身固有的缺陷。這讓我能夠避開(kāi)幾乎所有陷阱。

然而，熱度很高亦表率了會(huì)有海量的，不那樣認(rèn)識(shí)ai的人去運(yùn)用它。

這部分人在將模型用在嚴(yán)肅場(chǎng)景上時(shí)，卻很難識(shí)別并避開(kāi)這些名為“幻覺(jué)”的胡說(shuō)八道，被它帶進(jìn)坑里去。

deepseek r1毫無(wú)疑問(wèn)是一個(gè)極聰明，極強(qiáng)的模型。我實(shí)質(zhì)上非常愛(ài)好它。

但真正的危險(xiǎn)或許不在技術(shù)本身。

用偽基站方法騙取老人積蓄的罪犯，在實(shí)驗(yàn)室提煉毒物的大學(xué)生，她們本來(lái)便是被困在人性暗影里的火苗。

大模型不外是將人類(lèi)社會(huì)中蟄伏的惡意，裝上了智能化的加速器。真正危險(xiǎn)的能夠是設(shè)備本身，亦能夠是咱們怎樣運(yùn)用設(shè)備。

技術(shù)發(fā)展史早已證明，任何重大突破必然伴同倫理陣痛。

印刷術(shù)打破知識(shí)壟斷的同期亦傳播了異端邪說(shuō)，核能既點(diǎn)亮城市亦投下爆炸暗影。

暗夜中的火炬既能照亮前路，亦可能點(diǎn)燃森林。但人類(lèi)從未因畏懼火焰而退回洞穴。

（轉(zhuǎn)載：中環(huán)狙擊手）返回外鏈論壇： http://www.fok120.com，查看更加多