• 人類社會(huì)正面臨大洪水級(jí)別的文化和精神危機(jī)，而拯救人類的關(guān)鍵——網(wǎng)絡(luò)安全行業(yè)，卻并未意識(shí)到自己有此責(zé)任和義務(wù)。
  
  
• 如果精通網(wǎng)絡(luò)安全技術(shù)和風(fēng)險(xiǎn)管理的專業(yè)人士都無(wú)法逃避“人傳人惡意軟件”和算法的奴役，我們?nèi)绾伪Ｗo(hù)“網(wǎng)絡(luò)安全”。

1992年，尼爾·斯蒂芬森在《雪崩》這部小說(shuō)里，描繪了一種能從硅芯片入侵人類大腦的惡意軟件。這不僅是對(duì)現(xiàn)代數(shù)字生活的絕妙隱喻，更像是一個(gè)預(yù)言，引發(fā)了一個(gè)特別有趣的問(wèn)題：如果人類可能被自己的技術(shù)傷害，那么網(wǎng)絡(luò)安全需要保護(hù)的就不僅是數(shù)據(jù)，還應(yīng)該包括我們自己！

在數(shù)字的荒原上，我們?nèi)绾巫员?/h4>

作為網(wǎng)絡(luò)安全人士，我們努力定義生成式AI可以安全執(zhí)行的任務(wù)，同時(shí)也在思考這些結(jié)果如何融入法律和倫理體系。這不僅是在保護(hù)我們的商業(yè)利益，更是在保護(hù)我們的文化，這是一個(gè)民族，一個(gè)國(guó)家的基石。

作為自詡“線中幽靈”、“白帽騎士”的網(wǎng)絡(luò)安全精英人士，你不能一方面夸耀自己是AI技術(shù)安全專家，同時(shí)又對(duì)在線仇恨言論和虛假信息束手無(wú)策。

通過(guò)算法繭房和社交媒體散播虛假或仇恨信息，操控民眾的行為，堪稱“人類惡意軟件”。近年來(lái)世界各地發(fā)生的極右翼騷亂和暴力活動(dòng)就是明顯的例子。這些問(wèn)題存在于技術(shù)與人的交界處，必須通過(guò)技術(shù)手段來(lái)解決。網(wǎng)絡(luò)安全的核心，就是在這些界面檢測(cè)和消除威脅。

貪婪、愚蠢、懶惰的“草臺(tái)班子”

在討論如何應(yīng)對(duì)AI時(shí)代的新安全威脅之前，我們不妨先回顧一下網(wǎng)絡(luò)安全行業(yè)停滯不前的癥結(jié)。與大多數(shù)信息技術(shù)和商業(yè)管理領(lǐng)域不同，網(wǎng)絡(luò)安全是一個(gè)揉雜虛擬與物理，數(shù)學(xué)與人性的混沌世界，明天和意外，你不知道哪個(gè)先來(lái)；警報(bào)和誤報(bào)，你不知道哪個(gè)更多。

我們已經(jīng)建成了一個(gè)全球性的機(jī)器網(wǎng)絡(luò)，大部分時(shí)間它似乎是完全符合“工具理性”的，并未主動(dòng)攻擊我們。網(wǎng)絡(luò)安全重大事件的背后，通常是一些難以預(yù)見(jiàn)但又顯而易見(jiàn)的問(wèn)題——大多數(shù)情況下，都是混跡于各大科技公司中的愚蠢、貪婪和懶惰的“草臺(tái)班子”的杰作。

這種情況在安全軟件中尤為嚴(yán)重。PC殺毒軟件，常常以“全家桶”的形象出現(xiàn)，誘騙或強(qiáng)制用戶安裝，比病毒還更頻繁地拖慢電腦甚至崩潰。在消費(fèi)者沒(méi)有選擇權(quán)的情況下，這種軟件滋養(yǎng)了安全企業(yè)的貪婪，卻沒(méi)有提供高質(zhì)量的用戶體驗(yàn)。（事實(shí)上主流搜索引擎的墮落也與此類似）

盡管過(guò)去幾十年軟件設(shè)計(jì)似乎有所進(jìn)步，但人性本質(zhì)上沒(méi)有改變。CrowdStrike今年因?yàn)橥扑土艘粋€(gè)錯(cuò)誤更新導(dǎo)致全球計(jì)算機(jī)大規(guī)模藍(lán)屏死機(jī)。CrowdStrike的公關(guān)部門一再宣稱這不是“安全事件”，也不是“疏忽”，而是一個(gè)“意外”。面對(duì)達(dá)美航空這種遭受重大損失的客戶，CrowdStrike的律師甚至嘲笑客戶的恢復(fù)工作“比同行差勁”。

事情的真相很簡(jiǎn)單，問(wèn)題源自CrowdStrike的質(zhì)量保障（QA）和測(cè)試流程的漏洞。是因?yàn)镃rowdStrike愚蠢地認(rèn)為不需要QA？還是因?yàn)樨澙范^(guò)度節(jié)省成本？還是因?yàn)槟承┚W(wǎng)絡(luò)安全公司的關(guān)鍵流程KPI不包括網(wǎng)絡(luò)安全？

Meta公司的“草臺(tái)班子”也上演了一場(chǎng)類似的滑稽戲，該公司的機(jī)器學(xué)習(xí)驅(qū)動(dòng)的提示注入檢測(cè)器，剛一推出就立刻遭到了提示注入攻擊。這種攻擊簡(jiǎn)單到寵物狗都能完成（只需要連續(xù)敲擊幾下空格鍵）。通常，新軟件的重大缺陷大多是QA流程出現(xiàn)了問(wèn)題，顯然Meta的軟件團(tuán)隊(duì)沒(méi)有發(fā)現(xiàn)這個(gè)顯而易見(jiàn)的漏洞。

通往奴役之路的AI算法

Meta和Google等科技巨頭宣稱他們具備大規(guī)模執(zhí)行類人任務(wù)的AI能力時(shí)，卻聲稱無(wú)法解決一個(gè)高度危險(xiǎn)的人與技術(shù)的界面問(wèn)題：社交媒體和內(nèi)容分發(fā)服務(wù)的內(nèi)容選擇算法如何影響（操縱）人類心理來(lái)提高用戶的活躍度和參與度。

這些操縱大眾心智和行為的“人類惡意軟件”，往往是（惡意）內(nèi)容分發(fā)平臺(tái)中的大語(yǔ)言模型驅(qū)動(dòng)的機(jī)器學(xué)習(xí)的“基本功能”。我們需要監(jiān)測(cè)和檢測(cè)界面中的攻擊，觀察其引發(fā)的行為變化，在不影響合法使用的情況下進(jìn)行大規(guī)模安全監(jiān)控。

最大的安全威脅不是惡意軟件和黑客組織，而是：大型科技公司一方面自吹自擂AI技術(shù)和安全能力無(wú)與倫比，同時(shí)又宣稱沒(méi)法解決在線仇恨言論、虛假信息、信息繭房、內(nèi)容污染和產(chǎn)品成癮問(wèn)題。

是時(shí)候拆穿科技巨頭（科技封建領(lǐng)主）的謊言了。讓我們問(wèn)問(wèn)這些公司，他們打算如何利用他們的核心技術(shù)來(lái)解決日益嚴(yán)重的文化危機(jī)和反智、反社會(huì)行為？如何停止入侵和摧毀原生文化的生產(chǎn)和傳播系統(tǒng)？我們也不妨問(wèn)問(wèn)自己，作為精通最佳網(wǎng)絡(luò)安全技術(shù)和實(shí)踐的專業(yè)人士，如果我們自己都無(wú)法識(shí)別、逃避、反抗人類惡意軟件和AI算法的奴役，我們?nèi)绾伪Ｗo(hù)“網(wǎng)絡(luò)安全”。