2018高清国产一区二区三区-国产黄色视频免费在线观看-欧美激情欧美精品一区二区-免费国产一级片内射老妇

大模型的安(an)全(quan)問題正在悄悄逼(bi)近。

就在(zai)全球都(dou)在(zai)因大(da)(da)模型而狂歡時，大(da)(da)模型的安(an)全問(wen)題也隨(sui)之來(lai)臨。

不過，科技發展向來(lai)是(shi)一個不可逆的過程(cheng)。

即便在GPT-4發(fa)布后不久(jiu)，就(jiu)有上千位科學家、科技大(da)佬在去年(nian)3月簽(qian)署了警(jing)惕AI發(fa)展(zhan)的公開信(xin)，之后又(you)有OpenAI、DeepMind、Anthropic三(san)大(da)大(da)模型團隊掌(zhang)門(men)人聯合300多(duo)位科學家再度署名(ming)發(fa)布警(jing)惕AI發(fa)展(zhan)的公開信(xin)，但這并沒有改變AI大(da)勢(shi)。

2023年全球(qiu)科技領域的關(guan)鍵詞是(shi)“百模大戰(zhan)”，2024年這一關(guan)鍵詞已經(jing)是(shi)“大模型降(jiang)價”。

前者(zhe)揭示了關于大模(mo)型的技(ji)術競爭水深(shen)火熱，后者(zhe)則預(yu)示著(zhu)大模(mo)型產業落地(di)已(yi)經正式啟航。

然(ran)而，就在科技巨頭(tou)大模(mo)(mo)型產品發(fa)布最集中、連在大模(mo)(mo)型領(ling)域(yu)研(yan)究略顯滯后(hou)的蘋果也上車了大模(mo)(mo)型的這個月里(li)，大模(mo)(mo)型奔向市(shi)場時(shi)的安全問(wen)題悄然(ran)顯現。

01

微軟“延畢”AI核心功能

還記得(de)在前不久(jiu)的微軟(ruan)Build大(da)會上，微軟(ruan)用(yong)來(lai)硬剛蘋果Mac的“Copilot+PC”嗎？

當時在發布(bu)會上(shang)關于人工(gong)智能(neng)最亮眼的(de)一(yi)(yi)項(xiang)功(gong)能(neng)是一(yi)(yi)個名為“Recall”的(de)，查找你(ni)之前在電腦上(shang)的(de)任(ren)意操作(zuo)的(de)功(gong)能(neng)。

Recall的工(gong)作原理是，在用(yong)(yong)戶授權(quan)后，PC通過(guo)本地的端側大模型以快照(zhao)形式記憶用(yong)(yong)戶每天(tian)電腦的使用(yong)(yong)情況(kuang)，并在你想(xiang)要回溯的時候，通過(guo)滾動時間軸找到當(dang)時的操(cao)作頁面。

有點(dian)(dian)類似(si)辦公軟(ruan)件中的歷(li)史版(ban)本回溯功能，不同之處在(zai)于，基于大模型，現在(zai)你可以對任意軟(ruan)件、任意時間點(dian)(dian)進(jin)行快速(su)回溯。

從后來微軟官方博客中公布和外(wai)媒曝(pu)出的消息來看，微軟這一功能此前是在(zai)內(nei)部(bu)(bu)秘密研發，正式發布時甚(shen)至只在(zai)微軟內(nei)部(bu)(bu)進(jin)行了測(ce)(ce)試，沒有在(zai)Windows Insider進(jin)行公測(ce)(ce)。

Windows Insider計劃(hua)是微軟(ruan)2014年10月(yue)為Windows 10推出的一個公測(ce)計劃(hua)，這一計劃(hua)一直被微軟(ruan)沿用至(zhi)今，發展成了微軟(ruan)Windows系統功能(neng)更新的一個公測(ce)社區。

或(huo)許是AI PC勢(shi)頭太猛，微軟(ruan)有些著急，本該先在(zai)Windows Insider公測(ce)的Recall功能，在(zai)今年的Build大會上直接(jie)被微軟(ruan)拿(na)來做壓軸(zhou)功能，甚至(zhi)官宣了要在(zai)6月18日(ri)隨“Copilot+PC”一并上線。

微(wei)軟Build大會舉辦于(yu)今年(nian)5月，意(yi)外發生在6月13日。

這一(yi)天(tian)，美國眾議院國土安全委員會召(zhao)開了一(yi)場關(guan)于網(wang)絡安全的聽證會，微軟是出席單位之一(yi)，微軟總裁Brad Smith稱，“微軟安全未來計劃（SFI）是比(bi)公(gong)司在人工智能布局更重要(yao)的工作。”

值(zhi)得注(zhu)意的是，微軟SFI計(ji)(ji)劃的提(ti)出是在(zai)2023年11月，而(er)Recall立項是在(zai)微軟安全(quan)改(gai)革計(ji)(ji)劃SFI提(ti)出之前，這就讓Recall陰(yin)差陽錯地跳過了SFI，秘密研發了下去，直(zhi)到最(zui)終發布。

不過，人工(gong)智(zhi)能的(de)安全(quan)問題早在(zai)2023年年初(chu)就已(yi)經(jing)在(zai)硅(gui)谷得到了重視(shi)，甚至已(yi)經(jing)上升為一個重要的(de)社會議題，Recall功能在(zai)官宣(xuan)發布后，外媒關于Recall帶來(lai)的(de)隱私安全(quan)問題進行了頗多質疑(yi)。

這就有了微軟6月(yue)13日(ri)在官方博(bo)客上表(biao)示(shi)，Recall將不會(hui)隨“Copilot+PC”在6月(yue)18日(ri)上線，而(er)是先進入到Windows Insider公測階段。

微(wei)軟(ruan)推遲Recall正(zheng)式上線，嚴格意義上來(lai)說，算是(shi)微(wei)軟(ruan)一(yi)次在功能(neng)上線前的(de)緊急叫停(ting)，而接(jie)下的(de)公(gong)測(ce)，一(yi)方面可以讓(rang)微(wei)軟(ruan)看(kan)到這(zhe)一(yi)功能(neng)是(shi)否存(cun)在安全(quan)漏洞，另(ling)一(yi)方面也可以通(tong)過(guo)公(gong)測(ce)看(kan)到社會層面對于這(zhe)一(yi)功能(neng)的(de)真實(shi)反饋。

要知道，在Recall出(chu)現之前，AI PC稱得上“大(da)模型”的功能(neng)還是智能(neng)語音、協同辦公，以及系(xi)統層(ceng)面的改善，沒有一(yi)個拿(na)得出(chu)手、顛覆用(yong)戶觀(guan)感的新功能(neng)。

美國社會和政府(fu)層面給微軟的壓力，讓微軟對這一(yi)功能(neng)的隱私(si)安全(quan)問題(ti)再次有了擔憂，“延(yan)畢”Recall，成了緩解壓力的一(yi)個(ge)折(zhe)中的手(shou)段。

02

蘋果AI不敢進歐盟

同樣遭受到質疑的，還有美國(guo)另一家科技巨(ju)頭，蘋果。

蘋果原本在大模型(xing)的(de)領(ling)域研(yan)發上并不激進，甚至略(lve)顯滯后，在今年(nian)WWDC 2024上官宣啟用大模型(xing)，搞出一個Apple Intelligence時，還(huan)是借了OpenAI的(de)助力(li)。

與微軟類(lei)似的是，蘋(pin)果也是在(zai)大模型(xing)上線(xian)之前，官宣拿到緊急撤退自查。

就在蘋果對外發布iOS 18及Apple Intelligence后不久，有消息(xi)傳(chuan)出，Apple Intelligence今年或將不會在歐盟地區上線。

隨后，蘋(pin)果(guo)證實(shi)了這(zhe)一消息，并(bing)稱，之所以(yi)如此，是因(yin)為(wei)對歐(ou)盟DMA要求蘋(pin)果(guo)允許第三(san)方公司與其服務可以(yi)進行互(hu)聯互(hu)通、互(hu)操(cao)作(zuo)的(de)擔憂。

這就意味著，要(yao)想進入歐(ou)盟，蘋(pin)果就無法完全將Apple Intelligence的隱私安全性掌(zhang)握在自己的手中，這是蘋(pin)果所不能(neng)容忍的。

這里值得(de)一提的(de)(de)是(shi)歐盟的(de)(de)DMA。

DMA，即《數字市場法案》，是(shi)歐盟在2024年3月(yue)7日正式落地生(sheng)效的(de)、用(yong)于狙(ju)擊科技巨頭壟斷(duan)問題的(de)一項法案。

該(gai)項(xiang)法案將(jiang)蘋果、谷(gu)歌、微軟、亞馬遜(xun)等一眾科技巨頭(tou)定(ding)義為“gatekeeper”，要求這些科技巨頭(tou)在數據訪(fang)問、數據共(gong)享、隱私(si)保(bao)護在內的22項(xiang)核心產品與(yu)服務上(shang)進行(xing)整改(gai)。

蘋果此前曾允許將(jiang)第三方(fang)瀏覽器設置為默認瀏覽器，正是為了應(ying)對這(zhe)一法案做出的(de)調(diao)整。

嚴(yan)格意義上來(lai)說，DMA針對的(de)是(shi)科(ke)技巨頭的(de)壟斷問題，但(dan)蘋(pin)(pin)果一直賴以維(wei)系的(de)是(shi)閉(bi)環(huan)生態為硬件產品(pin)帶(dai)來(lai)的(de)干凈(jing)體驗，類似默認瀏覽器(qi)這類權限的(de)逐步(bu)開放，意味著(zhu)蘋(pin)(pin)果閉(bi)環(huan)生態在歐盟將被(bei)打(da)開一個(ge)缺口。

尤其是今年蘋果(guo)將大模型提上日程，Apple Intelligence進入落地階段(duan)，在首限DMA的(de)(de)同(tong)時，歐盟還有(you)著全球最嚴(yan)格的(de)(de)數據保護條例GDPR。

在(zai)此(ci)之前，包(bao)括蘋果、谷歌、微軟等一眾科技巨頭(tou)，都曾(ceng)在(zai)歐盟因(yin)數據安全和(he)隱私問(wen)題遭受過數億(yi)，乃至數十億(yi)歐元的巨額罰(fa)款。

就在(zai)今年(nian)3月，谷歌就曾在(zai)法國因違規使用當地新聞和出版機構的數據訓練大模(mo)型，拿(na)到了(le)一(yi)張2.5億(yi)(yi)歐(ou)元（約19.7億(yi)(yi)元）的罰(fa)單。

Apple Intelligence今年不進歐盟(meng)，除了受(shou)限DMA法案，顯(xian)然(ran)也有著(zhu)隱(yin)私安全因素的考(kao)量。

03

高效、安全難兼得

一個全新業態到來之時(shi)，初期的野蠻生長往(wang)(wang)往(wang)(wang)是一種必然，大模型當(dang)然也不(bu)例(li)外。

從以(yi)深度學習為(wei)計(ji)算范式(shi)的(de)人工智能，到如今以(yi)生成式(shi)AI、大模型為(wei)計(ji)算范式(shi)的(de)人工智能，我們看到了人工智能已經(jing)是一個不(bu)可逆的(de)趨勢(shi)。

然而，隨(sui)著大模型(xing)進入(ru)產業，尤其(qi)是在(zai)進入(ru)消(xiao)費市場時(shi)，面(mian)對數億(yi)十億(yi)計、沒有(you)專業的(de)(de)隱私安全(quan)分析能(neng)力的(de)(de)普通(tong)消(xiao)費者(zhe)，如何在(zai)標準、規范(fan)，乃至政策(ce)監管層面(mian)為普通(tong)消(xiao)費者(zhe)擋(dang)去這一時(shi)代(dai)洪流下(xia)的(de)(de)安全(quan)隱患(huan)，就成了一個最具挑戰的(de)(de)任務(wu)。

從(cong)這個(ge)角度來看，無論(lun)是(shi)微(wei)軟Recall在美(mei)國社會層面遭受(shou)到(dao)的安全質疑，還是(shi)蘋果Apple Intelligence進入歐(ou)盟受(shou)到(dao)的阻力，都算是(shi)一(yi)件好事。

最(zui)近還有另(ling)外兩(liang)件事兒，鋅產業從中看到了企業對于大模型的(de)隱(yin)私安全在技術(shu)側(ce)和產品側(ce)的(de)主動防御。

其一是前OpenAI聯合創(chuang)始人、首(shou)席科學家Ilya Sutskever最近離職創(chuang)業了(le)，做了(le)一家名為Safe Super intelligenceinc（SSI）的公司。

此前，OpenAI內部(bu)一(yi)直分(fen)為激進(jin)派和保(bao)守派兩大(da)派系，激進(jin)派認(ren)為應該(gai)通過(guo)資(zi)本(ben)手段(duan)全力推進(jin)大(da)模(mo)型產品迭(die)代演進(jin)，保(bao)守派則認(ren)為更應關注大(da)模(mo)型的安全性和可解釋性。

Ilya是OpenAI保守派的代表人(ren)物，在(zai)去年(nian)那場宮斗大(da)戲后(hou)，Ilya最終在(zai)今年(nian)5月官宣離職，隨后(hou)如愿拉團隊單獨成立了一個聚(ju)焦大(da)模型安全的公司，Ilya稱，新團隊將只(zhi)關注安全的超級智能。

由這一理(li)念(nian)驅(qu)動的大模型技術研究路徑，以(yi)及未來可能由SSI或(huo)受SSI影(ying)響的其他團隊創造出的、將隱私安(an)全(quan)貫徹到超級智能體中的方法論，將會成(cheng)為大模型未來產業化過程(cheng)中的一項配(pei)套基礎設施。

其二是在(zai)今(jin)年HDC 2024上，華(hua)為(wei)官方提到了搭載盤(pan)古(gu)大模型的(de)(de)純血鴻蒙系統的(de)(de)一個(ge)安全理念——從以往的(de)(de)授權應用權限，調(diao)整為(wei)授權數據權限。

以(yi)某個APP注冊(ce)時需要(yao)使用用戶的圖庫權限，現(xian)在在純血鴻蒙上則只(zhi)需要(yao)提供(gong)某一張圖片(pian)的權限，提供(gong)這張圖片(pian)的使用權。

另外，在分享某個文件給(gei)好友時，通過(guo)加密(mi)，這一文件將(jiang)只有被分享好友可以看到(dao)，二次轉發后(hou)，其他人也無(wu)法(fa)看到(dao)文件內容。

作為(wei)新一代(dai)生產力工具，大模型(xing)帶來的高效性(xing)和便(bian)利性(xing)已(yi)經不(bu)言而喻，對于這一技術的學習、應用(yong)，也(ye)成了一種“不(bu)得不(bu)”。

微軟和(he)蘋果遇(yu)到的困境為(wei)所有(you)人提(ti)了個(ge)醒，如(ru)何(he)兼(jian)顧大(da)模型的高效(xiao)性和(he)安全性，將會(hui)是這個(ge)時(shi)代接下來(lai)一個(ge)永恒的主(zhu)題(ti)。