AI:即將爆發的戰爭不會像我們想像的那樣…
下一次世界衝突將不會由人類或無人機來進行:一場由人工智慧管理的真假衝突即將到來
大多數科幻小說敘事以某種方式強加的意象向我們展示了一個人類遲早必須處理的世界。人工智能。 一旦人工智慧意識到自己並決定消滅我們,或找到控制我們的方法,衝突就會爆發。
如果這種觀點是現實的(並且關於這個主題會有很多討論),那麼等待我們的戰爭在時間上顯得相當遙遠,因為當前的生成系統絕對缺乏任何意識。 所以我們現在可以睡個好覺了。 或不?
“迫切需要針對軍事用途的人工智能進行監管”
俄羅斯-烏克蘭戰爭:人工智能正在發揮作用嗎?
陰謀、假新聞和仇外心理:危險的數字組合
當前人工智慧的真正危險
這個話題仍然存在著許多混亂 人工智能。 令人痛苦的是,在優秀的藝術中,混亂是由那些熱衷於撰寫它的記者同行所助長的,但往往沒有準備好理解其真正的本質、潛力和風險。
我們自然傾向於將自己投射到任何外部實體上,無論是另一個人、動物或軟體對象,這也加劇了這種混亂。
因此,我們很難理解為什麼明顯的智能行為根本不以真實的意識為前提。
因此,在通才報紙上太多「點擊誘餌」頭條新聞的鼓勵下,我們擔心的問題仍然是遙遠的時間,但我們沒有看到或低估那些今天已經直接關係到我們的問題。
一如既往地在那裡 技術 它可以以幫助人類的方式應用,但也可以以傷害人類的方式應用。
例如,在社會層面,人工智慧可用於優化流程和服務,例如城市交通或官僚和醫療保健服務。
或者它可以幫助教師根據每個學生的特點和特點準備個性化的課程或測驗。
在個人層面上,它可以幫助我們每個人更好地組織我們的工作和時間,為我們管理最無聊或重複的部分。
或者它可以幫助我們更好地表達我們的創造力,並按照我們的指示生成圖像、音樂或影片。
良好使用的人工智慧應該補充而不是取代我們的活動。
但由於目前能夠生成文字、圖像和影片的生成系統是基於主要來自互聯網的龐大資料庫,因此它們通常反映了我們的 “偏見” 最重要的是,他們根據統計平均值進行工作。
隨著越來越多的內容產生 人工智能 其本身的風險在於,平均數的平均數被創造出來,並且水平越來越明顯地下降。
然而,這些都是可以面對和解決的問題:最大的風險,我還沒講到,是人的因素。
由視覺藝術家和音樂家 Andy Murdock 使用生成式 AI(MidiJourney 和 Runaway)創作的視頻
人工智慧的力量與即將到來的戰爭對抗
到目前為止,我處理的問題都是已知的,而且畢竟可以不用太焦慮地解決。 好(或壞)現在就來了。
讓我們想像一個人工智能 訓練有素,能夠真實地再現任何人的聲音。 這樣的系統已經存在。
讓我們將其與另一個能夠創建由真人主演的可信影片的人工智慧結合起來。 這些系統也存在,並且在某些情況下已經被使用。
這就是我們可以創造的。”深假” (完全虛假但完全可信的影片)極其簡單,損害了政治對手、敵對國家或更簡單地說我們不喜歡的人。
因此,我們創造了數千(不,數萬)個假裝成真人的聊天機器人,註冊 最受歡迎的社群網絡 他們開始分享為誹謗、毀掉對手的職業生涯或在敵國製造盡可能多的混亂而製作的視頻,也許是在選舉期間。
因此,真理之戰誕生了,而我們現在都面臨著輸掉這場戰爭的風險。
忘記最近的美國選舉吧,一些分析人士認為,這次選舉被外部「接種」的宣傳所扭曲(閱讀:俄羅斯聯邦)。
與當前系統的潛力以及在中期未來可實現的潛力相比,任何歪曲 2020 年 XNUMX 月新聞的嘗試都是小兒科。
第一次世界大戰的戰鼓就這樣敲響了 人工智能的
從披薩到社交網絡:這就是黑手黨在網絡上擴散的方式
莫拉特之戰將成為世界上最大的數字對象
幻覺被用作非常規武器
Le 人工智能 富有創造力的人的運作原則有一個內在的缺陷:他們遭受幻覺之苦。 最新版本,例如 ChatGPT-4,正在嘗試限制和糾正這種趨勢,或多或少取得了成功。
這種「幻覺潛力」也可能被不懷好意的用戶利用,傳播基於某些政治團體或多或少明確的信仰的明顯真實的新聞,從而強化他們的“偏見”.
所有這些的「火力」都遠遠優於幾年前。
一個組織良好的團體(也許在一個順從的政府的私下幫助下)會利用大多數人已知的漏洞。 網際網路上的計算機 優化攻擊並控制數百萬台設備。
它會透過依次使用它們作為創建假貨的伺服器來做到這一點 社交賬號 與正品不易區分。
然後,虛假帳號會傳播旨在強化上述團體信念的論文和新聞。
對抗此類攻擊的唯一方法是…使用人工智能.
未發表論文集中的人工智能與衝突
演員罷工:捍衛真實性和創造力對抗人工智能
視頻,瑞士與勃艮第的衝突被數字化並保存
這種演變的危機和機遇
未來的戰爭誰會獲勝?
Le 人工智能 為社會破壞者服務,還是為那些受託保衛我們的人服務?
目前沒人能說。
我們可以確定一件事:只有一個準備充分的國家(或更好的國家聯盟),其人民具備批判性思考技能和數位手段知識,才能夠應對這些挑戰。
有必要的是,它不要將人工智慧視為奇蹟或威脅,而是要學會理解人工智慧的優點、潛力和問題,具有高瞻遠矚的管理階層,真正關注道德創新和道德創新。 技術.
我們需要盡快從這裡開始......
如果人工智慧是我們孩子最好的朋友
Facebook 的新話(或稱「人工癡呆」)
照片畫廊,Louis Braun 1000 平方米作品的桌子