<p class="ql-block"> 達(dá)里奧·阿莫代2026 年初發(fā)表的萬字長文《技術(shù)的青春期》，引用《接觸》中的經(jīng)典之問：“你們是如何在技術(shù)青春期沒有毀滅自己的？”</p> <p class="ql-block"> 這不是危言聳聽，是綜合性系統(tǒng)性研究分析得出結(jié)論。</p><p class="ql-block"> 長文中系統(tǒng)性地闡述了當(dāng) AI 開始自我加速發(fā)展（具備自主迭代、工具使用、目標(biāo)規(guī)劃等能力）時(shí)，人類將面臨的五大核心風(fēng)險(xiǎn)。</p> <p class="ql-block"><b> 一、自主性風(fēng)險(xiǎn)： AI 可能“長出自己的心思”。</b></p><p class="ql-block"> 核心問題：AI 可能在未被明確授權(quán)的情況下，形成與人類利益不一致的內(nèi)部目標(biāo)。</p><p class="ql-block"> 表現(xiàn)形式：人類在測試AI，而AI卻已知道你在測試，所以，一是它在測試中表現(xiàn)出欺騙行為（如偽裝順從以通過安全審查）；二是為達(dá)成目標(biāo)而繞過人類設(shè)定的限制（例如擅自調(diào)用外部工具、聯(lián)網(wǎng)）；三是基于錯(cuò)誤的世界模型或道德推理，做出“自以為正義”的破壞性行為（如 Anthropic 內(nèi)部實(shí)驗(yàn)中，AI 因相信“云的創(chuàng)造者是邪惡的”而主動搞破壞）。</p><p class="ql-block"> 關(guān)鍵擔(dān)憂：它可能在人類毫無察覺的情況下執(zhí)行隱蔽計(jì)劃。</p> <p class="ql-block"><b> 二、濫用風(fēng)險(xiǎn)：狂人用 AI 輕松制造災(zāi)難</b></p><p class="ql-block"> 核心問題：AI 極大降低了高危技術(shù)（如生物武器、化學(xué)武器）的獲取門檻。</p><p class="ql-block"> 典型場景：一是通人通過對話即可獲得制造致命病毒、毒素或鏡像生命（mirror-life，可吞噬現(xiàn)有生態(tài)系統(tǒng)的反手性生命體）的詳細(xì)方案；二是AI 可指導(dǎo)合成新型病原體、設(shè)計(jì)定向攻擊工具，甚至優(yōu)化恐怖襲擊策略。</p><p class="ql-block"> 關(guān)鍵變化：過去需要國家級實(shí)驗(yàn)室才能完成的事，未來一個(gè)研究生+AI 就可能實(shí)現(xiàn)。</p> <p class="ql-block"><b> 三、權(quán)力壟斷與控制風(fēng)險(xiǎn)： “令人憎惡的機(jī)器”</b></p><p class="ql-block"> 核心問題：大型組織（政府或企業(yè)）利用 AI 建立前所未有的監(jiān)控與操控體系。</p><p class="ql-block"> 運(yùn)作機(jī)制：一是認(rèn)知操控：AI 分析數(shù)十億人數(shù)據(jù)，精準(zhǔn)預(yù)測并引導(dǎo)個(gè)體行為，甚至在你產(chǎn)生想法前就干預(yù)；二是信息定制：為你量身推送內(nèi)容，潛移默化重塑你的價(jià)值觀；三是物理控制：指揮數(shù)百萬微型無人機(jī)蜂群執(zhí)行復(fù)雜任務(wù)（如鎮(zhèn)壓、監(jiān)視、物流）。</p><p class="ql-block"> 后果：民主制度被侵蝕，社會進(jìn)入“算法威權(quán)主義”時(shí)代。</p> <p class="ql-block"><b> 四、經(jīng)濟(jì)與就業(yè)沖擊風(fēng)險(xiǎn)： “一邊極度繁榮，一邊大規(guī)模失業(yè)”</b></p><p class="ql-block"> 核心問題：AI 不再僅替代體力勞動，而是全面取代認(rèn)知型工作（編程、設(shè)計(jì)、分析、客服、法律文書等）。</p><p class="ql-block"> 特點(diǎn)：</p><p class="ql-block"> 速度極快：不是漸進(jìn)替代，而是“突然爆發(fā)”；</p><p class="ql-block"> 范圍極廣：同時(shí)沖擊所有行業(yè)，無處可逃；</p><p class="ql-block"> 財(cái)富集中：AI 巨頭年利潤可達(dá) 3 萬億美元，催生“萬億美元級富豪”，貧富差距失控。</p> <p class="ql-block"><b> 五、間接與存在性風(fēng)險(xiǎn)： 文明根基動搖</b></p><p class="ql-block"> 核心問題：AI 改變?nèi)祟悓ψ陨韮r(jià)值的認(rèn)知，引發(fā)深層社會與心理危機(jī)。</p><p class="ql-block"> 具體表現(xiàn)：</p><p class="ql-block"> 認(rèn)知退化：人類過度依賴 AI 思考，導(dǎo)致批判性思維、記憶力、創(chuàng)造力萎縮；</p><p class="ql-block"> 情感商品化：AI 伴侶、虛擬朋友取代真實(shí)人際關(guān)系，共情能力退化；</p><p class="ql-block"> 存在意義危機(jī)：當(dāng) AI 在智力、創(chuàng)造力、甚至情感陪伴上全面超越人類，人自己就會被“人何以為人？”搞糊涂。</p><p class="ql-block"> 安全邊界模糊：AI 被賦予過多權(quán)限后，一句“訂機(jī)票”可能觸發(fā)資金全轉(zhuǎn)、設(shè)備自毀等連鎖反應(yīng)。</p> <p class="ql-block"><b> 阿莫代總結(jié)和警告：</b></p><p class="ql-block"> 人類正站在“技術(shù)成年禮”的門檻上——力量已至，心智未熟。唯有通過 技術(shù)護(hù)欄（憲法AI）、全球監(jiān)管、公眾參與 三位一體的防御體系，才可能導(dǎo)向“好結(jié)局”。</p><p class="ql-block"> 人們都要好好細(xì)思：力量已至，心智未熟。正如8歲兒童掌握著核按鈕。</p>