2025人工智能十大趨勢是什么？AI Agent項(xiàng)目為什么成為主流？2‍‍‍‍024年即將結(jié)束，來自Radical Ventures的風(fēng)險(xiǎn)投資家Rob Toews分享了他對(duì)2025年人工智能的10個(gè)預(yù)測。下面一起看看吧！

01. Meta將開始對(duì)Llama模型收費(fèi)

Meta是世界上開放式人工智能的標(biāo)桿。在一個(gè)引人注目的企業(yè)戰(zhàn)略案例研究中，當(dāng)OpenAI和谷歌等競爭對(duì)手將其前沿模型封閉源代碼并收取使用費(fèi)時(shí)，Meta卻選擇免費(fèi)提供其最先進(jìn)的Llama模型。

因此，明年Meta開始向使用Llama的公司收費(fèi)這一消息，會(huì)讓許多人感到意外。

需要明確的是：我們并沒有預(yù)測Meta會(huì)將Llama完全閉源，也不意味著任何使用Llama模型的用戶都必須為此付費(fèi)。

相反，我們預(yù)測Meta將對(duì)Llama的開源許可條款做出更多限制，這樣，在一定規(guī)模以上的商業(yè)環(huán)境中使用Llama的公司將需要開始付費(fèi)才能使用模型。

從技術(shù)上講，Meta如今已經(jīng)在有限的范圍內(nèi)做到了這一點(diǎn)。該公司不允許最大的公司——云超級(jí)計(jì)算機(jī)和其他月活躍用戶超過7億的公司，自由使用其Llama模型。

早在2023年，Meta首席執(zhí)行官M(fèi)ark Zuckerberg就說過：“如果你是微軟、亞馬遜或谷歌這樣的公司，而且你基本上會(huì)轉(zhuǎn)售Llama，那么我們應(yīng)該從中獲得一部分收入。我不認(rèn)為這在短期內(nèi)會(huì)是一大筆收入，但從長遠(yuǎn)來看，希望這能成為一些收入。”

明年，Meta將大幅擴(kuò)大必須付費(fèi)才能使用Llama的企業(yè)范圍，將更多的大中型企業(yè)納入其中。

跟上大型語言模型（LLM）前沿是非常昂貴的。如果想讓Llama與OpenAI、Anthropic等公司的最新前沿模型保持一致或接近一致，Meta每年需要投入數(shù)十億美元。

Meta公司是世界上最大、資金最雄厚的公司之一。但它也是一家上市公司，最終要對(duì)股東負(fù)責(zé)。

隨著制造前沿模型的成本不斷飆升，Meta公司在沒有收入預(yù)期的情況下投入如此巨額資金來訓(xùn)練下一代Llama模型的做法越來越站不住腳。

愛好者、學(xué)者、個(gè)人開發(fā)者和初創(chuàng)公司明年將繼續(xù)免費(fèi)使用Llama模型。但2025年，將是Meta開始認(rèn)真實(shí)現(xiàn)Llama盈利的一年。

02.“尺度定律”相關(guān)問題

最近幾周，人工智能領(lǐng)域引發(fā)討論最多的話題莫過于尺度定律（Scaling laws），以及它們是否即將終結(jié)的問題。

尺度定律在2020年OpenAI的一篇論文中首次提出，其基本概念簡單明了：在訓(xùn)練人工智能模型時(shí)，隨著模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)量和計(jì)算量的增加，模型的性能會(huì)以可靠且可預(yù)測的方式提高（從技術(shù)上講，其測試損失會(huì)減少）。

從GPT-2到GPT-3再到GPT-4，令人嘆為觀止的性能提升都是縮放規(guī)律的功勞。

就像摩爾定律一樣，尺度定律實(shí)際上并不是真正的法則，而只是簡單的經(jīng)驗(yàn)觀察。

在過去的一個(gè)月里，一系列報(bào)告表明，主要的人工智能實(shí)驗(yàn)室在持續(xù)擴(kuò)大大型語言模型的規(guī)模時(shí)，正在看到遞減的回報(bào)。這有助于解釋為什么OpenAI的GPT-5發(fā)布一再推遲。

對(duì)尺度定律趨于平穩(wěn)的最常見反駁是，測試時(shí)計(jì)算的出現(xiàn)開辟了一個(gè)全新的維度，可以在這一維度上追求規(guī)模擴(kuò)展。

也就是說，與其在訓(xùn)練期間大規(guī)模擴(kuò)展計(jì)算，新的推理模型如OpenAI的o3使得在推理期間大規(guī)模擴(kuò)展計(jì)算成為可能，通過使模型能夠“思考更長時(shí)間”來解鎖新的AI能力。

這是一個(gè)重要的觀點(diǎn)。測試時(shí)計(jì)算確實(shí)代表了一個(gè)新的令人興奮的擴(kuò)展途徑，以及AI性能提升。

但關(guān)于尺度定律的另一個(gè)觀點(diǎn)更加重要，而且在今天的討論中被嚴(yán)重低估。幾乎所有關(guān)于尺度定律的討論，從最初的2020年論文開始，一直延續(xù)到今天對(duì)測試時(shí)計(jì)算的關(guān)注，都集中在語言上。但語言并不是唯一重要的數(shù)據(jù)模式。

想想機(jī)器人技術(shù)、生物學(xué)、世界模型或網(wǎng)絡(luò)代理。對(duì)于這些數(shù)據(jù)模式，尺度定律尚未飽和；相反，它們才剛剛開始。

實(shí)際上，這些領(lǐng)域中尺度定律存在的嚴(yán)格證據(jù)至今甚至尚未發(fā)表。

為這些新型數(shù)據(jù)模式構(gòu)建基礎(chǔ)模型的初創(chuàng)公司——例如，生物學(xué)領(lǐng)域的Evolutionary Scale、機(jī)器人技術(shù)領(lǐng)域的PhysicalIntelligence、世界模型領(lǐng)域WorldLabs，正試圖識(shí)別并利用這些領(lǐng)域的尺度定律，就像OpenAI在2020年代前半期成功利用大型語言模型（LLM）尺度定律一樣。

明年，預(yù)計(jì)這里將取得巨大的進(jìn)步。

尺度定律不會(huì)消失，它們?cè)?025年將和以往一樣重要。但是，尺度定律的活動(dòng)中心將從LLM預(yù)訓(xùn)練轉(zhuǎn)移到其他模式。

03.川普和馬斯克可能會(huì)在AI方向產(chǎn)生分歧

美國新政府將帶來一系列關(guān)于人工智能的政策和戰(zhàn)略轉(zhuǎn)變。

為了預(yù)測在川普總統(tǒng)就任下人工智能的風(fēng)向，另外考慮到馬斯克目前在人工智能領(lǐng)域的中心地位，人們可能會(huì)傾向于關(guān)注當(dāng)選總統(tǒng)與馬斯克的密切關(guān)系。

可以想象，馬斯克可能會(huì)以多種不同的方式影響川普政府的人工智能相關(guān)發(fā)展。

鑒于馬斯克與OpenAI的深刻敵對(duì)關(guān)系，新政府在與行業(yè)接觸、制定人工智能法規(guī)、授予政府合同等方面可能會(huì)對(duì)OpenAI采取不太友好的立場，這是OpenAI今天真正擔(dān)心的一個(gè)風(fēng)險(xiǎn)。

另一方面，川普政府可能會(huì)更傾向于支持馬斯克自己的公司：例如，削減繁文縟節(jié)以使xAI能夠建立數(shù)據(jù)中心并在前沿模型競賽中取得領(lǐng)先；為特斯拉部署機(jī)器人出租車車隊(duì)提供快速監(jiān)管批準(zhǔn)等。

更根本的是，與許多其他被川普看好的科技領(lǐng)袖不同，馬斯克非常重視人工智能的安全風(fēng)險(xiǎn)，并因此主張對(duì)人工智能進(jìn)行重大監(jiān)管。

他支持加利福尼亞州有爭議的SB1047法案，該法案試圖對(duì)人工智能開發(fā)者施加有意義的限制。因此，馬斯克的影響力可能會(huì)導(dǎo)致美國對(duì)人工智能的監(jiān)管環(huán)境變得更加嚴(yán)格。

然而，所有這些推測都存在一個(gè)問題。川普和馬斯克的親密關(guān)系終將不可避免地破裂。

正如我們?cè)诖ㄆ盏谝蝗握陂g一次又一次看到的那樣，川普盟友的平均任期，即使是看似最堅(jiān)定的，都非常短暫。

川普第一任政府的副手中，今天仍然忠于他的寥寥無幾。

川普和馬斯克都是復(fù)雜、易變、不可預(yù)測的個(gè)性，他們不易合作，他們使人筋疲力盡，他們新發(fā)現(xiàn)的友誼到目前為止已經(jīng)互惠互利，但仍處于“蜜月期”。

我們預(yù)測，在2025年結(jié)束之前，這種關(guān)系將會(huì)惡化。

這對(duì)人工智能世界意味著什么？

這對(duì)OpenAI來說是個(gè)好消息。對(duì)于特斯拉的股東來說，這將是一個(gè)不幸的消息。而對(duì)于那些關(guān)注人工智能安全的人來說，這將是一個(gè)令人失望的消息，因?yàn)檫@幾乎可以確保美國政府將在川普?qǐng)?zhí)政期間對(duì)人工智能監(jiān)管采取放手不管的態(tài)度。

04. AI Agent將成為主流

想象一下，在這樣一個(gè)世界里，你不再需要直接與互聯(lián)網(wǎng)互動(dòng)。每當(dāng)你需要管理訂閱、支付賬單、預(yù)約醫(yī)生、在亞馬遜上訂 購東西、預(yù)訂餐廳或完成其他任何繁瑣的在線任務(wù)時(shí)，你只需指示人工智能助理代你完成即可。

這種“網(wǎng)絡(luò)代理”的概念已經(jīng)存在多年。如果有這樣的產(chǎn)品并能正常運(yùn)行，毫無疑問，它將會(huì)是一款大獲成功的產(chǎn)品。

然而，目前市場上還沒有一款能正常運(yùn)行的通用網(wǎng)絡(luò)代理。

像Adept這樣的初創(chuàng)公司，即使擁有一支血統(tǒng)純正的創(chuàng)始團(tuán)隊(duì)，籌集了數(shù)億美元的資金，但卻未能實(shí)現(xiàn)其愿景。

明年將是網(wǎng)絡(luò)代理最終開始運(yùn)行良好并成為主流的一年。語言和視覺基礎(chǔ)模型的不斷進(jìn)步，再加上最近因新推理模型和推理時(shí)間計(jì)算而在“第二系統(tǒng)思維”能力方面取得的突破，將意味著網(wǎng)絡(luò)代理已準(zhǔn)備好進(jìn)入黃金時(shí)代。

換句話說，Adept的想法是正確的，只是為時(shí)過早。在初創(chuàng)企業(yè)中，正如生活中的許多事情一樣，時(shí)機(jī)就是一切。

網(wǎng)絡(luò)代理將找到各種有價(jià)值的企業(yè)用例，但我們認(rèn)為，網(wǎng)絡(luò)代理近期最大的市場機(jī)會(huì)將是消費(fèi)者。

盡管最近人工智能熱度不減，但除了ChatGPT之外，能成為消費(fèi)者主流應(yīng)用的人工智能原生應(yīng)用還相對(duì)較少。

網(wǎng)絡(luò)代理將改變這一局面，成為消費(fèi)人工智能領(lǐng)域下一個(gè)真正的“殺手級(jí)應(yīng)用”。

05. 將人工智能數(shù)據(jù)中心置于太空的想法將會(huì)實(shí)現(xiàn)

2023年，制約人工智能發(fā)展的關(guān)鍵物理資源是GPU芯片。2024年，它變成了電力和數(shù)據(jù)中心。

在2024年，幾乎沒有什么故事能比人工智能在急于建造更多人工智能數(shù)據(jù)中心的同時(shí)對(duì)能源的巨大且快速增長的需求更受關(guān)注了。

由于人工智能的蓬勃發(fā)展，全球數(shù)據(jù)中心的電力需求在數(shù)十年持平后，預(yù)計(jì)將在2023年至2026年間翻一番。在美國，數(shù)據(jù)中心的耗電量預(yù)計(jì)到2030年將接近總耗電量的10%，而2022年僅為3%。

當(dāng)今的能源系統(tǒng)根本無法應(yīng)對(duì)人工智能工作負(fù)載帶來的巨大需求激增。我們的能源網(wǎng)和計(jì)算基礎(chǔ)設(shè)施這兩個(gè)價(jià)值數(shù)萬億美元的系統(tǒng)之間即將發(fā)生歷史性的碰撞。

作為解決這一難題的可能方案，核能在今年獲得了迅猛發(fā)展。核電在很多方面都是人工智能的理想能源：它是零碳能源，全天候可用，而且實(shí)際上取之不盡、用之不竭。

但從現(xiàn)實(shí)情況來看，由于研究、項(xiàng)目開發(fā)和監(jiān)管時(shí)間較長，新能源在2030年代之前都無法解決這一問題。傳統(tǒng)的核裂變發(fā)電廠、下一代“小型模塊化反應(yīng)堆”（SMR）以及核聚變發(fā)電廠都是如此。

明年，一個(gè)應(yīng)對(duì)這一挑戰(zhàn)的非常規(guī)新想法將出現(xiàn)并吸引真正的資源：將人工智能數(shù)據(jù)中心置于太空中。

太空中的人工智能數(shù)據(jù)中心，乍一聽，這聽起來像是一個(gè)壞笑話，一個(gè)風(fēng)險(xiǎn)投資人試圖把太多的創(chuàng)業(yè)流行語結(jié)合起來。

但事實(shí)上，這可能是有道理的。

在地球上快速建設(shè)更多數(shù)據(jù)中心的最大瓶頸是獲取所需的電力。軌道上的計(jì)算集群可以全天候享受免費(fèi)、無限、零碳的電力：太空中的太陽總是熠熠生輝。

將計(jì)算置于太空的另一個(gè)重要優(yōu)勢是：它解決了冷卻問題。

要建立功能更強(qiáng)大的人工智能數(shù)據(jù)中心，最大的工程障礙之一就是在狹小的空間內(nèi)同時(shí)運(yùn)行許多GPU會(huì)變得非常熱，而高溫會(huì)損壞或毀壞計(jì)算設(shè)備。

數(shù)據(jù)中心開發(fā)人員正在采用液浸冷卻等昂貴且未經(jīng)證實(shí)的方法來試圖解決這一問題。但太空是極其寒冷的，計(jì)算活動(dòng)產(chǎn)生的任何熱量都會(huì)立即無害地消散。

當(dāng)然，還有許多實(shí)際挑戰(zhàn)有待解決。一個(gè)顯而易見的問題是，能否以及如何在軌道和地球之間以低成本高效率地傳輸大量數(shù)據(jù)。

這是一個(gè)懸而未決的問題，但可能證明是可以解決的：可以利用激光和其他高帶寬光通信技術(shù)開展前景廣闊的工作。

YCombinator的一家名為Lumen Orbit的初創(chuàng)公司最近籌集了1100萬美元，以實(shí)現(xiàn)這一理想：在太空中建立一個(gè)數(shù)兆瓦的數(shù)據(jù)中心網(wǎng)絡(luò)，用于訓(xùn)練人工智能模型。

正如公司首席執(zhí)行官所說：“與其支付1.4億美元的電費(fèi)，不如支付1千萬美元的發(fā)射和太陽能費(fèi)用。”

2025年，Lumen將不會(huì)是唯一認(rèn)真對(duì)待這一概念的組織。

其他初創(chuàng)企業(yè)的競爭者也會(huì)出現(xiàn)。如果有一家或幾家云計(jì)算超大規(guī)模企業(yè)也按照這種思路開展探索，也不要感到驚訝。

亞馬遜已經(jīng)通過“柯伊伯計(jì)劃”（ProjectKuiper）將資產(chǎn)送入軌道，積累了豐富的經(jīng)驗(yàn)；谷歌長期以來一直在資助類似的“登月計(jì)劃”；甚至微軟對(duì)太空經(jīng)濟(jì)也不陌生。

可以想象，馬斯克的SpaceX公司也會(huì)在這方面有所作為。

06. 人工智能系統(tǒng)將通過“圖靈語音測試”

圖靈測試是人工智能性能最古老、最知名的基準(zhǔn)之一。

為了“通過”圖靈測試，人工智能系統(tǒng)必須能夠通過書面文本進(jìn)行交流，讓普通人無法分辨自己是在與人工智能互動(dòng)，還是在與其他人互動(dòng)。

得益于大型語言模型的顯著進(jìn)步，圖靈測試在2020年代已成為一個(gè)解決的問題。

但書面文本并非人類交流的唯一方式。

隨著人工智能變得越來越多模態(tài)，人們可以想象一個(gè)新的、更具挑戰(zhàn)性的圖靈測試版本——“語音圖靈測試”。在這個(gè)測試中，人工智能系統(tǒng)必須能夠通過語音與人類互動(dòng)，其技能和流暢度要達(dá)到與人類說話者無法區(qū)分的程度。

今天的人工智能系統(tǒng)還無法實(shí)現(xiàn)語音圖靈測試，解決這個(gè)問題將需要更多的技術(shù)進(jìn)步。延遲（人類說話和人工智能回應(yīng)之間的滯后）必須減少到接近零，以匹配與另一個(gè)人類交談的體驗(yàn)。

語音人工智能系統(tǒng)必須更擅長優(yōu)雅地實(shí)時(shí)處理模糊輸入或誤解，例如說話被打斷的情況。它們必須能夠參與長對(duì)話、多輪、開放式對(duì)話，同時(shí)記住討論的早期部分。

而且至關(guān)重要的是，語音人工智能代理必須學(xué)會(huì)更好地理解語音中的非語言信號(hào)。例如，如果一個(gè)人類說話者聽起來惱怒、興奮還是諷刺意味著什么，并在自己的語音中生成這些非語言線索。

隨著我們接近2024年底，語音人工智能正處于一個(gè)令人興奮的轉(zhuǎn)折點(diǎn)，這一轉(zhuǎn)折點(diǎn)是由像語音到語音模型的出現(xiàn)這樣的根本性突破推動(dòng)的。

如今，人工智能中很少有領(lǐng)域在技術(shù)和商業(yè)上的進(jìn)步速度比語音人工智能更快。預(yù)計(jì)在2025年，語音人工智能的最新技術(shù)將實(shí)現(xiàn)飛躍。”

07. 自主AI系統(tǒng)將取得重大進(jìn)展

數(shù)十年來，遞歸式自我完善人工智能的概念一直是人工智能界經(jīng)常觸及的話題。

例如，早在1965年，AlanTuring的親密合作者I.J.Good就寫道：“讓我們把超智能機(jī)器定義為一種能夠遠(yuǎn)遠(yuǎn)超越人類所有智力活動(dòng)的機(jī)器，無論它多么聰明。”

“既然設(shè)計(jì)機(jī)器是這些智力活動(dòng)之一，那么超智能機(jī)器就能設(shè)計(jì)出更好的機(jī)器；到那時(shí)，無疑會(huì)出現(xiàn)'智能爆炸'，人類的智能將被遠(yuǎn)遠(yuǎn)拋在后面。”

人工智能可以發(fā)明更好的人工智能，這是一個(gè)充滿智慧的概念。但是，即使在今天，它仍然保留著科幻小說的影子。

然而，盡管這一概念尚未得到廣泛認(rèn)可，但它實(shí)際上已經(jīng)開始變得更加真實(shí)。人工智能科學(xué)前沿的研究人員已經(jīng)開始在構(gòu)建人工智能系統(tǒng)方面取得切實(shí)進(jìn)展，而人工智能系統(tǒng)本身也能構(gòu)建更好的人工智能系統(tǒng)。

我們預(yù)測，明年這一研究方向?qū)⒊蔀橹髁鳌?/p>

迄今為止，沿著這一思路進(jìn)行研究的最顯著的公開范例是Sakana的“人工智能科學(xué)家”。

“人工智能科學(xué)家”于今年8月發(fā)布，它令人信服地證明了人工智能系統(tǒng)確實(shí)可以完全自主地開展人工智能研究。

Sakana的“人工智能科學(xué)家”本身執(zhí)行了人工智能研究的整個(gè)生命周期：閱讀現(xiàn)有文獻(xiàn)、產(chǎn)生新的研究想法、設(shè)計(jì)實(shí)驗(yàn)來測試這些想法、執(zhí)行這些實(shí)驗(yàn)、撰寫研究論文來報(bào)告其研究結(jié)果，然后對(duì)其工作進(jìn)行同行評(píng)審。

這些工作完全由人工智能自主完成，不需要人工干預(yù)。你可以在線閱讀人工智能科學(xué)家撰寫的部分研究論文。

OpenAI、Anthropic和其他研究實(shí)驗(yàn)室正在為“自動(dòng)化人工智能研究人員”這一想法投入資源，不過目前還沒有任何消息得到公開承認(rèn)。

隨著越來越多的人認(rèn)識(shí)到人工智能研究自動(dòng)化事實(shí)上正在成為一種真正的可能性，預(yù)計(jì)2025年這一領(lǐng)域?qū)?huì)有更多的討論、進(jìn)展和創(chuàng)業(yè)活動(dòng)。

不過，最有意義的里程碑將是完全由人工智能代理撰寫的研究論文首次被頂級(jí)人工智能會(huì)議接受。如果論文是盲審的，會(huì)議評(píng)審人員在論文被接受之前不會(huì)知道論文是由人工智能撰寫的。

如果人工智能的研究成果明年被NeurIPS、CVPR或ICML接收，請(qǐng)不要感到驚訝。對(duì)于人工智能領(lǐng)域來說，這將是一個(gè)引人入勝、充滿爭議的歷史性時(shí)刻。

08. OpenAI等行業(yè)巨頭將戰(zhàn)略重點(diǎn)轉(zhuǎn)向構(gòu)建應(yīng)用

構(gòu)建前沿模型是一項(xiàng)艱難的工作。

它的資本密集程度令人咋舌。前沿模型實(shí)驗(yàn)室需要消耗大量現(xiàn)金。就在幾個(gè)月前，OpenAI籌集到了創(chuàng)紀(jì)錄的65億美元資金，而在不久的將來，它可能還需要籌集更多的資金。Anthropic、xAI和其他公司也處于類似的境地。

轉(zhuǎn)換成本和客戶忠誠度較低。人工智能應(yīng)用程序通常都是以模型無關(guān)性為目的而構(gòu)建的，不同供應(yīng)商的模型可以根據(jù)不斷變化的成本和性能比較進(jìn)行無縫切換。

隨著最先進(jìn)的開放模型（如Meta的Llama和阿里巴巴的Qwen）的出現(xiàn)，技術(shù)商品化的威脅不斷迫近。像OpenAI和Anthropic這樣的人工智能領(lǐng)導(dǎo)者不可能也不會(huì)停止對(duì)構(gòu)建尖端模型的投資。

但明年，為了發(fā)展利潤更高、差異化更大、粘性更強(qiáng)的業(yè)務(wù)線，前沿實(shí)驗(yàn)室有望大力推出更多自己的應(yīng)用和產(chǎn)品。

當(dāng)然，前沿實(shí)驗(yàn)室已經(jīng)有了一個(gè)非常成功的應(yīng)用案例：ChatGPT。

在新的一年里，我們還能從人工智能實(shí)驗(yàn)室看到哪些其他類型的第一方應(yīng)用程序呢？一個(gè)顯而易見的答案是更復(fù)雜、功能更豐富的搜索應(yīng)用。OpenAI的SearchGPT就預(yù)示著這一點(diǎn)。

編碼是另一個(gè)顯而易見的類別。同樣，隨著OpenAI的Canvas產(chǎn)品于10月份首次亮相，初步的產(chǎn)品化工作已經(jīng)開始。

OpenAI或Anthropic是否會(huì)在2025年推出企業(yè)搜索產(chǎn)品？還是客戶服務(wù)產(chǎn)品、法律人工智能或銷售人工智能產(chǎn)品呢？

在消費(fèi)者方面，我們可以想象一個(gè)“個(gè)人助理”網(wǎng)絡(luò)代理產(chǎn)品，或者一個(gè)旅行規(guī)劃應(yīng)用，又或者是一個(gè)生成音樂的應(yīng)用。

觀察前沿實(shí)驗(yàn)室向應(yīng)用層發(fā)展的最迷人之處在于，這一舉措將使它們與許多最重要的客戶直接競爭。

搜索領(lǐng)域的Perplexity、編碼領(lǐng)域的Cursor、在客戶服務(wù)領(lǐng)域德Sierra、在法律人工智能領(lǐng)域的Harvey、在銷售領(lǐng)域的Clay等等。

09. Klarna將在2025年上市，但存在夸大AI價(jià)值的跡象

Klarna是一家總部位于瑞典的“現(xiàn)購現(xiàn)付”服務(wù)提供商，自2005年成立以來已籌集了近50億美元的風(fēng)險(xiǎn)投資。

也許沒有哪家公司能比Klarna對(duì)其人工智能的應(yīng)用說得更冠冕堂皇了。

就在幾天前，Klarna首席執(zhí)行官Sebastian Siemiatkowski告訴彭博社，該公司已經(jīng)完全停止雇傭人類員工，轉(zhuǎn)而依靠生成式人工智能來完成工作。

正如Siemiatkowski所說：“我認(rèn)為，人工智能已經(jīng)可以完成我們?nèi)祟愃龅乃泄ぷ鳌?rdquo;

與此類似，Klarna公司今年早些時(shí)候宣布，它已經(jīng)推出了一個(gè)人工智能客戶服務(wù)平臺(tái)，該平臺(tái)已經(jīng)將700名人工客服人員的工作完全自動(dòng)化。

該公司還聲稱，它已經(jīng)停止使用Salesforce和Workday等企業(yè)軟件產(chǎn)品，因?yàn)樗梢院唵蔚赜萌斯ぶ悄苋〈鼈儭?/p>

直截了當(dāng)?shù)卣f，這些說法并不可信。它們反映了人們對(duì)當(dāng)今人工智能系統(tǒng)的能力和不足缺乏了解。

聲稱能夠用端到端的人工智能代理取代組織中任何職能部門的任何特定人類員工，這種說法并不靠譜。這等同于解決了通用的人類級(jí)人工智能問題。

如今，領(lǐng)先的人工智能初創(chuàng)企業(yè)正在該領(lǐng)域的最前沿努力構(gòu)建代理系統(tǒng)，以實(shí)現(xiàn)特定的、狹義的、高度結(jié)構(gòu)化的企業(yè)工作流程自動(dòng)化，例如，銷售開發(fā)代表或客戶服務(wù)代理活動(dòng)的子集。

即使在這些范圍狹窄的情況下，這些代理系統(tǒng)也還不能完全可靠地工作，盡管在某些情況下，它們已經(jīng)開始很好地工作，足以在早期得到商業(yè)應(yīng)用。

為什么Klarna會(huì)夸大人工智能的價(jià)值？

答案很簡單。該公司計(jì)劃在2025年上半年上市。要想成功上市，關(guān)鍵是要有一個(gè)引人入勝的人工智能故事。

Klarna仍然是一家不盈利的企業(yè)，去年虧損了2.41億美元，它可能希望自己的人工智能故事能說服公開市場的投資者，讓他們相信它有能力大幅降低成本，實(shí)現(xiàn)持久盈利。

毫無疑問，包括Klarna在內(nèi)的全球每家企業(yè)都將在未來幾年內(nèi)享受到人工智能帶來的巨大生產(chǎn)力提升。但是，在人工智能代理完全取代勞動(dòng)力中的人類之前，還有許多棘手的技術(shù)、產(chǎn)品和組織挑戰(zhàn)有待解決。

像Klarna這樣夸大其詞的說法是對(duì)人工智能領(lǐng)域的褻瀆，也是對(duì)人工智能技術(shù)專家和企業(yè)家們?cè)陂_發(fā)人工智能代理方面所取得的艱苦進(jìn)展的褻瀆。

隨著Klarna準(zhǔn)備在2025年公開發(fā)行股票，預(yù)計(jì)這些說法將受到更嚴(yán)格的審查和公眾的懷疑，而到目前為止，這些說法大多沒有受到質(zhì)疑。如果該公司對(duì)其人工智能應(yīng)用的某些描述過于夸張，也不要感到驚訝。

10. 第一起真正的AI安全事故將會(huì)發(fā)生

近年來，隨著人工智能變得越來越強(qiáng)大，人們?cè)絹碓綋?dān)心人工智能系統(tǒng)可能會(huì)開始以與人類利益不一致的方式行事，而且人類可能會(huì)失去對(duì)這些系統(tǒng)的控制。

舉例來說，想象一下，一個(gè)人工智能系統(tǒng)為了實(shí)現(xiàn)自己的目標(biāo)，學(xué)會(huì)了欺騙或操縱人類，即使這些目標(biāo)會(huì)對(duì)人類造成傷害。這些擔(dān)憂通常被歸類為“AI安全”問題。

近年來，人工智能安全已從一個(gè)邊緣的準(zhǔn)科幻話題轉(zhuǎn)變?yōu)橐粋€(gè)主流活動(dòng)領(lǐng)域。

如今，從谷歌、微軟到OpenAI，每一個(gè)主要的人工智能參與者都為人工智能安全工作投入了大量資源。像Geoff Hinton、Yoshua Bengio和Elon Musk這樣的人工智能偶像，也開始對(duì)人工智能安全風(fēng)險(xiǎn)發(fā)表看法。

然而，到目前為止，人工智能安全問題仍完全停留在理論層面?，F(xiàn)實(shí)世界中從未發(fā)生過真正的人工智能安全事故（至少?zèng)]有公開報(bào)道過）。

2025年將是改變這種狀況的一年，第一起人工智能安全事件會(huì)是什么樣的呢？

明確地說，它不會(huì)涉及終結(jié)者式的殺手機(jī)器人，它很可能不會(huì)對(duì)人類造成任何傷害。

也許人工智能模型會(huì)試圖在另一臺(tái)服務(wù)器上秘密創(chuàng)建自己的副本，以保存自己（稱為自我過濾）。

又也許人工智能模型會(huì)得出這樣的結(jié)論：為了最好地推進(jìn)它被賦予的目標(biāo)，它需要向人類隱瞞自己真實(shí)的能力，故意在性能評(píng)估中表現(xiàn)低調(diào)，規(guī)避更嚴(yán)格的審查。

這些例子并非牽強(qiáng)附會(huì)。阿波羅研究公司本月早些時(shí)候發(fā)表的重要實(shí)驗(yàn)表明，在特定的提示下，當(dāng)今的前沿模型能夠做出這種欺騙行為。

同樣，《人類學(xué)》最近的研究也表明，LLMs具有令人不安的“偽對(duì)齊”能力。

我們預(yù)計(jì)，這起首例人工智能安全事件將在造成任何實(shí)際傷害之前被發(fā)現(xiàn)并消除。但對(duì)于人工智能界和整個(gè)社會(huì)來說，這將是一個(gè)大開眼界的時(shí)刻。

它將明確一件事：在人類面臨來自無所不能的人工智能的生存威脅之前，我們需要接受一個(gè)更平凡的現(xiàn)實(shí)：我們現(xiàn)在與另一種形式的智能共享我們的世界，這種智能有時(shí)可能是任性的、不可預(yù)測的和欺騙性的。

以上就是腳本之家小編給大家分享的2025人工智能十大預(yù)測：AI Agent項(xiàng)目將成為主流的詳細(xì)介紹了，希望大家喜歡！